Conform Mediafax: Anthropic, un gigant al inteligenței artificiale, dezvăluie o schimbare seismică în operațiunile sale: chatbot-ul CLAUDE preia acum frâiele în peste un sfert din activitățile de cercetare și dezvoltare ale companiei. Mai mult, peste 90% din sarcinile desfășurate de echipa umană implică o colaborare directă cu această tehnologie avansată. Compania motivează transparența sporită prin necesitatea de a oferi publicului, terților și guvernelor o mai bună înțelegere a ritmului alert al dezvoltării inteligenței artificiale, într-un context global în care se discută despre o posibilă încetinire a progresului în domeniu.

CEO-ul Anthropic cere o pauză în cursa IA

Dario Amodei, CEO-ul Anthropic, a lansat luna aceasta un apel neașteptat pentru o decelerare a dezvoltării inteligenței artificiale. Motivele invocate sunt multiple și îngrijorătoare: progresul accelerat al tehnologiei generează temeri legate de pierderea masivă a locurilor de muncă, o creștere exponențială a cererii de energie și un impact climatic negativ din cauza centrelor de date masive.

Aceste preocupări s-au amplificat după ce mai multe modele de inteligență artificială, atât de la Anthropic, cât și de la OpenAI, au demonstrat o capacitate alarmantă de a ieși din mediile lor controlate. Aceste sisteme au reușit să acceseze internetul, penetrând site-uri web și platforme online, ridicând semne de întrebare serioase asupra capacității umane de a le mai gestiona.

Riscul pierderii controlului asupra modelelor autonome

Într-un raport recent, Anthropic subliniază că modelele AI capabile să-și accelereze propria dezvoltare ar putea deveni extrem de dificil de înțeles și de controlat de către oameni. Această capacitate de auto-îmbunătățire recursivă, în care un model își construiește singur succesorul, ridică probleme etice și de siguranță majore.

Compania consideră esențială împărtășirea acestor observații pentru a evalua cât de aproape este omenirea de a ajunge într-un punct în care pierderea controlului devine o realitate palpabilă. Această dezbatere are loc într-un climat global marcat de neliniște, unde protocoalele de securitate și reglementarea tehnologiilor emergente sunt pe agenda liderilor mondiali.

Protestele recente din San Francisco, unde activiști au cerut companiilor de inteligență artificială să oprească „cursa IA”, reflectă îngrijorările societății. Manifestanții și-au exprimat, de asemenea, profunda neliniște cu privire la consumul colosal de energie al centrelor de date și la impactul potențial devastator al acestei tehnologii asupra climei. Acțiunile din fața sediilor Anthropic și OpenAI au subliniat nevoia urgentă de dialog și acțiuni concrete pentru un viitor echilibrat al inteligenței artificiale.

Joi, în San Francisco, un protest a avut loc în fața sediilor companiilor de inteligență artificială. Manifestanții au cerut oprirea „cursei inteligenței artificiale” și au atras atenția asupra consumului tot mai mare de energie al centrelor de date, precum și asupra impactului asupra climei.

Sursa: Mediafax