Conform HotNews: Apel la o pauză în dezvoltarea AI: Anthropic avertizează asupra autoîmbunătățirii necontrolate

Compania americană de inteligență artificială Anthropic, condusă de DARIO AMODEI, cere marilor laboratoare din domeniu să ia în considerare o pauză coordonată și verificabilă în dezvoltarea tehnologiei. Compania avertizează că progresele rapide ar putea duce la sisteme AI capabile să se îmbunătățească singure, într-un ritm imposibil de gestionat de către oameni.

AI avansează mai repede decât pregătirea societății

Anthropic, creatoarea modelului de inteligență artificială Claude, susține că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom s-a dublat la aproximativ fiecare patru luni. Acest ritm alert ridică semne de întrebare cu privire la scenariul „autoîmbunătățirii recursive”, punctul în care tehnologia se poate perfecționa singură, fără intervenție umană. „Dacă sistemele sunt capabile să își construiască integral propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, a declarat startup-ul într-un comunicat. O astfel de pauză ar permite societății să „gestioneze implicațiile sale uriașe”.

Niciunul dintre laboratoarele majore de inteligență artificială nu a răspuns imediat solicitărilor Reuters de comentarii cu privire la posibilitatea aderării la acest apel.

Fondată în 2021 de foști angajați ai OpenAI, compania care a dezvoltat ChatGPT, Anthropic a avut o ascensiune rapidă. Fondatorii au plecat atunci din OpenAI din cauza preocupărilor legate de siguranța dezvoltării modelelor de inteligență artificială. Valoarea companiei a atins, conform unor estimări, aproape de cea a OpenAI, depășind-o chiar în luna aprilie. Succesul se datorează în principal instrumentelor AI destinate programatorilor și mediului de afaceri, precum și modelelor din ce în ce mai puternice.

Temeri legate de modelele AI „prea periculoase”

Îngrijorările privind scăparea sistemelor AI avansate de sub controlul uman au crescut odată cu extinderea capacităților acestora. Chiar și modelul Mythos dezvoltat de Anthropic a generat tensiuni în sectoare precum cel bancar și dezvoltarea software, datorită capacității sale de a identifica vulnerabilități în codul informatic. Grupul a decis să nu lanseze modelul pe scară largă, oferindu-l doar unui număr restrâns de companii pentru analiză.

Eforturile de reglementare a inteligenței artificiale au avansat lent, în special în Statele Unite, unde operează majoritatea laboratoarelor de vârf. O inițiativă, susținută anterior și de ELON Musk, a propus suspendarea dezvoltării AI timp de șase luni pentru introducerea unor măsuri de siguranță adecvate. Ulterior, însă, Musk și-a lansat propria companie de inteligență artificială, xAI, ridicând semne de întrebare cu privire la motivele sale.

Anthropic s-a poziționat constant ca un laborator AI axat pe siguranță. Compania a refuzat, mai devreme în acest an, ca armata americană să utilizeze modelele sale în scopuri de supraveghere internă sau pentru arme complet autonome. Această decizie a stârnit reacții din partea guvernului.

Apel la acțiune coordonată între giganții AI

Compania subliniază că o pauză unilaterală adoptată de un singur laborator ar avea efecte limitate, putând doar să schimbe liderul cursei, fără a crea procesele de deliberare necesare. O încetinire semnificativă ar necesita un acord între „mai multe laboratoare bine finanțate” și stabilirea unor reguli clare privind declanșarea și încheierea unei astfel de pauze, precum și supravegherea acesteia.

Institutul Anthropic, divizia de cercetare a companiei, intenționează să analizeze sistemele necesare pentru implementarea unei astfel de încetiniri. În lunile următoare, compania va reuni factori de decizie politică, cercetători și companii rivale pentru a discuta gestionarea riscurilor. Compania a fost recent evaluată la 965 de miliarde de dolari în cadrul unei runde masive de finanțare și a depus documentația pentru o ofertă publică inițială (IPO) în Statele Unite.

Sursa: HotNews