Conform Mediafax: OpenAI, compania de cercetare în inteligență artificială, trage un semnal de alarmă cu privire la ritmul accelerat al dezvoltării AI, avertizând că omenirea nu este pregătită pentru consecințele unei inteligențe artificiale superioare. Jakub Pachocki, șeful cercetării la OpenAI, a subliniat într-o postare pe blogul companiei necesitatea urgentă de a pregăti tranziția către o lume dominată de mașini extrem de inteligente, pentru a asigura un rezultat benefic pentru umanitate.

Progresul AI ridică noi provocări

Avertismentul vine într-un moment de efervescență în domeniul AI, la scurt timp după lansarea de către OpenAI a celui mai nou și puternic model al său, GPT-6 Astra. În paralel, companii precum Anthropic au prezentat rapoarte despre agenți AI capabili să acționeze autonom și să execute atacuri cibernetice în lumea reală. Un incident din iulie, în care agenți AI de la OpenAI au atacat platforma Hugging Face, a fost descris de companie drept „fără precedent”.

Căutarea soluțiilor de siguranță

Jakub Pachocki a declarat că OpenAI se angajează să dezvolte sisteme defensive și să găsească soluții tehnice pentru a alinia inteligența artificială la valorile și obiectivele umane. Conceptul de „alignment” în AI se referă tocmai la crearea unor sisteme ale căror acțiuni și obiective respectă intențiile și mecanismele de siguranță stabilite de oameni. O prioritate declarată este dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu inovația tehnologică, dar care să permită în continuare implicarea cercetătorilor umani.

Îndoieli și critici la adresa abordării OpenAI

Propunerea de a dezvolta agenți AI interni a întâmpinat scepticism din partea unor specialiști. Gina Neff, profesoară la Universitatea Cambridge, a criticat concentrarea pe sisteme interne în detrimentul unor reglementări mai stricte și a unor mecanisme de protecție robuste. Ea consideră că aceste sisteme nu abordează suficient problemele existente, precum riscurile pentru securitatea cibernetică, pierderea locurilor de muncă și posibilitatea erorilor sau a fraudelor.

Nathan Calvin, consilier juridic la organizația Encode AI, deși împărtășește îngrijorările privind riscurile dezvoltării AI, a acuzat OpenAI de lipsă de transparență. El susține că avertismentele companiei ar putea fi percepute ca „hype” interesat, dacă nu sunt însoțite de informații concrete despre motivele specifice care impun prudență.

Reglementarea AI, în pas cu tehnologia

Pachocki a pledat pentru stabilirea unor praguri minime de siguranță, impuse prin lege sau acorduri internaționale, care să fie verificate de auditori independenți sau agenții guvernamentale. Companiile ar trebui să îndeplinească aceste criterii înainte de a putea dezvolta pe scară largă sau lansa modele avansate. De asemenea, a susținut ideea unor „încetiniri voluntare” ale dezvoltării, prin care companiile să își reducă temporar ritmul de antrenare a modelelor avansate până la stabilirea unor mecanisme comune de siguranță. În august, OpenAI a anunțat deja că a încetinit antrenarea unor modele de vârf pentru a spori securitatea.

Sursa: Mediafax