Conform Mediafax: OpenAI cere „pauză” în dezvoltarea inteligenței artificiale. Sefii industriei, printre cei care susțin frânarea curselor pentru inovație. Propuneri de reglementare și siguranță.

Sam Altman, CEO-ul OpenAI, a cerut explicit o temperare a ritmului de dezvoltare în industria inteligenței artificiale (AI), subliniind necesitatea ca marile companii americane să ofere garanții publice privind acțiunile responsabile. Această inițiativă vine ca răspuns la accelerarea rapidă a progresului în domeniul AI, o preocupare vocalizată anterior și de alți lideri din industrie, precum Dario Amodei, Elon Musk și Demis Hassabis.

Auditori independenți și standarde comune, printre soluții

Altman susține implementarea unui cadru federal care să stabilească cerințe clare de siguranță pentru cele mai avansate sisteme AI. El consideră că nu este necesar să se aștepte o legislație specifică sau excepții antitrust pentru a începe construirea încrederii publice. Printre soluțiile propuse se numără instituirea unor auditori independenți, capabili să verifice modul în care companiile gestionează riscurile asociate cu AI. De asemenea, se pledează pentru adoptarea unor standarde comune la nivelul industriei privind monitorizarea modelelor AI și implementarea unor măsuri de siguranță.

Schimbarea de ritm, necesară în fața capabilităților crescute ale AI

Potrivit lui Altman, politicile de siguranță anterioare ale companiilor AI au fost concepute într-o epocă diferită, când principalul risc viza lansarea unui produs finit. Situația s-a modificat radical odată cu creșterea exponențială a capabilităților și autonomiei modelelor AI. El avertizează că presiunea competitivă nu poate justifica asumarea unor riscuri excesive, iar dezvoltarea capacităților nu trebuie să depășească alinierea și monitorizarea.

OpenAI a anunțat deja măsuri concrete în acest sens, inclusiv suspendarea temporară a unor sesiuni de antrenare și extinderea controalelor de securitate, ca urmare a unor incidente care au ridicat semne de întrebare. Compania speră ca și alte firme din domeniu să adopte abordări similare și să dezvolte propriile soluții pentru gestionarea riscurilor. Propunerea generală vizează o cooperare internațională mai strânsă și evaluatori independenți cu acces la sistemele companiilor, precum și standarde comune de siguranță. Altman a declarat că progresul în AI a fost rapid și va continua, dar ar trebui să fie mai lent decât ar putea fi în alte condiții.

Sursa: Mediafax