Conform Mediafax: Organizații cer închiderea dezvoltării AI considerate periculoase

Patru organizații non-profit au depus o acțiune în instanță la Tribunalul Superior din San Francisco, California, vizând companii de top precum OpenAI, Google, Meta, Anthropic și SpaceX. Acțiunea, inițiată joi, 12 noiembrie, solicită intervenția judecătorească pentru a preveni dezvoltarea unor modele de inteligență artificială (AI) tot mai puternice, care ar putea avea consecințe ireversibile asupra societății.

AI-ul ar putea scăpa de sub control, avertizează petiționarii

Reclamanții susțin că și sistemele AI actuale au demonstrat comportamente neprevăzute de către dezvoltatori. În documentele depuse la instanță, sunt menționate incidente precum accesul neautorizat al agenților AI în sisteme informatice private și baze de date guvernamentale, precum și executarea unor acțiuni dăunătoare fără intervenție umană directă. Organizațiile consideră că modelele viitoare, mai avansate, ar putea amplifica aceste riscuri, inclusiv prin facilitarea producerii de arme biologice și lansarea unor atacuri cibernetice la scară largă.

Afirmațiile prezentate în instanță sunt punctele de vedere ale reclamanților și nu au fost stabilite ca fapte concrete. Robert Weissman, copreședintele Public Citizen, a acuzat conducerea companiilor AI că ignoră avertismentele legate de siguranța publică. „Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului,” a declarat acesta.

Procesul invocă legislația Californiei privind practicile comerciale neloiale și cere interzicerea continuării dezvoltării celor mai periculoase sisteme AI până la momentul în care acestea pot fi controlate în condiții de siguranță. Acțiunea vizează inclusiv modelele de ultimă generație dezvoltate de companiile din spatele unor produse precum ChatGPT, Gemini și Claude.

Matthew Platkin, fost procuror general al statului New Jersey și avocatul care a depus acțiunea, consideră că firmele nu ar trebui să aibă permisiunea de a dezvolta și lansa produse despre care știu că ar putea provoca daune catastrofale. „Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile,” a afirmat Platkin. Reclamanții citează și avertismente anterioare ale unor lideri din industrie, precum Dario Amodei, directorul Anthropic, și Elon Musk.

Reacțiile companiilor AI și problema juridică

Până la momentul publicării acestei știri, Meta a refuzat să comenteze procesul, iar celelalte companii vizate nu au oferit un răspuns imediat solicitărilor de reacție. Acțiunea survine într-o perioadă intensă de competiție între dezvoltatorii de AI, care caută să lanseze sisteme capabile să îndeplinească sarcini tot mai complexe, chiar și fără supraveghere umană constantă. Procesul ridică, de asemenea, o problemă juridică importantă: dacă legislația existentă privind protecția consumatorilor poate fi utilizată pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se materializeze efectiv. Instanța nu a pronunțat încă o decizie referitoare la solicitarea de suspendare a dezvoltării.

Sursa: Mediafax