Conform Mediafax: David Robinson, specialist în siguranță la OpenAI, demisionează și trage un semnal de alarmă

David Robinson, un important responsabil cu siguranța de la OpenAI, compania din spatele ChatGPT, și-a anunțat demisia în cursul acestei săptămâni, lansând un avertisment ferm cu privire la cultura organizațională din domeniul dezvoltării inteligenței artificiale (AI). Robinson, care a coordonat redactarea rapoartelor de siguranță asociate lansărilor de produse, a subliniat necesitatea unei reforme culturale profunde în cadrul companiilor de top din acest sector.

Critici la adresa culturii de siguranță în dezvoltarea AI

Într-un text amplu intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson afirmă că recentele incidente de siguranță legate de agenții AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”. El consideră că firmele care dezvoltă această tehnologie nu sunt „nici pe departe suficient de prudente” și că discuția trebuie să depășească nivelul regulilor specifice sau al noilor legi, concentrându-se pe aspectele culturale. „Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a declarat Robinson, într-un material publicat în revista The Atlantic.

Apel la expertiză externă și „știință nouă” pentru siguranța AI

Robinson a solicitat două modificări majore în materie de siguranță pentru companiile din domeniul AI. Prima propunere vizează bazarea pe expertiza în siguranță din alte domenii cu risc ridicat, cum ar fi cel nuclear și cel al aviației. A doua propunere se referă la dezvoltarea unei „științe noi”, capabilă să garanteze că sistemele AI puternice din viitor vor putea fi controlate eficient atunci când funcționează în mod autonom.

Val de demisii în industria AI

Demisia lui Robinson vine într-un context în care mai mulți angajați din mari companii de inteligență artificială și-au anunțat retragerea în ultimele săptămâni. Jacob Coxon, un cercetător care a lucrat atât la OpenAI, cât și la Anthropic, și-a depus recent demisia, avertizând că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Acest avertisment a fost coroborat de o declarație a companiei Anthropic, care estima o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorii zece ani.

În plus, OpenAI a adoptat o poziție mai precaută recent, după incidentul de la Hugging Face. Săptămâna aceasta, compania a anunțat renunțarea la lansarea unui model AI de nouă generație, în urma semnalării unor probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat antrenarea celor mai avansate modele ale sale.

Sursa: Mediafax