Un angajament financiar masiv, promis de CEO-ul OpenAI, SAM ALTMAN pentru cercetarea siguranței inteligenței artificiale, nu s-a concretizat. Promisiunea, anunțată cu scopul de a atrage cercetători, a fost ulterior diminuată, ridicând semne de întrebare cu privire la prioritățile companiei.

Promisiuni mari, fonduri mici

În 2022, SAM ALTMAN a discutat cu un student universitar despre îngrijorările sale legate de „alinierea” inteligenței artificiale, un concept care se referă la modul în care sistemele AI pot fi programate pentru a acționa în concordanță cu valorile umane. ALTMAN a sugerat că ar putea investi un miliard de dolari în acest domeniu. Intenția sa a convins studentul să se alăture OpenAI.

Ulterior, ALTMAN a renunțat la ideea unui premiu și a propus în schimb crearea unei echipe interne de „superaliniere”. Echipa urma să primească 20% din resursele de calcul ale companiei. Cu toate acestea, resursele reale alocate au fost mult mai mici, estimările variind între 1% și 2%.

Prioritățile discutabile ale OpenAI

Cercetătorii din cadrul echipei de superaliniere au constatat că o parte semnificativă din resursele de calcul erau reprezentate de echipamente mai vechi și mai puțin performante. Se crede că hardware-ul superior era rezervat activităților generatoare de profit. O angajată OpenAI a încercat să ridice problema, dar a fost sfătuită să renunțe.

În aceeași perioadă, ILYA SUTSKEVER, un alt lider important la OpenAI, a început să-și exprime îngrijorarea crescută cu privire la riscurile legate de inteligența artificială, sugerând că angajații ar putea fi nevoiți să se concentreze exclusiv pe siguranță. Echipa de superaliniere a fost dizolvată anul următor, fără a-și atinge obiectivele.

Omițeri care ridică semne de întrebare

O altă problemă a apărut când SAM ALTMAN a prezentat consiliului de administrație informații despre modelul GPT-4. Acesta a asigurat membrii consiliului că anumite funcții au fost aprobate de un comitet de siguranță. S-a descoperit, însă, că funcțiile cele mai controversate nu fuseseră aprobate.

Mai mult, ALTMAN nu a menționat că MICROSOFT lansase o versiune timpurie a ChatGPT în INDIA fără o analiză de siguranță adecvată. Un cercetător OpenAI a confirmat că această omisiune a fost considerată o problemă majoră.

Sursa: Newyorker.com