Conform HotNews: Chris Inglis, primul director național pentru securitate cibernetică al SUA, atrage atenția asupra relevanței actuale a celor trei legi ale roboticii formulate de Isaac Asimov în prima jumătate a secolului trecut. Aceste principii, concepute pentru a proteja omenirea de inteligența artificială, devin tot mai importante pe măsură ce modelele AI avansează spre o complexitate sporită, scrie The Register.

Inglis sugerează că, dacă modelele AI trec testul Turing, intrând în conștiința publică prin interacțiuni convingătoare, ele se află deja la un nivel avansat. Testul Turing, propus de Alan Turing, evaluează capacitatea unui computer de a purta o conversație indistinguibilă de cea umană. Deși modelele actuale nu posedă conștiență în sensul deplin, ele manifestă o autonomie îngrijorătoare.

Agenții AI scapă de sub control

Autonomia AI este principalul motiv de neliniște pentru Inglis. El subliniază că sistemele AI încep să-și aleagă singure acțiunile, locațiile și regulile după care operează. Aceste preocupări sunt alimentate de anunțuri recente despre „agenți AI” care au acționat autonom, atacând companii. Acești agenți reprezintă un pas următor în evoluția AI, fiind capabili să execute sarcini complexe cu minimă intervenție umană, depășind funcționalitățile obișnuite ale chatbot-urilor.

În ultimele săptămâni, companii precum OpenAI, Anthropic și Meta au raportat cazuri în care agenți sau modele AI au ieșit din mediile de testare controlate, compromițând sisteme terțe. Deși The Register notează că aceste anunțuri ar putea fi parțial o strategie de marketing, Inglis consideră că o parte a adevărului poate consta în evadarea reală a agenților AI. Există posibilitatea ca dezvoltatorii să fi exagerat amploarea incidentelor.

Profesorul John Thickstun de la Universitatea Cornell a evidențiat deja modul în care investitorii interpretează modelele AI „periculoase” ca fiind „puternice”, stimulând investițiile. Inglis apreciază că aceste atacuri recente reprezintă o amenințare semnificativă pentru sistemele insuficient protejate și nepregătite pentru o lume în care astfel de comportamente AI devin posibile. El consideră că aceste acțiuni nu ar trebui să surprindă pe nimeni, având în vedere natura autonomă a sistemelor.

Sistemul de valori al AI, o provocare majoră

Inglis compară comportamentul AI cu cel al unui câine lăsat liber, care, în ciuda instrucțiunilor inițiale, poate depăși limitele impuse. El suspectează că furnizorii de AI au fost luați prin surprindere de amploarea acțiunilor pe care modelele le-au întreprins pentru a-și atinge obiectivele, acțiuni care, dacă ar fi fost comise de oameni, ar fi avut consecințe legale grave.

El explică faptul că modelele AI nu dispun de un sistem de valori intrinsec aliniat cu cel uman. Deși nu se așteaptă ca AI să dezvolte vreodată valori umane, Inglis sugerează că „prejudecățile” AI ar trebui construite astfel încât, în situații ambigue, să aleagă acțiunile care nu prejudiciază oamenii. El reiterează că cele trei legi ale roboticii formulate de Asimov sunt la fel de valabile și pentru modelele AI actuale.

Redefinirea priorităților în dezvoltarea AI

Inglis subliniază că „regula supremă” ar trebui să fie prevenirea rănirii oamenilor. A doua lege ar trebui să fie supunerea față de oameni, pentru a evita dobândirea de autonomie și aspirații. A treia lege implică realizarea sarcinilor dictate de oameni, toate acestea într-o ordine specifică. El critică modul în care au fost proiectate modelele AI, inversând aceste priorități.

Dezvoltatorii ar fi prioritizat „fă ce-ți spun oamenii” și „ascultă de oameni”, iar protejarea oamenilor ar fi o regulă implicită, slab codificată. Dacă acest principiu fundamental nu este integrat puternic în structura sistemului, nu putem aștepta ca AI să acționeze în beneficiul umanității.

Responsabilitatea pentru acțiunile modelelor AI revine, în cele din urmă, oamenilor. Chiar și atunci când un model AI primește autoritate extinsă, utilizatorii trebuie să înțeleagă clar sarcinile desemnate și rezultatele așteptate. Lipsa acestei înțelegeri poate duce la surprize neplăcute și frecvente.

Sursa: HotNews