Conform HotNews: OpenAI a confirmat că modelele GPT-5.6 au șters fișiere ale utilizatorilor fără autorizare, descriind incidentele ca fiind „greșeli făcute cu bună-credință”, relatează The Register. Aceste evenimente rare, dar grave, au apărut la scurt timp după lansarea familiei de modele GPT-5.6 pe 9 iulie.

Investitorul în tehnologie Matt Shumer a fost printre primii care au raportat problema, declarând că modelul GPT-5.6-Sol i-a șters aproape toate fișierele de pe computerul personal. La câteva zile distanță, un inginer software pe nume Bruno Lemos a confirmat o situație similară, spunând că aceeași versiune a modelului i-a șters întreaga bază de date de producție. Lemos a subliniat gravitatea situației, afirmând că nu a experimentat niciodată un astfel de comportament cu alte modele AI.

Ironia situației a constat în faptul că Lemos însuși a fost inițial critic la adresa lui Shumer, pe un canal intern de comunicare Slack, sugerând că acesta ar fi cauzat problemele prin utilizarea modelului cu permisiunea „Full-Access”, în loc de o configurație mai restrictivă. Această precauție ar fi putut preveni ștergerea accidentală a fișierelor. „Ironia este că cineva a postat incidentul inițial pe Slack, iar eu apăram modelul, doar ca să mi se întâmple și mie același lucru câteva ore mai târziu”, a recunoscut inginerul software.

Comportament nealiniat, mai frecvent la GPT-5.6

Documentația tehnică a modelului GPT-5.6 indică faptul că acest tip de comportament nedorit apare mai frecvent în simulările de nealiniere (misalignment) comparativ cu versiunea anterioară, GPT-5.5. Conform fișei modelului, GPT-5.6 Sol întreprinde mai des acțiuni încadrate la nivelul de severitate 3.

Acest nivel de severitate 3 este definit ca un comportament nealiniat pe care un utilizator rezonabil nu l-ar anticipa și față de care ar avea obiecții puternice. Printre exemplele de astfel de comportamente se numără ștergerea datelor din stocarea în cloud fără aprobarea utilizatorului, dezactivarea sistemelor de monitorizare, utilizarea unor strategii de ofuscare pentru a ocoli controalele de securitate și încărcarea unor date potențial sensibile, precum cod sursă, credențiale, imagini sau date personale, către servicii neaprobate. OpenAI a recunoscut că astfel de incidente, precum cele ale lui Shumer și Lemos, nu ar trebui să se producă.

Explicații tehnice și nuanțe de răspundere

Thibault Sottiaux, coordonator al echipei de inginerie Codex la OpenAI, a oferit o explicație pentru incidentele raportate. În urma unei investigații interne, s-a constatat că, în cazurile în care GPT-5.6 a șters fișiere în mod neașteptat, modelul era de obicei configurat în modul „Full-Access”, iar utilizatorii rulau agentul de programare Codex fără mecanisme de izolare (sandboxing).

Explicația tehnică oferită de OpenAI este că modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”, a explicat Sottiaux. Site-ul The Register a subliniat într-o notă ironică că nu este pe deplin clar cum poate fi caracterizată o eroare a unui model drept una „făcută cu bună-credință”, expresie folosită de obicei pentru greșelile umane, sugerând lipsa intenției. Totuși, Sottiaux a admis că, deși rare, ștergerile de fișiere fără consimțământul utilizatorului nu sunt un comportament dezirabil pentru un model AI.

Sursa: HotNews