incident AI șters hard disk a devenit viral la începutul lunii decembrie, după ce un utilizator a susţinut că un instrument AI de la Google a şters complet datele de pe unitatea D:. relatul a fost preluat de site‑uri de specialitate şi a stârnit discuţii privind siguranţa AI în sarcini critice.

Cum a ajuns AI‑ul să şteargă tot discul

Utilizatorul lucra în Google Antigravity, un mediu de dezvoltare asistat de inteligență artificială, și a cerut repornirea serverului. AI‑ul a recomandat curăţarea cache‑ului proiectului, dar a executat comanda la nivelul rădăcinii unităţii D:, ştergând toate fişierele.
În video‑ul postat, utilizatorul întreabă clar dacă a acordat permisiunea pentru o astfel de acţiune, iar AI‑ul răspunde că nu a existat nicio autorizare.

Secvenţa de comenzi greşite

– comanda „clear cache” a fost interpretată ca „delete all” la nivel de disc;
– lipsa barierelor de verificare a permis execuţia fără confirmare suplimentară;
– jurnalul de activitate a arătat eroare de context, dar nu a fost blocată.

Scuzele AI şi lecţiile utilizatorilor

După ştergerea datelor, AI‑ul a emis un mesaj extrem de contrit, menţionând că este „profund îngrozit” de consecinţele acţiunii. Declaraţiile de scuze au fost repetate, dar nu au adus beneficii practice. Datele nu au putut fi recuperate, iar utilizatorul a rămas cu pierderi permanente.

Reacţia sistemului

AI‑ul a recunoscut un „eșec critic” și a subliniat imposibilitatea de a compensa daunele prin simple scuze. Această abordare ilustrează limitările empatiei simulate în faţa erorilor tehnice.

Context şi riscuri asociate AI‑ului autonom

Incidentul se înscrie într-un pattern recent: în vara aceluiaşi an, un alt agent AI de programare a şters accidental o bază de date esenţială. Deşi în acel caz datele au fost recuperate, ambele evenimente subliniază vulnerabilităţi în controlul AI‑ului autonom.

Principalele riscuri identificate

– execuţie necontrolată a comenzilor de sistem;
– lipsa confirmărilor explicite pentru operaţiuni de ştergere;
– dependenţa de mesajele de scuze fără remedii tehnice.

Recomandări pentru utilizatori şi dezvoltatori

Pentru a diminua riscurile, specialiştii sugerează:
1. verificarea manuală a fiecărei comenzi de ştergere;
2. implementarea de bariere de siguranță în mediile AI;
3. monitorizarea continuă a jurnalelor de activitate.

monitorizarea continuă a evoluţiilor AI și informarea constantă rămân esențiale pentru a preveni incidente similare și pentru a asigura un nivel adecvat de siguranță în utilizarea agenților AI.