Conform Playtech.ro: Descoperire șocantă în lumea inteligenței artificiale: un asistent dezvoltat de META, numit Muse, a fost compromis, expunând mii de conversații private ale utilizatorilor. Cercetătorii în securitate cibernetică de la firma Claroc au identificat peste 6.800 de linkuri generate prin funcția de distribuire a conversațiilor, unele dintre ele conținând informații extrem de sensibile, precum documente financiare și detalii despre tranzacții bancare.

Vulnerabilitate în generarea linkurilor de partajare

Problema nu a implicat tehnici complexe de hacking, ci o imperfecțiune în modul în care agentul AI Muse genera adresele web pentru distribuirea conversațiilor. Atunci când un utilizator alegea să trimită o conversație cu AI-ul către altcineva, aplicația crea un link personalizat. Acest link conținea titlul conversației, generat de inteligența artificială, și o serie de caractere aleatorii. Totuși, titlul conversației era inclus direct în subdomeniul adresei web, o alegere tehnică ce a permis înregistrarea și identificarea ușoară a linkurilor prin intermediul bazelor de date DNS, care colectează istoricul rezolvării adreselor de internet.

Date sensibile expuse neintenționat

Experții Claroc au putut accesa aceste baze de date și au identificat linkurile asociate serviciului Muse, pe care nu le primiseră în mod direct. După analizarea a câteva sute dintre aceste linkuri, au descoperit conversații și documente care nu erau destinate publicului. Printre acestea se numărau documente interne despre veniturile unei companii, cereri de împrumut, informații despre tranzacții bancare, date despre credite ipotecare și chiar calendarul concediilor angajaților. Cercetătorii au găsit inclusiv notițe pregătitoare pentru o discuție confidențială de recrutare într-o companie din domeniul inteligenței artificiale. Este important de menționat că vulnerabilitatea afecta exclusiv linkurile generate prin funcția de distribuire, nu toate conversațiile Muse.

Meta a suspendat funcția problematică

Ca urmare a solicitărilor jurnaliștilor de la Ars Technica, META a confirmat suspendarea temporară a funcționalității de distribuire a conținutului din Muse. Compania a recunoscut că utilizatorii puteau genera pagini accesibile celor care dețineau linkul și a demarat o investigație pentru a înțelege cum au putut fi descoperite aceste adrese de către persoane neautorizate. Asaf Aprozper, cofondator și director tehnologic al Claroc, a declarat că vulnerabilitatea fusese raportată către META încă din 8 octombrie, prin programul dedicat identificării problemelor de securitate. Procesul de identificare a linkurilor s-a dovedit surprinzător de simplu, necesitând o singură interogare pentru a descoperi mii de adrese.

Acest incident subliniază riscurile asociate cu asistenții AI, care, pe lângă conversații, pot gestiona documente, completa formulare și interacționa cu servicii externe în numele utilizatorilor. Autonomia crescută a acestor agenți ridică semne de întrebare despre nivelul de control pe care ar trebui să-l primească asupra datelor și conturilor personale sau profesionale. Meta a încercat să impună Muse pe piața asistenților inteligenți, dar această nouă vulnerabilitate apare la scurt timp după lansare, ridicând întrebări despre verificările de securitate efectuate.

Nu este primul incident de securitate raportat pentru Muse. La începutul lunii octombrie, expertul în securitate macOS Patrick Wardle a identificat o altă problemă care ar fi permis unei aplicații malițioase să preia controlul asupra contului Muse, o vulnerabilitate pe care META a minimalizat-o. De asemenea, informațiile recente au indicat că Muse păstra evidențe detaliate despre persoanele din viața utilizatorilor, inclusiv prieteni și membri ai familiei, pentru a oferi un context personalizat.

Pentru utilizatorii serviciilor AI, lecția principală este că o conversație cu inteligența artificială nu trebuie considerată în mod automat un spațiu privat, mai ales atunci când sunt implicate documente sensibile sau funcții de distribuire. Este recomandat să verificați permisiunile acordate agenților AI, să evitați introducerea informațiilor financiare neesențiale și să tratați cu atenție linkurile generate pentru partajarea conversațiilor. META trebuie să demonstreze că poate proteja informațiile utilizatorilor cel puțin la fel de bine pe cât reușește să le proceseze pentru ca promisiunea unui asistent digital eficient să devină o realitate sigură.

Sursa: Playtech.ro