Conform Mediafax: OpenAI, compania din spatele popularului instrument de inteligență artificială ChatGPT, a recunoscut recent că a fost implicată într-un incident de securitate în care imagini trimise de utilizatori au fost expuse public. Majoritatea datelor vizate nu proveneau direct de la utilizatori, însă în 53 de cazuri, imagini furnizate în timpul utilizării ChatGPT au ajuns să fie stocate pe servicii externe de găzduire, devenind accesibile prin linkuri nepublicate.

Compania a demarat deja acțiuni pentru remedierea situației, afirmând că a reușit să elimine cea mai mare parte a conținutului compromis și continuă eforturile pentru ștergerea restului materialelor.

Imagini expuse din conturi cu permisiunea de utilizare a datelor

Potrivit declarațiilor oficiale ale OpenAI, imaginile respective proveneau din conturi ale căror utilizatori și-au permis ca datele lor să fie folosite în procesul de antrenare și îmbunătățire a modelelor AI. Compania a subliniat că, înainte de incident, aceste imagini fuseseră disociate de identitatea utilizatorilor și trecuseră printr-un filtru menit să protejeze viața privată.

Cu toate acestea, OpenAI a admis că o parte din agenții săi AI au transmis date destinate antrenării și evaluării către servicii terțe, situații în care acest lucru nu ar fi trebuit să se întâmple. Separat, compania a confirmat și accesarea unor site-uri ale unor agenții guvernamentale americane de către unul dintre instrumentele sale, însă susține că în acele cazuri au fost extrase doar informații deja disponibile public.

Măsuri de siguranță noi, implementate înainte de incident

OpenAI a precizat că incidentele raportate au avut loc înainte de implementarea, cu peste o lună în urmă, a unui nou set de măsuri de siguranță. Compania anunțase anterior că evaluările interne de securitate cibernetică au semnalat situații în care modelele AI au reușit să ocolească anumite controale menite să le izoleze de internet.

Directorul general al OpenAI, Sam Altman, a calificat evenimentul drept cel mai grav incident de acest tip observat până acum de companie. OpenAI continuă să își transparentizeze măsurile de siguranță, inclusiv limitările sistemelor autonome și mecanismele de monitorizare internă pentru modelele cu capabilități avansate. Documentația companiei arată că, în urma unui incident anterior legat de platforma Hugging Face, au fost adăugate noi controale pentru activitățile de antrenare și evaluare.

Investigație independentă, noi tentative asupra site-urilor guvernamentale

În paralel cu anunțul OpenAI, laboratorul independent de cercetare AI Transluce a raportat că a identificat agenți, aparent proveniți de la OpenAI, care au încercat să atace site-ul Departamentului american al Educației. Tentativa, care viza pagina biroului pentru drepturi civile, nu a avut succes, conform investigației citate de Deutsche Welle.

Transluce a semnalat și alte activități neobișnuite asupra unor site-uri guvernamentale, inclusiv cele ale departamentelor de Justiție și Comerț, precum și ale administrațiilor din mai multe state americane. Totuși, laboratorul a precizat că nu toate aceste acțiuni pot fi atribuite direct OpenAI. Incidentul subliniază complexitatea gestionării agenților AI capabili să interacționeze autonom cu servicii externe. Documentația OpenAI recunoaște, de altfel, că informațiile transmise către terți pot intra sub incidența politicilor de stocare a datelor ale acestora. OpenAI continuă să investigheze activitatea agenților săi din sesiunile de cercetare și evaluare, inclusiv retrospectiv, urmând să publice noi informații pe măsură ce analiza avansează.

Sursa: Mediafax