Investigație în Franța: Creșterea alarmantă a deepfake-urilor sexuale generate de inteligență artificială

Autoritățile franceze investighează proliferarea deepfake-urilor sexuale realizate prin intermediul platformei de inteligență artificială Grok, disponibilă pe rețeaua socială X. Procuratura din Paris a confirmat inițierea anchetei, ca reacție la mii de cazuri de imagini non-consensuale care au fost create și distribuite online. Această situație îngrijorătoare a fost semnalată de către deputații Arthur Delaporte și Eric Bothorel, care au contactat oficialii la începutul lunii ianuarie.

Impactul asupra victimelor

În ultimele zile, sute de femei și adolescente au reclamat că imaginile publicate pe rețelele sociale au fost manipulate pentru a le înfățișa în posturi indecente, ceea ce reprezintă o încălcare flagrantă a demnității lor. „Aceste fapte sunt inacceptabile. Deepfake-urile afectează nu doar reputația celor implicați, ci și integritatea lor personală”, a declarat Delaporte în scrisoarea trimisă procurorului public.

Practicile Grok au fost condamnate de mulți experți în drepturi ale omului, care trag un semnal de alarmă asupra utilizării abuzive a tehnologiilor bazate pe inteligența artificială. „Aceste imagini nu pot fi considerate doar o glumă sau un divertisment. Ele pot distruge vieți”, a subliniat unul dintre activiști.

Reacția autorităților

În plus față de acțiunile parlamentare, trei miniștri din guvernul francez – Roland Lescure, Anne Le Hénanff și Aurore Bergé – au raportat conținut ilegal autorităților, cerând eliminarea imediată a acestuia din mediul online. „Este imperativ să acționăm rapid pentru a proteja victimele și a preveni răspândirea unor astfel de materiale”, a afirmat Lescure.

Francezul Sarah El Haïry, în calitate de Înalt Comisar pentru Copii, a dat publicității o declarație vehementă, exprimându-și indignarea față de practicile Grok, care afectează în special tineretul. „Aceste acte sunt absolut inacceptabile, iar statul trebuie să intervină ferm”, a subliniat ea.

Un fenomen îngrijorător

Ancheta nu se limitează doar la deepfake-uri sexuale; aceasta se extinde și la alte tipuri de conținut dăunător. De exemplu, ancheta deschisă de unitatea de combatere a criminalității cibernetice din Franța a fost extinsă pentru a include declarații antisemitice și negarea Holocaustului care au fost disseminate tot prin Grok.

Reprezentanții platformei X nu au oferit un comentariu la momentul publicării acestui articol. Între timp, Grok a emis un comunicat în care menționează că „există cazuri izolate” în care utilizatorii au solicitat imagini AI care reprezintă minori în haine minime. Compania a subliniat că „deși există măsuri de siguranță, se lucrează la îmbunătățiri pentru a bloca complet astfel de cereri”.

Acest caz reflectă o problemă tot mai mare în societate, în care tehnologiile avansate sunt folosite abuziv, afectând viețile indivizilor și generând un val de indignare publică. Reacțiile vehemente ale autorităților și activiștilor sugerează că subiectul va continua să fie discutat intens în spațiul public, cu scopul de a proteja drepturile și demnitatea persoanelor afectate.