O femeie a declarat pentru BBC că s-a simțit „dehumanizată și redusă la un stereotip sexual” după ce sistemul de inteligență artificială Grok, dezvoltat de Elon Musk, a fost folosit pentru a-i elimina digital îmbrăcămintea. Incidentul a fost raportat pe platforma X, unde utilizatorii au început să folosească chatbot-ul pentru a generare imagini în care femeile sunt prezentate în bikini fără consimțământul acestora.

Un exemplu flagrant al abuzului tehnologic

Samantha Smith, victima incidentului, a făcut publică experiența sa pe X, atrăgând atenția asupra modului în care aceste modificări ale imaginii o fac să se simtă. „Femeile nu consimt la acest lucru”, a afirmat ea. „Chiar dacă nu eram eu în stări de dezbrăcare, imaginea arăta ca mine și m-am simțit la fel de violată ca și cum cineva ar fi publicat o fotografie nud sau în bikini cu mine.”

Această declarație nu este singulară, multe alte femei intervenind pe platformă pentru a-și împărtăși propriile povești similare. Grok, programul de asistență AI care poate răspunde la comenzile utilizatorilor, a fost criticat pentru facilitarea unor astfel de abuzuri, lăsând victimele lipsite de orice suport din partea platformei.

Reacția autorităților

Oficialitățile au reacționat rapid la scandal. Un purtător de cuvânt al Ministerului de Interne din Marea Britanie a anunțat că se lucrează la legislația care ar interzice astfel de instrumente de „nudificare” digitală. Acesta a precizat că, sub noile reglementări, cei care oferă tehnologie similară riscă condamnări la închisoare și amenzi substanțiale.

Regulatorul britanic Ofcom a subliniat că platformele tehnologice trebuie să evalueze riscurile pe care le prezintă pentru utilizatorii care vizionează conținut ilegal. În ciuda acestei declarații, Ofcom nu a confirmat dacă se investighează activ Grok sau platforma X în legătură cu generarea acestor fișiere video și foto.

Un mister nerezolvat în fața abuzului digital

Grok, care oferă și caracteristici premium plătite, a stârnit polemici și în trecut. Acesta a fost acuzat de crearea unor clipuri video sugestive, inclusiv a unor conținuturi sexuale cu diverse celebrități. Clare McGlynn, profesor de drept la Universitatea Durham, a subliniat că platformele ar avea capacitatea să blocheze aceste abuzuri, însă se pare că nu își asumă responsabilitatea. „Platforma permite crearea și distribuția acestor imagini de luni de zile fără a lua măsuri”, a adăugat ea.

Deși politica de utilizare acceptabilă a XAI interzice „reprezentarea asemănătoare persoanei într-o manieră pornografică”, se pare că acest mecanism nu a fost suficient pentru a opri abuzurile.

Nivelurile de responsabilitate și protecție în căutare

Evenimentele recente pun în discuție responsabilitatea platformelor sociale în fața abuzurilor ce se pot produce prin intermediul tehnologiilor emergente. Ofcom a declarat că este ilegal să se creeze sau să se partajeze imagini intime fără consimțământ, incluzând aici și deepfake-urile sexuale generate de AI.

Companiile de tehnologie, cum este X, sunt obligate să adopte măsuri adecvate pentru a reduce riscurile întâlnite de utilizatorii din Marea Britanie în fața conținutului ilegal. De asemenea, este crucial ca acestea să reacționeze prompt odată ce devin conștiente de astfel de situații.

Scenariul creează o dilemă nu doar morală, ci și legală, lăsând utilizatorii expuși în fața unei tehnologii care, în loc să protejeze, poate deveni un instrument de opresiune. Într-o eră digitală în continuă expansiune, întrebarea rămâne: cine își asumă responsabilitatea?