Conform Digi24: Dezbatere despre autenticitatea video-urilor pe rețelele sociale

Un videoclip alarmant care prezenta o ambulanță ca fiind utilizată pentru răpirea copiilor a circulat pe platforma TikTok, generând îngrijorare și confuzie. Incidentul real din județul Cluj, în care șapte persoane au fost arestate preventiv pentru atacarea unei ambulanțe pe baza acestei informații false, a adus în atenția publică problema dezinformării și a modului în care conținutul generat artificial sau manipulat poate fi distribuit viral. Cercetătorul Bayar Menzat, specializat în inteligență artificială, a oferit explicații despre cum pot utilizatorii să facă distincția între conținutul autentic și cel generat cu ajutorul tehnologiei AI, precum și despre mecanismele prin care astfel de materiale ajung să nu mai fie etichetate ca fiind artificiale.

Cum recunoaștem conținutul generat de AI

Bayar Menzat a explicat că, inițial, platforme precum TikTok încearcă să identifice și să eticheteze videoclipurile create cu inteligență artificială generativă. Totuși, problemele apar atunci când aceste clipuri sunt descărcate, repostate, li se adaugă text sau li se scade rezoluția. Aceste modificări pot ascunde semnele inițiale și pot face dificilă pentru platforme detectarea și aplicarea banner-ului de avertizare. Cercetătorul a subliniat că videoclipurile generate artificial prezintă adesea erori subtile, cunoscute sub denumirea de „temporaritate”. Acestea pot include dispariții bruște ale unor elemente din cadru, obiecte care par să se teleporteze sau o mișcare nenaturală a ușilor. Aceste defecte, specifice tehnologiei încă imature, alături de o rezoluție scăzută menită să mascheze imperfecțiunile, sunt indicatori importanți ai unui conținut generat cu AI.

Familiarizarea crește discernământul utilizatorilor

Potrivit cercetătorului, expunerea repetată la videoclipuri generate de inteligența artificială contribuie la dezvoltarea abilității utilizatorilor de a le recunoaște. Studiile arată că persoanele care au văzut deja astfel de exemple devin mult mai abile în a identifica noi clipuri similare. Această îmbunătățire se datorează recunoașterii unor tipare recurente: durata similară a clipurilor, paletele de culori folosite frecvent și vocile adesea asemănătoare, atât în cazul textului, cât și al imaginilor video. Menzat sugerează că o simplă familiarizare, precum cea oferită de un nepot unui bunic, prin prezentarea a câtorva exemple, poate crește semnificativ discernământul. El a povestit cum a procedat similar cu tatăl său, iar acesta a înțeles rapid cum să identifice conținutul generat artificial.

Diferența dintre AI generativ și dezinformare

Cercetătorul Bayar Menzat consideră că reglementarea dezinformării ar trebui să fie separată de problemele legate de inteligența artificială generativă. Un exemplu concret este cel al videoclipului cu ambulanța care fură copii. Acesta nu ar fi neapărat o creație AI, ci o informație falsă, distribuită prin intermediul unei imagini sau unui videoclip real cărora li s-a adăugat un text manipulativ. Prin urmare, el susține că aceste două categorii de probleme – conținutul generat AI și dezinformarea deliberată – ar trebui tratate distinct. Incidentul din județul Cluj, unde șapte persoane, inclusiv o femeie acuzată de lovire, au fost arestate preventiv pentru atacarea unei ambulanțe, a fost declanșat de credința într-o informație falsă răspândită pe TikTok, care invoca mitul răpirii copiilor cu ajutorul autospecialelor medicale.

Sursa: Digi24