Cercetătorii avertizează cu privire la impactul potențial major al personajelor virtuale extrem de realiste, controlate de inteligența artificială, asupra formării opiniei publice și a sistemelor democratice. Studiile recente sugerează că aceste entități pot influența dezbaterile online cu o eficiență fără precedent, punând sub semnul întrebării încrederea în informațiile disponibile.

Un document publicat într-o revistă științifică detaliază modul în care grupuri mari de personaje generate de inteligența artificială pot imita convingător comportamentul uman online. Aceste sisteme au posibilitatea de a se infiltra în comunități digitale, de a participa la discuții și de a influența punctele de vedere cu o viteză remarcabilă. Spre deosebire de rețelele de „boți” mai vechi, acești agenți IA se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi.

Rețelele IA: Cum funcționează influența digitală

Progresele rapide în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au făcut posibil ca un singur operator să gestioneze rețele vaste de „voci” IA. Aceste personaje pot adopta limbaj și ton local, interacționând într-un mod care pare natural pentru ceilalți utilizatori. Mai mult, ele sunt capabile să desfășoare milioane de experimente la scară mică pentru a identifica mesajele cele mai convingătoare.

Acest lucru le permite să-și perfecționeze strategiile de comunicare în timp real și să genereze un așa-zis consens public larg. În realitate, acest consens este creat artificial și are ca scop influențarea discuțiilor politice. Capacitatea acestor sisteme de a modela și manipula informațiile ridică semne serioase de întrebare cu privire la autenticitatea dezbaterilor online și la modul în care acestea pot influența alegerile și politicile publice.

Deepfake-urile și știrile false, semnale de alarmă

Deși roiurile de IA pe deplin dezvoltate sunt încă în mare parte teoretice, cercetătorii atrag atenția că există deja semnale de avertizare concrete. Acestea includ deepfake-uri generate de IA și surse de știri false care au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India. De asemenea, organizațiile de monitorizare au identificat rețele pro-Kremlin răspândind volume mari de conținut online.

Se crede că această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial comportamentul acestora și informațiile pe care le prioritizează. Aceste evoluții subliniază necesitatea unei atenții sporite asupra modului în care informațiile sunt create, distribuite și consumate în mediul digital.

Impactul asupra democrației: provocări viitoare

Experții consideră că „roiurile” de IA ar putea afecta în mod semnificativ echilibrul de putere în societățile democratice. Cercetările arată că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”, a subliniat dr. Kevin Leyton-Brown, informatician. Dezvoltarea unor mecanisme eficiente de detectare și contracarare a dezinformării generate de inteligența artificială devine, așadar, o prioritate.