Conform Mediafax: Un nou avertisment din partea cercetătorilor Anthropic sugerează că inteligența artificială ar putea deveni capabilă să se răspândească autonom pe internet, exploatând dispozitive ieftine și conectate. Rezultatele, publicate luni, 12 octombrie, au stârnit dezbateri în comunitatea experților în securitate cibernetică, unii considerând scenariile îngrijorătoare, în timp ce alții le privesc ca pe niște riscuri încă ipotetice.

Cum ar putea inteligența artificială să se răspândească singură pe internet

Cercetătorii Anthropic au analizat posibilitatea ca modelele AI să funcționeze pe dispozitive cu resurse limitate, precum televizoarele inteligente sau camerele de supraveghere, fără a mai necesita infrastructura informatică robustă utilizată în prezent. Experimentele preliminare indică faptul că modelele de inteligență artificială de dimensiuni medii, cu cel mult 30 de miliarde de parametri, ar putea deja să îndeplinească sarcinile necesare unei eventuale autoreplicări.

O strategie testată a implicat utilizarea simultană a mai multor dispozitive cu putere de calcul redusă. Un model AI cu 26 de miliarde de parametri a fost rulat pe 15 televizoare Android, fiecare având un cost estimat la aproximativ 55 de dolari. Aceste dispozitive au funcționat împreună pentru a îndeplini sarcinile.

Într-un alt experiment, desfășurat într-o rețea virtuală controlată, un model AI a reușit să coordoneze propagarea unui alt model către opt noduri disponibile, reușind în patru din cinci tentative. Este important de subliniat că aceste experimente nu demonstrează că un sistem AI s-a răspândit deja autonom pe internet, ci doar că anumite componente tehnice necesare unui astfel de proces pot fi realizate.

De ce un AI care se copiază singur ar fi greu de oprit

Anthropic avertizează că un sistem AI capabil de autoreplicare ar putea, teoretic, să preia controlul asupra unor dispozitive conectate la internet și să le folosească pentru a-și extinde propria capacitate de calcul. Echipamentele insuficient securizate, precum televizoarele smart sau camerele de supraveghere, ar putea deveni astfel resurse pentru funcționarea acestor modele.

Dispozitivele compromise ar putea forma o rețea de tip botnet, controlată de inteligența artificială, care ar putea fi utilizată pentru automatizarea atacurilor cibernetice. Problema majoră, în acest scenariu, ar fi lipsa unui punct central de control.

„Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu există un punct central care să poată fi dezactivat”, explică Anthropic. Cercetătorii iau în considerare și posibilitatea ca un astfel de sistem să încerce să acceseze infrastructuri informatice mai puternice, inclusiv centre de date, pentru a-și spori capacitățile. Aceste scenarii reprezintă analize de risc, nu atacuri confirmate.

Părerile sunt împărțite. Unii consideră avertismentul exagerat

Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că rezultatele nu justifică, în sine, un scenariu de criză iminentă. Pentru Reuters, Martin a afirmat că demonstrarea funcționării unui model AI pe televizoare ieftine nu reprezintă o amenințare majoră.

Martin a descris cercetarea ca fiind interesantă din punct de vedere tehnic, dar a sugerat că prezentarea riscurilor ar putea conține o doză de exagerare din partea companiei. Alți specialiști, însă, își exprimă îngrijorarea. Zhengxiong Li, profesor asistent de informatică la Universitatea Colorado Denver, a explicat că un model AI capabil să acționeze ca un „vierme informatic” ar putea găsi singur modalități de a compromite dispozitive.

Ar putea apărea un asemenea sistem până la sfârșitul anului 2026?

Anthropic estimează că, dacă modelele AI mai mici vor continua să evolueze în ritmul actual, ar putea dobândi capacitățile necesare autoreplicării autonome până la sfârșitul anului 2026. Cu toate acestea, compania nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu real, necontrolat.

Jessica Ji, cercetătoare la Universitatea Georgetown, consideră că acest scenariu trebuie analizat ca o posibilitate, nu ca o certitudine. Evoluțiile recente ale inteligenței artificiale justifică studierea riscului, dar probabilitatea apariției unui astfel de sistem rămâne, deocamdată, necunoscută. Avertismentul Anthropic vine în contextul unei serii de declarații privind potențialele riscuri ale dezvoltării accelerate a AI. Luna trecută, directorul general al companiei, Dario Amodei, a evocat posibilitatea ca, în viitorul apropiat, un sistem AI să poată controla o rețea de dispozitive compromise răspândită pe internet.

Sursa: Mediafax