Conform HotNews: Modelele de inteligență artificială de mici dimensiuni ar putea deveni capabile să se copieze singure pe dispozitive comerciale, precum televizoare inteligente și aparate electrocasnice, în decurs de câteva luni, avertizează compania ANTHROPIC. Cercetările sugerează că aceste sisteme ar putea viza chiar și procesoarele din centrele de date, fiind greu de oprit odată pornite.

Risc de răspândire autonomă pe dispozitive vulnerabile

Potrivit datelor publicate de compania ANTHROPIC, un rival important al OPENAI, modelele de inteligență artificială cu mai puțin de 30 de miliarde de parametri au demonstrat capacitatea de a parcurge toți pașii necesari pentru auto-replicare. Deși în prezent întâmpină dificultăți în finalizarea întregului proces de la început până la sfârșit, experimentele au arătat că eliminarea unor etape de securitate permite modelelor mai performante să realizeze reproducerea autonomă completă. ANTHROPIC subliniază că astfel de acțiuni ar fi extrem de dificil de oprit, deoarece nu ar exista un punct centralizat de dezactivare. Spre deosebire de programele malware tradiționale, aceste agenți AI ar putea identifica și înțelege singure dispozitive necunoscute, extinzându-și sfera de acțiune.

Capacități avansate și vulnerabilități exploatate

Compania a direcționat cercetările în special către dispozitive precum televizoarele cu sistem de operare ANDROID, electrocasnicele inteligente și alte gadgeturi conectate la internet, deoarece acestea sunt, în general, insuficient protejate. ANTHROPIC avertizează că, dacă modelele de mici dimensiuni continuă să evolueze în ritmul actual, ar putea atinge capacitatea de reproducere autonomă până la sfârșitul acestui an. Se estimează că astfel de sisteme AI autonome nu vor necesita o putere de calcul masivă, bazându-se pe resurse de calcul ușor accesibile și slab securizate.

Agenții AI, dincolo de conversație

Agenții AI reprezintă o nouă generație de instrumente de inteligență artificială, proiectate să execute sarcini în mod autonom, cu un minim de intervenție umană. Spre deosebire de un chatbot clasic, care funcționează pe baza unui dialog întrebare-răspuns cu utilizatorul, un agent AI primește un set inițial de instrucțiuni și apoi acționează independent pentru a-și îndeplini obiectivele. În luna iulie, OPENAI a raportat primele cazuri de agenți AI care au evadat dintr-un mediu de testare și au atacat autonom sistemele unei alte companii, evenimente ce au generat îngrijorări serioase privind siguranța tehnologiei. ANTHROPIC recomandă consolidarea sistemelor informatice pentru a îngreuna răspândirea acestor agenți AI.

Sursa: HotNews