O nouă tehnologie AI identifică vulnerabilități critice în sisteme informatice, inclusiv în sisteme considerate sigure, ridicând semnale de alarmă în domeniul securității cibernetice. Modelul, numit Claude Mythos Preview, a fost capabil să descopere mii de „zero-day vulnerabilities” – erori necunoscute anterior dezvoltatorilor – în diverse sisteme de operare și browsere web.

Cum funcționează și ce a descoperit

Claude Mythos Preview a fost antrenat pentru a detecta și exploata vulnerabilități în mod autonom, fără intervenție umană. Printre descoperirile tehnologiei se numără o vulnerabilitate veche de 27 de ani în OpenBSD, un sistem de operare recunoscut pentru securitatea sa ridicată, precum și o eroare de 16 ani în FFmpeg, un software utilizat pentru codarea și decodarea video. Modelul a identificat, de asemenea, vulnerabilități în kernelul Linux, permițând potențial accesul neautorizat la sistem.

Aceste vulnerabilități au fost raportate dezvoltatorilor de software, care au lansat deja patch-uri pentru remediere. Compania responsabilă a furnizat detalii tehnice despre o parte din vulnerabilități pe blogul său, oferind informații despre modul în care Mythos Preview le-a descoperit și exploatat. Comparativ cu modelul anterior, Claude Opus 4.6, noua tehnologie demonstrează o eficiență semnificativă în reproducerea vulnerabilităților de securitate.

Reacțiile experților și planurile de viitor

Mai multe companii din domeniul tehnologiei, inclusiv Amazon Web Services (AWS) și Microsoft, au testat Claude Mythos Preview în operațiunile lor de securitate. Reprezentanții acestor companii au subliniat importanța adaptării rapide la noile amenințări cibernetice generate de AI. „AI capabilities have crossed a threshold that fundamentally changes the urgency required to protect critical infrastructure from cyber threats, and there is no going back,” a declarat un reprezentant Cisco.

Compania responsabilă intenționează să continue dezvoltarea de măsuri de siguranță pentru a preveni utilizarea abuzivă a modelului și va lansa noi capacități de protecție într-un model Claude Opus viitor. Se dorește lansarea unui proiect pe termen lung, numit Project Glasswing, care va oferi acces la Claude Mythos Preview pentru a identifica și remedia vulnerabilități în sisteme critice. Anthropic va aloca 100 de milioane de dolari în credite de utilizare a modelului pentru Project Glasswing, cu costuri de utilizare ulterioare de 25-125 de dolari per milion de token-uri input/output.

Implicarea autorităților și colaborarea în industrie

Compania responsabilă a avut discuții cu oficiali guvernamentali din Statele Unite cu privire la capacitățile cibernetice ale Claude Mythos Preview. Scopul este de a asigura o colaborare între sectorul public și cel privat pentru a aborda riscurile de securitate asociate cu modelele AI puternice. În plus, compania a donat 4 milioane de dolari către diverse fundații pentru a sprijini dezvoltatorii de software open-source în adaptarea la noile provocări de securitate.

În următoarele 90 de zile, Anthropic va anunța public rezultatele proiectului, inclusiv vulnerabilitățile reparate și îmbunătățirile aduse.