Startup-ul Anthropic, sprijinit de Microsoft, Apple și Amazon, lansează „Project Glasswing” pentru testarea AI în securitate cibernetică

Societatea tehnologică Anthropic, specializată în inteligența artificială, a anunțat o inițiativă amplă, intitulată „Project Glasswing”, în colaborare cu giganți ai industriei precum Amazon, Microsoft și Apple. Scopul principal este testarea în avans a unui model AI performant, cu accent pe securitatea cibernetică. Modelul, denumit „Claude Mythos Preview”, va fi accesibil unor organizații selectate pentru a fi utilizat în activități defensive de securitate informatică.

Parteneriate strategice și capacități avansate

Proiectul reunește o serie de companii importante, inclusiv CrowdStrike, Palo Alto Networks, Google și Nvidia, extinzând aria de expertiză și resurse. „Claude Mythos Preview” este un model AI general, încă nelansat public, care promite capacități avansate, însă ridică și preocupări legate de securitate. Revista Fortune a relatat despre testele modelului, generând fluctuații în acțiunile companiilor de securitate cibernetică.

Conferința RSA, dedicată securității cibernetice, a abordat tema atacurilor informatice bazate pe inteligența artificială, subliniind creșterea acestora și necesitatea unor instrumente de apărare mai eficiente. Anthropic a oferit detalii despre capacitățile modelului Mythos Preview, menționând identificarea a „mii” de vulnerabilități majore în sisteme de operare, browsere web și alte programe software. Descoperirile vor fi împărtășite cu întreaga industrie.

Investiții și implicarea guvernamentală

Pentru a sprijini eforturile, compania va oferi credite de utilizare în valoare de până la 100 de milioane de dolari și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității. Vor fi implicate aproximativ 40 de organizații responsabile de infrastructura software critică. Obiectivul final al Anthropic este de a permite implementarea sigură la scară largă a modelelor AI din aceeași clasă cu Mythos.

Anthropic lucrează în strânsă legătură cu guvernul Statelor Unite ale Americii, discutând despre capabilitățile modelului. Datele companiei arată că anul trecut hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca aproximativ 30 de organizații globale. Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost vizați de atacuri bazate pe inteligența artificială în ultimul an.

Sursa: StartupCafe