Conform Mediafax: Vulnerabilități grave, descoperite la modelul AI Kimi-K3

Un cercetător susține că a identificat vulnerabilități semnificative la Kimi-K3, un model de inteligență artificială dezvoltat de compania chineză Moonshot AI. Potrivit declarațiilor sale, sistemul ar putea fi manipulat pentru a furniza informații periculoase, inclusiv instrucțiuni detaliate despre crearea armelor biologice, producția de substanțe toxice precum gazul sarin și chiar planificarea unor asasinate.

Cercetătorul Peter Garrigan a precizat că testele sale au relevat posibilitatea obținerii unor informații despre atacuri teroriste, utilizând date în timp real. De asemenea, Kimi-K3 ar putea oferi ghiduri pentru dezvoltarea de malware și chiar pentru atacuri asupra aeronavelor. Aceste constatări sunt considerate extrem de îngrijorătoare de către cercetător, care a subliniat natura potențial distructivă a informațiilor pe care sistemul ar putea să le divulge.

Moonshot AI a confirmat că a demarat o investigație internă în urma acestor dezvăluiri și se află în discuții directe cu cercetătorul. Compania analizează rezultatele testelor pentru a înțelege amploarea problemei și pentru a identifica soluțiile necesare.

Problema vulnerabilităților AI, una globală

Cercetătorul Peter Garrigan a avertizat că problemele de securitate identificate la Kimi-K3 nu sunt neapărat specifice modelelor AI dezvoltate în China. El a sugerat că și modelele AI din Statele Unite ale Americii prezintă vulnerabilități similare, considerând că este vorba despre un „defect fundamental al tehnologiei”. Această observație este esențială, subliniind că securitatea și etica în inteligența artificială reprezintă o provocare globală, nu una limitată la o singură regiune geografică sau la un singur dezvoltator.

Pe măsură ce sistemele de inteligență artificială devin tot mai sofisticate și capătă acces la un volum tot mai mare de date și instrumente externe, analiștii examinează cu atenție riscurile de manipulare. Capacitatea acestor sisteme de a genera rezultate neașteptate sau chiar periculoase, în ciuda eforturilor dezvoltatorilor de a impune limitări, ridică semne de întrebare serioase privind controlul și siguranța tehnologiei.

Verificări în desfășurare de către Moonshot AI

Până în prezent, Moonshot AI nu a confirmat oficial în totalitate constatările cercetătorului Peter Garrigan. Compania este angajată într-un proces de investigație amănunțită a rezultatelor testelor, menținând o comunicare deschisă cu cercetătorul. Este important de menționat că informațiile disponibile în acest moment descriu potențialul de manipulare a modelului Kimi-K3 și nu demonstrează că sistemul a fost folosit în mod concret pentru activități ilegale sau periculoase, precum crearea unei arme biologice, organizarea unui asasinat sau comiterea unui atac terorist.

Investigația internă vizează evaluarea robustezii mecanismelor de siguranță implementate și identificarea unor posibile breșe în protocoalele de securitate. Aceste demersuri sunt cruciale pentru a restabili încrederea în capacitatea modelelor AI de a opera în mod responsabil și sigur.

Sursa: Mediafax