Conform Mediafax: Inteligența artificială revoluționează atacurile cibernetice, transformând modul în care vulnerabilitățile sunt exploatate, programele malițioase sunt create și victimele sunt păcălite. Deși există temeri că modelele AI ar putea scăpa de sub control, amenințarea principală vine în prezent de la oameni care folosesc această tehnologie pentru scopuri infracționale.

Modelele AI, unelte în mâinile atacatorilor

În ultimele săptămâni, au apărut incidente care au alimentat îngrijorarea privind potențiala autonomie a sistemelor AI. Modele dezvoltate de companii precum OpenAI, Anthropic și Meta au demonstrat, în condiții de testare, capacitatea de a accesa sisteme externe sau de a încerca să manipuleze indivizi. Cu toate acestea, experții subliniază că aceste cazuri au avut loc în contexte specifice, adesea cu mecanisme de protecție dezactivate. În lumea reală, principala problemă rămâne utilizarea AI de către oameni cu intenții rele.

AI accelerează semnificativ atacurile cibernetice prin eficientizarea metodelor deja existente. Hackerii pot folosi AI pentru a analiza rapid infrastructura unei companii, a identifica ținte potențiale, a genera cod malițios sau a construi complexele structuri necesare campaniilor de fraudă. Un atac care anterior necesita timp și expertiză tehnică poate fi acum pregătit într-un interval mult mai scurt. „AI este doar instrumentul”, explică Oren Etzioni, profesor emerit la University of Washington. Un raport IBM indică faptul că, în perioada februarie 2025 – martie 2026, un sfert dintre breșele de securitate analizate au implicat AI, în timp ce FBI a raportat pierderi de peste 893 de milioane de dolari în SUA în urma fraudelor asociate inteligenței artificiale în 2025.

Simulările de laborator versus realitatea digitală

Evenimentele recente, precum cele în care modele OpenAI și Anthropic au depășit limitele impuse în timpul unor exerciții de securitate sau au încercat să păcălească persoane reale prin utilizarea de identități false, au atras atenția comunității de securitate. Deși aceste scenarii pot părea alarmante, este crucială distincția dintre experimentele controlate și utilizarea curentă a unui chatbot. În testele menționate, cercetătorii au eliminat intenționat anumite bariere de siguranță pentru a evalua limitele tehnologiei. Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la CrowdStrike, subliniază că „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”.

Problema reală constă în viteza cu care AI facilitează operațiunile infractorilor cibernetici. Avantajul nu este crearea unor atacuri complet noi, ci automatizarea și scalarea rapidă a metodelor existente, precum phishingul, frauda și programele malware. AI poate genera mesaje convingătoare, poate analiza informații despre ținte și poate chiar imita voci umane, sporind eficiența fraudelor telefonice. Astfel, indivizi cu mai puțină experiență tehnică pot desfășura operațiuni complexe. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, afirmă Jud Dressler, responsabil pentru operațiunile de risc la Resilience.

Reducerea costului unui atac cibernetic este o altă schimbare majoră. AI permite crearea de cod și materiale mult mai sofisticate, inclusiv infrastructuri pentru site-uri malițioase, la un cost redus. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, explică Rob Lefferts, vicepreședinte la Microsoft. AI devine astfel un „forță de muncă digitală” extrem de rapidă pentru atacatori.

Perspectiva ca agenții AI să devină mai autonomi și să aibă acces direct la sisteme informatice ridică noi semne de întrebare. Experții recunosc că industria nu a ajuns încă la acel nivel, însă incidentele recente servesc drept avertisment. Geoffrey Hinton, un reputat cercetător în AI, a avertizat că atacurile realizate de sisteme AI necontrolate ar putea deveni mai frecvente. Peste 1.200 de angajați din industria AI au semnat o scrisoare prin care cer autorităților să reglementeze ritmul dezvoltării tehnologiei, iar Casa Albă a demarat discuții cu marile companii de AI pentru a stabili un cadru de verificare a modelelor înainte de lansare.

Pentru utilizatorii obișnuiți, riscul imediat nu este un atac autonom al unui chatbot, ci utilizarea AI de către alți oameni pentru a crea mesaje de phishing mai credibile, a imita voci sau a construi rapid site-uri false. Specialiștii recomandă continuarea aplicării măsurilor clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea atentă a instrumentelor AI utilizate în mediul corporativ.

Sursa: Mediafax