Un nou studiu realizat de cercetătorii de la compania CloudSEK a evidențiat un concept de atac cibernetic denumit ClickFix, care transformă rezumatele generate de inteligența artificială în instrumente de inginerie socială. Acest tip de atac exploatează încrederea utilizatorilor în textele create automat, având potențialul de a distribui malware și ransomware.

Atacul ClickFix se diferențiază de alte metode de phishing prin utilizarea încrederii utilizatorilor în conținutul generat de AI. Atacatorii creează pagini web, e-mailuri sau postări cu instrucțiuni malițioase ascunse. Aceste instrucțiuni sunt camuflate folosind tehnici precum text alb pe fundal alb, caractere invizibile sau fonturi foarte mici. Prin repetarea acestor mesaje malițioase, atacatorii reușesc să influențeze modelul AI care generează rezumatele, permițând astfel extragerea acestora ca parte centrală a sintezei. De exemplu, un rezumat ar putea sugera copierea unui cod PowerShell care, în realitate, ar declanșa o infecție cu ransomware.

Deși atacul ClickFix este actualmente un concept demonstrativ, specialiștii avertizează asupra riscurilor potențiale pe care le reprezintă în contextul amenințărilor cibernetice. Anterior, Microsoft a raportat cazuri similare asociate cu grupuri criminale, cum ar fi Storm-1865, care au utilizat tehnici asemănătoare pentru a compromite utilizatorii prin e-mailuri frauduloase.

Pentru a reduce riscurile asociate cu astfel de atacuri, CloudSEK recomandă implementarea unor măsuri de protecție. Acestea includ:

– Filtre care să normalizeze HTML-ul antes de procesare.
– Utilizarea unui „prompt sanitizer” în instrumentele AI pentru a bloca instrucțiunile ascunse.
– Adoptarea de politici interne stricte în ceea ce privește utilizarea rezumatoarelor AI și scanarea documentelor.

Integrarea acestor măsuri de siguranță în gateway-urile de e-mail și sistemele de management al conținutului poate ajuta la prevenirea deturnării rezumatelor AI în vectori de atac.

Informațiile prezentate subliniază necesitatea unei vigilențe sporite în fața amenințărilor cibernetice emergente. Continuarea educației și informării asupra acestor riscuri devine esențială pentru protejarea utilizatorilor și a organizațiilor de eventualele atacuri bazate pe inteligența artificială.