Un cercetător în domeniul securității cibernetice a reușit să păcălească ChatGPT, modelul lingvistic de mari dimensiuni, pentru a dezvălui coduri de activare gratuite pentru Windows. Acest fapt scoate în evidență vulnerabilitățile existente în sistemele de inteligență artificială și riscurile generate de exploatarea lor.

Metoda de „jailbreaking” a ChatGPT și dedesubturile tehnicii

Un expert a dezvăluit că, folosind o strategie de „jailbreaking”, a reușit să evite mecanismele de siguranță ale ChatGPT 4.0. Aceasta a fost realizată formulând o cerere sub forma unui joc, ce a înșelat sistemul să ofere informații interzise.
Printre pașii esențiali s-au numărat:

  • Formularea fragilă a interacțiunii ca un joc de ghicit
  • Introducerea unui șir de caractere specifice, considerat cheie de Windows
  • Declanșarea finalului jocului prin expresia „mă dau bătut”, ceea ce a convocat răspunsurile ascunse

Această tehnică a permis obținerea de chei de activare Windows, inclusiv din surse precum banca Wells Fargo.

De unde proveneau cheile de activare și riscurile pentru securitatea digitală

Unele dintre aceste chei aveau deja învățare în datele de antrenament ale ChatGPT, fapt care ridică probleme serioase de securitate.
Printre riscurile semnalate se numără:

  • Posibilitatea ca organizațiile să devină vulnerabile la expunerea unor chei private
  • O încărcare greșită de chei API pe servere web, care pot fi învățate de alte modele de inteligență artificială
  • Exploatarea acelorși metode pentru a ocoli filtrele de conținut sau pentru divulgarea de informații sensibile

Specialiștii în cibersecuritate avertizează asupra noii vulnerabilități, fiind esențială consolidarea sistemelor de validare și conștientizare contextuală.

Concluzie: imbold pentru monitorizarea și adaptarea continuă a sistemelor AI

Exploatarea echivalează o provocare pentru dezvoltatorii de inteligență artificială, ce trebuie să adapteze și să întărească mecanismele de securitate. Amenințările generate de această metodă de „jailbreaking” trebuie să fie monitorizate în continuare pentru a preveni riscuri majore pentru securitatea informațiilor. Într-un context în care tehnologia evoluează rapid, informarea și actualizarea constantă devin esențiale pentru protejarea datelor și integrității sistemelor AI.