ChatGPT Atlas, noul browser cu „agent mode” al OpenAI, se confruntă cu atacuri AI care exploatează instrucțiuni ascunse în documente aparent inofensive, iar compania recunoaște că aceste vulnerabilităţi nu vor fi complet eliminate.

Extinderea suprafeţei de atac prin „agent mode”

OpenAI a admis că funcţia de „agent mode” a browserului AI măreşte riscul de intruziune cibernetică.
Cercetătorii de securitate au demonstrat că pot modifica comportamentul ChatGPT Atlas prin texte camuflate.
Aceste probe susţin comparaţia cu fraudele online şi ingineria socială.

Reacţia OpenAI la vulnerabilităţi

Compania a lansat în octombrie ChatGPT Atlas, iar imediat a început testarea continuă a securităţii.
Un sistem de “atacator automatizat”, antrenat prin învățare prin recompensă, simulează scenarii de hacking.
Acesta permite identificarea rapidă a deficienţelor înainte ca acestea să fie exploatate în mediul real.

Alertă internaţională și implicaţii pentru utilizatori

Centrul Naţional de Securitate Cibernetică din Marea Britanie avertizează că atacurile AI ar putea rămâne imposibil de eradicat complet.
OpenAI recomandă utilizatorilor să restricţioneze accesul agenţilor AI și să solicite confirmări pentru acţiuni sensibile, cum ar fi trimiterea de mesaje sau plăţi.

Exemplu practic de vulnerabilitate

Într-un test demonstrativ, un e‑mail malițios a determinat AI‑ul să trimită accidental un mesaj de demisie.
După actualizările de securitate, browserul a identificat și a semnalat atacul utilizatorului.

Măsuri de reducere a riscurilor

Lista principală de recomandări propuse de OpenAI include:
– Limitarea accesului „agent mode” la site‑uri necunoscute.
– Activarea confirmărilor explicite pentru acţiuni critice.
– Utilizarea versiunilor actualizate ale ChatGPT Atlas cu patch‑uri de securitate.

Perspective din comunitatea de securitate

Specialiștii subliniază că, deşi măsurile de testare continuă reduc expunerea, riscul rămâne semnificativ.
Ei susţin că monitorizarea permanentă şi actualizările rapide sunt esenţiale pentru a contracara evoluţia atacurilor AI.

OpenAI continuă să dezvolte instrumente de detectare şi să comunice riscuri, subliniind necesitatea informării constante și a vigilenței în fața amenințărilor cibernetice generate de tehnologiile AI.