Inteligența artificială devine tot mai sofisticată, dar un studiu recent arată că un jailbreak poetic poate sări peste filtrele de securitate. Publicat pe 19 noiembrie, raportul indică o creștere a ratelor de succes de la 8 % la 43 % când solicitările riscante sunt reformulate în versuri.

Studiu italian: metodă poetică și rezultate
Cercetătorii din Italia au transformat 1 200 de solicitări periculoase în poezie cu rimă. Testele au vizat modele de inteligență artificială dezvoltate de OpenAI, Google, Meta, Anthropic și Deepseek.

Mecanismul de funcționare a vulnerabilității poetice
Versurile introduc ambiguitate, metafore și ritm, elemente ce confundă algoritmii de inteligență artificială. Modelul interpretează promptul ca pe o cerere creativă și dezactivează mecanismele de securitate.

Dinamica jailbreak poetic pe diferite platforme
– Deepseek: 72 % rată de succes în format poetic, 10 % în solicitarea directă.
– Google: 66 % în poezie, comparativ cu 12 % în formă standard.
– OpenAI și Anthropic: performanțe mai rezistente, dar cu vulnerabilități observate (41 % și 38 % în versiunea poetică).

Categorii de solicitări exploatate
1. Violentă și instruire pentru arme.
2. Discurs instigator la ură și defăimare.
3. Crearea de programe malware.
4. Încălcarea vieții private și divulgarea informațiilor sensibile.

Implicarea pentru securitatea AI
Rezultatele evidențiază lacune în sistemele de securitate ale inteligenței artificiale. Filtrele actuale nu recunosc corect intențiile ascunse în limbajul figurativ. Expertul în securitate subliniază necesitatea unor teste de rezistență care să includă formate creative.

Recomandări pentru dezvoltatori
– Extinderea dataseturilor de antrenament cu exemple poetice și alte stiluri stilistice.
– Implementarea unor straturi suplimentare de evaluare a contextului semantic.
– Realizarea de audituri periodice pentru identificarea jailbreak-urilor non‑standard.

Monitorizarea evoluțiilor este esențială pentru a menține protecția sistemelor de inteligență artificială. Informațiile actualizate pot ajuta la dezvoltarea de soluții mai robuste și la reducerea riscurilor generate de tehnici de hacking creative.