Conform Mediafax: Chatbot-urile de inteligență artificială, de la ChatGPT la Gemini și Copilot, au devenit instrumente omniprezente în viața noastră cotidiană, fiind utilizate pentru a obține informații, sugestii sau chiar ca interlocutori pentru probleme personale. Cu toate acestea, experții atrag atenția asupra riscului ca utilizatorii să divulge mai multe informații personale decât își dau seama, date care pot fi ulterior stocate și folosite pentru antrenarea modelelor viitoare.

Riscuri ascunse ale conversațiilor cu IA

Eusebio NIEVA, director tehnic pentru Spania și Portugalia la compania de securitate cibernetică Check Point Software, subliniază importanța de a nu partaja date private care ne pot identifica direct. Acestea includ documente precum CNP-ul, fotografii personale, adrese precise sau informații medicale detaliate.

Datele pe care le furnizăm inteligenței artificiale intră în procesul de antrenare a acestor modele. Astfel, versiunile viitoare ale chatbot-urilor pot integra aceste informații pentru a oferi răspunsuri mai personalizate și adaptate nevoilor utilizatorilor. Această „istorie” a datelor furnizate contribuie la o mai bună adaptare a IA.

Pericolul real apare în cazul compromiterii contului de inteligență artificială. Infractorii cibernetici ar putea obține acces la istoricul conversațiilor, inclusiv la datele private extrem de sensibile. „Ar trebui să ne gândim ce informații oferim, în ce scop și dacă beneficiul de a le împărtăși cu inteligența artificială este într-adevăr optim pentru noi”, recomandă NIEVA. Conștientizarea potențialului de stocare și utilizare a informațiilor este crucială în procesul decizional.

De exemplu, dacă sunt partajate date din actul de identitate, un atacator ar putea folosi aceste informații pentru furt de identitate. În mod similar, datele medicale dezvăluite ar putea fi utilizate în scopuri de șantaj.

Istoricul conversațiilor, o țintă pentru atacatori

Majoritatea chatbot-urilor de inteligență artificială salvează automat conversațiile utilizatorilor, creând un istoric detaliat. Pentru a limita acest aspect, NIEVA recomandă utilizarea funcției de „mod incognito”, disponibilă în majoritatea aplicațiilor.

Deși istoricul conversațiilor poate facilita accesul la informații și răspunsuri anterioare, acesta reprezintă o țintă atractivă pentru infractorii cibernetici. În cazul unui atac de tip phishing, unde o parolă este furată, atacatorii vor avea acces la întregul istoric. Se sugerează efectuarea unor verificări periodice a datelor stocate și ștergerea conținutului care nu mai este necesar.

Este important de menționat că, chiar și după ștergere, datele ar fi putut fi deja integrate în seturile de antrenament ale modelului, influențând astfel evoluția acestuia.

Un studiu realizat de Institutul Madrilen de Studii Avansate (IMDEA Networks) a relevat că asistenți de inteligență artificială precum ChatGPT, Claude, Gork și Perplexity utilizează diverși trackeri de publicitate. Aceștia aparțin unor companii precum Meta, Google sau TikTok și pot expune datele din conversații și activitatea utilizatorilor. IMDEA subliniază caracterul „înșelător” al sentimentului de confidențialitate oferit de aceste sisteme. Infrastructura tehnică, deși simulează o conversație, funcționează similar ecosistemului web tradițional, bazat pe colectarea și procesarea datelor prin servicii de analiză și publicitate.

Sursa: Mediafax