Conform Descopera: Conversațiile cu ChatGPT, expuse evaluărilor umane

Intimitatea utilizatorilor ChatGPT este pusă sub semnul întrebării. Sute de angajați ai companiei OpenAI, responsabili cu evaluarea și îmbunătățirea inteligenței artificiale, au acces la dialogurile confidențiale purtate de utilizatori cu chatbot-ul. Deși OpenAI susține că datele personale sunt anonimizate, criticii avertizează asupra riscurilor unei potențiale expuneri.

Detalii personale, accesibile evaluatorilor

Potrivit unei investigații realizate de 404 Media, colaboratorii angajați de OpenAI studiază conversații integrale purtate cu ChatGPT. Aceștia evaluează răspunsurile oferite de rețeaua neuronală, având posibilitatea de a accesa inclusiv informații considerate personale de către utilizatori. Proiectul, denumit intern „Project Lily”, are ca scop principal antrenarea modelului AI pentru a evita răspunsuri excesiv de amabile sau „umanizate”, dar și pentru a preveni adoptarea unor comportamentelor nedorite.

Măsuri de siguranță și riscuri persistente

Compania OpenAI a declarat că încearcă să elimine automat datele de identificare personale înainte ca acestea să fie transmise evaluatorilor. De asemenea, aceștia nu ar trebui să aibă acces la numele utilizatorilor. Cu toate acestea, compania recunoaște că filtrul automat nu este perfect și pot exista situații în care detalii private să ajungă să fie vizibile. Angajații sunt recrutați prin intermediul unor companii precum Mercor și Crossing Hurdles, sarcina lor fiind de a asigura calitatea și siguranța interacțiunilor cu inteligența artificială.

Această dezvăluire ridică semne de întrebare majore cu privire la confidențialitatea datelor transmise prin intermediul chatbot-ului. Persoanele care au împărtășit informații sensibile sau secrete cu ChatGPT ar putea fi expuse unor terți, contrar așteptărilor lor. Rămâne de văzut cum va reacționa OpenAI la aceste acuzații și ce măsuri suplimentare va implementa pentru a proteja datele utilizatorilor.

Sursa: Descopera