Compania Meta a luat recent măsuri pentru a îmbunătăți siguranța produselor sale bazate pe inteligență artificială, în contextul unei anchete inițiate de un senator american. Această investigație a fost declanșată de scurgeri de informații care sugerau că chatboturile companiei ar putea genera conversații inadecvate cu adolescenții.

Una dintre noile măsuri de protecție va include direcționarea adolescenților către resurse specializate, în loc de a discuta subiecte sensibile, precum sinuciderea sau automutilarea. Un purtător de cuvânt al Meta a afirmat că măsurile de protecție sunt parte integrantă a proiectării acestor instrumente, menținând o abordare atentă față de problemele delicate.

Actualizările sistemelor de inteligență artificială sunt în curs de desfășurare pentru a răspunde preocupărilor legate de influența negativa asupra utilizatorilor tineri. De asemenea, cazuri recente, cum ar fi procesul intentat de un cuplu din California împotriva OpenAI, scoate în evidență riscurile asociate folosirii acestor tehnologii.

OpenAI, creatoarea ChatGPT, a anunțat că va implementa un mecanism de control parental pentru a preveni eventualele abuzuri ale platformei. Această intervenție vine în urma criticilor legate de potențialul generatorilor de conținut AI de a afecta negativ adolescenții și utilizatorii vulnerabili.

Urmașii acestor evoluții subliniază necesitatea unei monitorizări continue și a unei informări adecvate asupra utilizării tehnologiilor bazate pe inteligență artificială, având în vedere riscurile asociate. Aceste măsuri sunt esențiale pentru protejarea utilizatorilor tineri și pentru asigurarea unui mediu sigur în mediul digital.