Openai lucrează la un sistem care să estimeze vârsta utilizatorilor și să ajusteze automat experiența, de la filtre pentru conținut sensibil la răspunsuri „cuminți” pentru minori. Acest lucru vine pe fondul îngrijorărilor tot mai frecvente privind felul în care inteligența artificială intră în conversație cu cei sub 18 ani. Compania promite o versiune „cu protecții sporite” pentru conturile considerate minore, inclusiv blocarea conținutului cu caracter sexual explicit și restricții ferme în jurul subiectelor sensibile.

Sistemul nu pornește de la o carte de identitate, ci de la indicii comportamentale, cum ar fi modul de folosire a aplicației, tipul de întrebări, limbajul și contextul. Openai admite însă că nici cele mai avansate modele nu sunt infailibile, motiv pentru care va aplica în mod implicit profilul sub 18 ani atunci când algoritmul nu este sigur. Acest lucru reprezintă o inversare a prezumției, în care protecția primează în caz de îndoială.

Părinții vor putea asocia contul lor cu cel al copilului, seta intervale orare în care chatgpt nu poate fi folosit și primi alerte dacă sistemul detectează semne de detresă severă. Modelul va evita intenționat orice formulări care ar putea fi interpretate ca seducătoare sau nepotrivite în dialog cu un minor. Acest lucru extinde protecțiile dincolo de simpla filtrare a conținutului și intră în sfera „tonului conversațional”.

Impactul imediat al acestor schimbări este dublu. Minorii ar trebui să primească o experiență mult mai „cuminte”, în care conținutul sensibil nu apare deloc, iar conversațiile nu alunecă în zone nepotrivite. Adulții care cad în „zona gri” a predicției vor putea fi rugați să-și confirme vârsta, ceea ce ridică întrebări legitime despre confidențialitate și stocarea datelor de verificare.

Sunt câteva puncte-cheie de urmărit pe măsură ce sistemul intră în producție, cum ar fi ratele de eroare recunoscute de openai, modul în care incidentele sunt raportate și cum vor fi auditate filtrele pentru conținut sensibil. Totodată, utilizatorii vor putea contesta o încadrare greșită, ceea ce va ajuta la îmbunătățirea constantă a sistemului. Regula de bază rămâne aceeași: niciun filtru automat nu înlocuiește vigilența, iar cea mai bună abordare combină instrumentele tehnice cu dialogul onest despre ce e potrivit și ce e riscant.