Inteligența Artificială (AI) generativă, inclusiv funcțiile precum rezumatele generate de AI în motorul de căutare Google, se confruntă cu o problemă majoră: acuratețea. Un studiu recent estimează că sistemul oferă răspunsuri corecte în doar 9 din 10 cazuri. Aceasta înseamnă zeci de milioane de răspunsuri potențial eronate, o statistică îngrijorătoare având în vedere volumul imens de căutări procesate zilnic.

Erori sub pașaportul încrederii

La prima vedere, prezentările AI ale căutărilor Google par bine structurate și includ mai multe surse citate. Cu toate acestea, rata de eroare de 10% devine semnificativă în practică. Având în vedere că Google ar putea procesa peste cinci trilioane de căutări până la finalul anului 2026, sistemul generează un număr considerabil de răspunsuri discutabile la nivel global. Un răspuns greșit poate fi corectat la o nouă căutare, dar acest lucru face sistemul imprevizibil. Mai mult, prezentările AI sunt afișate în partea de sus a paginii de rezultate, ceea ce încurajează utilizatorii să aibă încredere în informațiile furnizate. Această poziționare favorabilă poate duce la o acceptare mai rapidă și mai puțin critică a datelor, chiar și în prezența inexactităților.

De unde vin greșelile?

Problema acurateței este amplificată de sursele utilizate de AI. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, chiar și atunci când informațiile sunt inexacte. În unele cazuri, AI citează surse credibile, dar interpretează greșit datele. Există și riscul manipulării intenționate. Persoanele care înțeleg vulnerabilitățile sistemului ar putea crea conținut fals pentru a crește vizibilitatea, influențând astfel răspunsurile AI. Această posibilitate subliniază importanța verificării informațiilor și a utilizării critice a acestor instrumente. Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare și că multe exemple problematice provin din interogări nerealiste.

Un viitor cu scepticism

Chiar și cu aceste limitări, este crucial să abordăm astfel de instrumente cu scepticism. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă din cauza numărului mare de căutări zilnice. Studiile sugerează, de asemenea, că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive. Indiferent de îmbunătățirile tehnologice viitoare, avertismentul sistemului – „AI-ul poate greși, deci verifică informațiile!” – rămâne cea mai sigură recomandare de urmat.