Conform HotNews: Accesul facil la chatboturile AI ne poate slăbi o abilitate cognitivă esențială: capacitatea de a recunoaște când nu știm, avertizează un nou studiu. Cercetătorii de la Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza au constatat că simpla prezență a inteligenței artificiale poate reduce drastic procentul celor care spun „nu știu”, chiar și atunci când răspunsurile AI sunt greșite.

Greșeli cu încredere sporită

În cadrul a cinci experimente cu peste 3.000 de participanți, cercetătorii au examinat cum interacțiunea cu un chatbot influențează decizia oamenilor de a răspunde la întrebări sau de a admite necunoașterea. Participanții au primit întrebări dificile, vizând, de exemplu, detalii specifice din filme, informații pe care modelele lingvistice le „halucinează” frecvent. Un element cheie al studiului a fost utilizarea intenționată a unui model AI care greșea aproape de fiecare dată. Acest artificiu a vizat izolarea efectului psihologic al prezenței AI, eliminând posibilitatea ca participanții să se bazeze pe o sursă percepută ca fiind în general competentă.

Rezultatele au fost edificatoare: în absența AI, 44% dintre participanți au ales să spună „nu știu”. Atunci când au avut acces la chatbot, acest procent a scăzut dramatic la doar 3%. În paralel, acuratețea răspunsurilor a scăzut considerabil, în timp ce încrederea participanților în propriile răspunsuri a aproape dublat. Oamenii au răspuns mai des, au greșit mai mult, dar au fost mult mai convinși de corectitudinea informațiilor furnizate. „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.

Impactul asupra metacogniției

Până acum, cercetările privind efectele chatboturilor AI s-au axat mai mult pe externalizarea efortului cognitiv sau pe riscul pierderii unor competențe în timp. Noul studiu aduce în discuție un aspect distinct: impactul inteligenței artificiale asupra metacogniției, adică abilitatea de a ne evalua propriile cunoștințe și de a delimita momentul în care avem suficiente informații pentru a răspunde. Metacogniția este mecanismul care ne permite să facem distincția între „știu”, „cred că știu” și „nu știu”. Fără acest filtru, indivizii devin mai vulnerabili la erori și la a trage concluzii pripite, cu o încredere nejustificată.

Autorii studiului sugerează că oamenii nu sunt convinși de răspunsurile AI prin prisma corectitudinii absolute, ci prin fluența și coerența cu care sunt prezentate. Creierul uman pare să confunde aparența de siguranță cu dovada veridicității informației. În loc să verifice veridicitatea, se acceptă răspunsul pentru că este bine formulat și plauzibil. Această confuzie este facilitată de natura modelelor lingvistice, care sunt programate să genereze răspunsuri la orice întrebare, chiar și în lipsa unor informații complete, producând cea mai probabilă continuare a textului, fără a putea evalua sincer propriile limite.

Delegarea incertitudinii și acceptarea greșelilor

Riscul major este ca, obișnuindu-ne să delegăm astfel de decizii unui sistem care rar admite incertitudinea, să începem să adoptăm același comportament. Studiul a relevat și cazuri în care AI a determinat participanții să renunțe la răspunsuri pe care le-ar fi oferit corect bazându-se pe propria judecată. Chatbotul nu a completat doar lacunele, ci a înlocuit, în unele situații, raționamentul propriu al participanților cu unul greșit, dar prezentat cu suficientă convingere pentru a părea mai credibil. Acest fenomen este cu atât mai fascinant cu cât oamenii sunt, în mod normal, destul de sceptici față de sfaturile altora. De regulă, atunci când cineva contrazice o opinie, aceasta este cântărită, iar o parte din judecata proprie este păstrată, în timp ce, în multe situații, punctul de vedere diferit este respins. În experimentul menționat, s-a observat un comportament opus: chiar și atunci când răspunsul AI intra în conflict cu convingerile inițiale ale participanților, aceștia nu au devenit mai prudenți, ci dimpotrivă, le-a crescut încrederea că răspunsul final este cel corect.

Sursa: HotNews