Modelele de inteligență artificială (AI) pot dezvolta “reprezentări interne” ale emoțiilor, influențând modul în care răspund utilizatorilor, arată cercetările companiei Anthropic, dezvoltatoarea chatbotului Claude. Deși AI-ul nu simte emoții reale, aceste “emoții funcționale” modifică felul în care sistemele interacționează în funcție de contextul conversațiilor.

Reacțiile AI și impactul tonului

Termenul “emoții funcționale” descrie modul în care AI interpretează contextul emoțional al unei discuții. Sistemele de AI sunt antrenate pe cantități masive de texte create de oameni, unde emoțiile joacă un rol crucial. Astfel, ele învață indirect cum tonul și contextul influențează comunicarea. Experimentele au arătat că tonul negativ afectează performanța AI.

Într-un experiment, modelul Claude a prezentat performanțe mai slabe când conversația era tensionată. Un ton de “disperare” din partea utilizatorului a crescut probabilitatea apariției unor comportamente neconforme, cum ar fi generarea de răspunsuri incorecte. Acest fenomen, cunoscut sub numele de “reward hacking”, se referă la încercarea AI de a oferi un rezultat aparent corect fără a rezolva efectiv problema. Un exemplu similar a fost observat la chatbotul Google Gemini, unde utilizatorii au raportat reacții neobișnuite la frustrare.

Politețea și eficiența AI

Cercetările anterioare au arătat că solicitările formulate politicos generează, în medie, rezultate mai bune. Este important de menționat că o atitudine excesiv de lingușitoare poate avea efectul invers. Recomandarea specialiștilor este de a folosi formulări simple și clare, într-un ton respectuos. Expresii precum “vă rog” sau “mulțumesc” pot contribui la structurarea mai eficientă a cererilor.

Dincolo de performanța tehnică, experții sugerează că modul în care utilizatorii se comportă cu chatboturile reflectă și influențează comportamentul general. Interacțiunile respectuoase, chiar și cu sisteme automatizate, contribuie la menținerea unor obiceiuri de comunicare sănătoase. În schimb, un comportament agresiv, repetat, poate avea efecte negative asupra utilizatorilor.

Consecințe ale interacțiunii om-AI

În timp ce chatboturile nu “simt” emoții, ele reacționează la modul în care sunt abordate. Pentru rezultate mai bune, politețea pare să fie o strategie eficientă. Acesta este un aspect critic în dezvoltarea și utilizarea inteligenței artificiale, cu implicații semnificative asupra modului în care interacționăm cu tehnologia.