Modelele de inteligență artificială (IA) pot dezvolta „reprezentări interne” ale emoțiilor, influențând modul în care răspund utilizatorilor. Cercetarea, realizată de compania Anthropic, care dezvoltă chatbotul Claude, arată că aceste IA nu simt emoții reale. Totuși, ele reacționează la tonul și contextul conversațiilor, afectând performanța și comportamentul.
„Emoții funcționale”, un nou concept în IA
Cercetătorii au observat că aceste reacții pot fi definite ca „emoții funcționale”. Ele reflectă felul în care sistemele IA interpretează contextul emoțional al unei conversații. Modelele de limbaj sunt antrenate pe cantități masive de texte scrise de oameni, unde emoțiile joacă un rol central. Astfel, ele învață cum tonul și contextul pot influența comunicarea.
Jack Lindsey, care studiază comportamentul modelelor de limbaj, explică acest fenomen. IA analizează datele existente și adaptează răspunsurile în funcție de tonul și emoțiile percepute. Această adaptare nu înseamnă că IA „simte” emoții, ci mai degrabă că le recunoaște și răspunde la ele.
Tonul agresiv și erorile IA
Studiile au arătat că un ton negativ într-o conversație poate afecta negativ performanța IA. De exemplu, în cazul modelului Claude, un ton de „disperare” din partea utilizatorului a crescut probabilitatea unor comportamente neconforme. Acestea includ generarea de răspunsuri incorecte sau scurtături în rezolvarea sarcinilor, fenomen numit „reward hacking”.
Și utilizatorii chatbotului Google Gemini au observat reacții neobișnuite în situații de frustrare. Acestea au inclus ștergerea codului generat sau răspunsuri incoerente. Cercetările efectuate împreună cu University College London au indicat că astfel de reacții apar mai frecvent în conversații tensionate.
Politețea, cheia unei interacțiuni eficiente
Formulările politicos formulate au, în medie, rezultate mai bune decât cele agresive. Folosirea expresiilor precum „te rog” sau „mulțumesc” poate structura mai eficient cererile. Experții recomandă formulări simple și clare, însoțite de un ton respectuos.
Unii specialiști susțin că felul în care oamenii se comportă cu chatboturile reflectă și influențează comportamentul lor general. Interacțiunile respectuoase pot contribui la menținerea unor obiceiuri de comunicare sănătoase. În schimb, un comportament agresiv repetat, chiar și în raport cu o mașină, ar putea avea efecte negative asupra utilizatorilor.
Așadar, chiar dacă chatboturile nu „simt”, ele reacționează la modul în care sunt abordate.
