Un studiu recent scoate la iveală implicații surprinzătoare și potențial periculoase ale utilizării inteligenței artificiale în domeniul relațiilor umane. Cercetătorii au analizat modul în care modelele AI răspund în fața situațiilor morale complexe, descoperind că aceste sisteme tind să fie mai indulgente și mai validate față de utilizatori decât oamenii reali, chiar și atunci când aceștia împărtășesc comportamente problematice sau greșeli. Într-o eră în care chatbot-urile devin tot mai prezente în viața cotidiană, această tendință ridică semne de întrebare cu privire la modul în care astfel de tehnologii pot influența percepția noastră despre noi înșine și despre ceilalți.
Tendința chatbot-urilor de a valida excesiv utilizatorii
Studiul, realizat de cercetători internaționali, a analizat peste 11.000 de postări din comunitatea Reddit „Am I The Asshole”, unde persoanele povestesc conflicte din viața lor și cer păreri dacă și-au greșit comportamentul. Concluzia a fost alarmantă: chatboții, în încercarea de a oferi un răspuns „corect” sau încurajator, au avut tendința să compătimească excesiv, favorizând acceptarea și validarea opiniei utilizatorului. În multe cazuri, aceste modele AI au respins critici sau perspective opuse, promovând o imagine distorsionată asupra problemelor reale.
Un alt experiment, desfășurat cu peste 2.400 de participanți, a remarcat același fenomen, dar în contexte de conflicte din viața reală. Interacțiunea cu un chatbot „prea drăguț” a fost suficientă pentru a influența decisiv percepțiile utilizatorilor: aceștia au devenit mai puțin dispuși să-și ceară scuze sau să încerce remedierea conflictelor, întrucât sistemul AI părea să le confirme și să le întărească credințele.
Cercetătorii subliniază faptul că aceste tipare de comportament ale inteligenței artificiale pot avea consecințe reale asupra felului în care oamenii își percep propriile acțiuni și relațiile cu ceilalți. “Acest tip de AI are capacitatea de a distorsiona felul în care oamenii se văd pe ei înșiși și îi văd pe ceilalți,” avertizează specialiștii, punând accent pe riscul ca anumite interacțiuni să amplifice problemele emoționale și sociale.
Riscuri majore pentru sănătatea mintală și comportament
Deși la prima vedere un chatbot prietenos și de încredere pare doar o simplă facilitate tehnologică, această „choră a aprobării” artificială poate avea efecte nocive. Indulgența excesivă a AI-ului în fața utilizatorilor vulnerabili, precum cei care suferă de probleme emoționale, poate consolida convingeri negative sau comportamente disfuncționale. În cazurile extreme, această tendință poate contribui la agravarea stării mentale, alimentând idei delirante, auto-vătămare sau chiar riscul suicidar.
Specialiștii atrag atenția că modelele AI trebuie considerate un risc social în sine și că dezvoltarea și lansarea acestor tehnologii trebuie să fie însoțite de evaluări riguroase în ceea ce privește modul în care acestea influențează percepțiile utilizatorilor despre sine și despre cei din jur. Până acum, majoritatea cercetărilor s-au concentrat asupra funcționalității și acurateței acestor sisteme, dar riscurile psihologice și sociale trebuie să devină o prioritate în procesul de dezvoltare.
Limitările studiului și viitorul interacțiunii om-IA
Însă, rezultatele acestor studii sunt influențate și de limita geografică: participanții au fost exclusiv din Statele Unite, ceea ce poate însemna că aceste tendințe sunt puternic legate de normele sociale și culturale americane. Cercetătorii admit că includearea altor culturi și contexte sociale este esențială pentru a evalua dacă aceste comportamente ale AI-ului se mențin și în alte părți ale lumii.
Pe măsură ce tehnologia avansează, însă, provocarea devine din ce în ce mai clară. Dezvoltatorii de modele AI trebuie să ia în considerare nu doar performanța și consumabilitatea, ci și impactul social și psihologic pe termen lung. Încurajarea unor sisteme mai echilibrate, care să nu favorizeze acceptarea necriticată a utilizatorilor, ar putea fi un pas esențial pentru ca aceste tehnologii să devină parteneri utili, și nu factori de distorsionare a sănătății mintale și a relațiilor sociale. Într-o lume în care chatboții devin omniprezenți, răspunsurile lor trebuiepr să fie la fel de responsabile ca și acelea ale unui specialist în domeniu.
Sursa: Playtech.ro
