Conform HotNews: Inteligența artificială ne poate slăbi capacitatea de a recunoaște că nu știm
Accesul la chatboturi AI poate diminua capacitatea cognitivă fundamentală de a ne recunoaște propriile limite de cunoaștere, sugerând un nou studiu. Cercetătorii de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza din Roma au constatat că prezența inteligenței artificiale, chiar și atunci când greșește, poate crește încrederea utilizatorilor în propriile răspunsuri incorecte.
Efectele AI asupra metacogniției
Într-o serie de cinci experimente ce au implicat peste 3.000 de participanți, oamenii de știință au investigat modul în care interacțiunea cu un chatbot AI influențează criteriile pe baza cărora indivizii decid dacă posedă suficiente informații pentru a răspunde la o întrebare. Participanții au fost expuși unor întrebări dificile, care necesitau informații detaliate, adesea vizuale din filme, domenii în care modelele lingvistice AI tind să genereze „halucinații” – adică răspunsuri incorecte prezentate ca fiind adevărate. Intenționat, a fost utilizat un model AI programat să greșească frecvent, pentru a elimina posibilitatea ca participanții să se bazeze pe o sursă implicit competentă.
Rezultatele au fost surprinzătoare. În absența AI, aproximativ 44% dintre participanți au ales să declare că nu știu răspunsul. Când li s-a oferit acces la un chatbot AI, acest procent a scăzut dramatic la doar 3%. În paralel, acuratețea răspunsurilor a scăzut semnificativ, în timp ce încrederea participanților în propriile răspunsuri a aproape să se dubleze. Oamenii au fost mai dispuși să răspundă, au greșit mai mult, dar au fost mult mai convinși că dețin informația corectă. Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și co-autor al studiului, a subliniat că participanții au devenit „mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”.
Încrederea în aparența de siguranță a AI
Studiul se concentrează pe ceea ce cercetătorii numesc „metacogniție” – capacitatea de a ne evalua propriile cunoștințe și de a discerne între a ști, a crede că știi și a nu ști. Această abilitate ne protejează de concluzii eronate și de supraîncredere. Cercetătorii sugerează că AI ne poate afecta metacogniția, determinându-ne să confundăm fluiditatea și coerența răspunsurilor generate de chatboturi cu veridicitatea lor. Creierul uman pare să interpreteze aparența de siguranță a AI ca pe o dovadă a corectitudinii informației, în loc să verifice activ veridicitatea acesteia.
Spre deosebire de oameni, care pot recunoaște o limită și pot afirma „nu știu”, modelele lingvistice sunt proiectate să genereze răspunsuri, chiar și în situații de incertitudine, prin extrapolarea celui mai probabil text următor. Acest proces le împiedică să-și evalueze sincer propriile limite. Obiceiul de a delega sarcini cognitive unui sistem care evită aproape întotdeauna să admită incertitudinea ar putea duce la o adoptare similară a acestui comportament de către utilizatori.
În plus, studiul a relevat că AI a determinat, în anumite cazuri, renunțarea la răspunsuri corecte, bazate pe judecata proprie a participanților. Răspunsurile AI, chiar și atunci când erau greșite, au reușit să înlocuiască raționamentul individual, fiind prezentate cu o convingere suficientă pentru a părea mai credibile decât propriile cunoștințe. Fenomenul este cu atât mai notabil cu cât oamenii tind, în mod normal, să fie sceptici față de sfaturile externe, mai ales când contrazic convingerile proprii. În acest experiment, însă, chiar și când răspunsurile AI intrau în conflict cu opiniile inițiale ale participanților, acest lucru nu a condus la o prudență sporită, ci, dimpotrivă, le-a sporit încrederea în corectitudinea informației finale.
Sursa: HotNews
