Cercetătorii avertizează cu privire la posibilele efecte ale personajelor virtuale create de inteligența artificială (IA), extrem de realiste, care ar putea influența opinia publică și sistemele democratice. Un studiu recent publicat într-o revistă de specialitate detaliază modul în care aceste entități pot imita comportamentul uman online. Experții trag un semnal de alarmă asupra riscurilor pe care le prezintă aceste tehnologii, care pot afecta semnificativ societățile democratice.
Cum funcționează „roiurile” de IA
Documentul menționat descrie mecanismul prin care grupuri mari de personaje generate de IA pot reproduce în mod convingător comportamentul uman pe internet. Aceste sisteme au capacitatea de a pătrunde în comunități digitale, de a participa la discuții și de a influența punctele de vedere într-un timp foarte scurt. Spre deosebire de rețelele anterioare de boți, aceste „voci” IA pot coordona acțiuni, pot răspunde rapid la reacții și pot menține narațiuni coerente pe mii de conturi.
Progresul rapid în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent a dus la posibilitatea ca un singur operator să controleze rețele vaste de „voci” IA, creând o iluzie de autenticitate. Aceste personaje virtuale pot adopta un limbaj și un ton adecvat contextului și pot interacționa într-un mod care pare natural pentru ceilalți utilizatori. Prin realizarea a milioane de experimente la scară mică, ele pot determina care mesaje sunt cele mai convingătoare, rafinându-și strategiile de comunicare în timp real. Astfel, pot genera ceea ce pare a fi un consens public larg, deși acesta este creat artificial și are ca scop influențarea dezbaterilor politice.
Deepfake-urile și știrile false, primele semnale de alarmă
Deși „roiurile” de IA pe deplin dezvoltate sunt încă în stadiul teoretic, semnele de avertizare deja apar, potrivit cercetătorilor. Deepfake-urile generate de IA și sursele de știri false au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India, conform unor specialiști în informatică. În paralel, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Se crede că această activitate vizează modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA. Aceasta influențează modul în care aceste sisteme se comportă și ce informații prioritizează. Astfel, consecințele pot fi considerabile, afectând modul în care cetățenii se informează.
Impactul asupra democrației
Dr. Kevin Leyton-Brown, informatician, a avertizat că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”. Experții consideră că aceste fenomene ar putea afecta echilibrul de putere în societățile democratice.
În contextul acestor evoluții, este esențială o analiză aprofundată a impactului pe care aceste tehnologii îl pot avea asupra proceselor democratice și a încrederii publice.
