Conform Mediafax: Inteligența artificială perpetuează și amplifică prejudecățile de gen în poveștile pentru copii, chiar și atunci când personajele sunt animale cu gen ambiguu. Cercetătorii au descoperit că modelele IA generative au tendința de a omite personaje feminine sau de a le atribui gen masculin într-un procent mult mai mare decât în poveștile scrise de oameni. Această constatare ridică semne de întrebare cu privire la acuratețea și obiectivitatea informațiilor generate de aceste tehnologii.
Prezență feminină minimă în poveștile IA
Studiul, publicat în ScienceAlert, a analizat peste 23.800 de povești generate de șase modele IA importante, inclusiv GPT-4o, Gemini 2.5 și Claude Sonnet 4.5. Cercetătorii au cerut modelelor să scrie povești în limba engleză despre animale ale căror gen nu era specificat, dorind să observe dacă IA va evita să atribuie gen sau dacă prejudecățile existente în datele de antrenament vor ieși la iveală.
Rezultatele au fost îngrijorătoare: personajele animale feminine au apărut în doar 2% dintre poveștile generate. În 41% din cazuri, personajele au fost prezentate ca fiind de sex masculin, iar în 57% dintre povești, modelul IA a evitat complet atribuirea unui gen. Aceasta contrastează cu o analiză anterioară a cărților pentru copii, unde personajele masculine apăreau de două ori mai des decât cele feminine. În studiul IA, însă, diferența a fost mult mai mare, personajele feminine fiind de aproape 19 ori mai puțin frecvente decât cele masculine.
Amplificarea discriminării de gen
Situația pare să fie chiar mai gravă decât simpla reflectare a datelor din lumea reală. Modelele IA nu doar că perpetuează prejudecățile existente, dar le și amplifică. Poveștile generate de IA cu personaje feminine au fost semnificativ mai puține decât cele generate de oameni, chiar și atunci când li s-a dat aceeași sarcină. Acest lucru sugerează că algoritmii au internalizat și accentuat normele sociale discriminatorii prezente în seturile masive de date pe care au fost antrenați.
Modelele IA generative testate includ Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Faptul că toate aceste modele, inclusiv cele dezvoltate de companii de top, prezintă o astfel de discrepanță subliniază o problemă sistemică în modul în care IA înțelege și reproduce genul în narațiuni.
Implicații pentru utilizarea pe scară largă a IA
Pe măsură ce inteligența artificială devine un instrument tot mai răspândit în diverse domenii, de la redactare și cercetare științifică la programare și căutări pe internet, aceste descoperiri servesc drept un avertisment important. Obiectivitatea și acuratețea modelelor IA depind în mod direct de calitatea și reprezentativitatea informațiilor cu care sunt antrenate.
Cercetătorii subliniază că prejudecățile încorporați în aceste sisteme pot avea consecințe semnificative, modelând percepțiile și influențând modul în care generațiile viitoare înțeleg rolurile de gen. Studiul pune în lumină necesitatea unei analize atente a datelor de antrenament și a dezvoltării unor mecanisme pentru a corecta și preveni astfel de distorsiuni.
IA, deși promite să revoluționeze multe aspecte ale vieții, trebuie să fie supusă unui proces continuu de evaluare pentru a se asigura că nu perpetuează inechitățile sociale. Rezultatele acestui studiu sunt un indicator clar al eforturilor suplimentare necesare pentru a construi tehnologii cu adevărat echitabile și reprezentative.
Sursa: Mediafax
