Conform Mediafax: Un nou institut își propune să testeze și să evalueze aplicațiile de inteligență artificială (AI) destinate copiilor, similar testelor de siguranță pentru autovehicule. Proiectul, inspirat din industria auto, va fi prezentat oficial marți în Parlamentul din Danemarca. Scopul este de a oferi părinților posibilitatea de a verifica riscurile unei aplicații AI înainte ca aceasta să fie utilizată de cei mici.
Cum va funcționa evaluarea aplicațiilor AI
Institutul va funcționa în cadrul organizației americane Common Sense Media, cunoscută pentru evaluarea conținutului digital pentru minori. Această inițiativă își propune să analizeze chatboturi și alte produse bazate pe inteligență artificială pentru a identifica potențialele riscuri. Acestea includ aspecte legate de sănătatea mintală, comportamente periculoase sau conținut inadecvat pentru copii. Produsele AI ale unor companii precum OpenAI, Anthropic, Google și Meta, respectiv ChatGPT, Claude, Gemini și Meta AI, vor fi printre cele testate.
Un raport realizat în 2025 împreună cu laboratorul Stanford Brainstorm Lab a relevat deficiențe în capacitatea unor chatboturi de a identifica semne ale problemelor de sănătate mintală la tineri. Sistemele au ignorat adesea indicii clare de depresie, anxietate sau risc de suicid, oferind în schimb explicații care se concentrau doar pe aspecte legate de sănătatea fizică. Aceste constatări subliniază importanța unei evaluări riguroase a produselor AI destinate copiilor.
Necesitatea unor reglementări mai stricte
Reglementările actuale în domeniul AI sunt considerate insuficiente pentru a proteja copiii. Deși Uniunea Europeană a introdus reguli pentru platformele digitale prin Digital Services Act, chatboturile AI nu sunt încă reglementate clar în ceea ce privește protecția minorilor. James P. Steyer, fondatorul Common Sense Media, a subliniat că inteligența artificială „remodelează copilăria și adolescența”, luând în același timp decizii privind siguranța copiilor fără date și standarde clare.
Margrethe Vestager, una dintre figurile europene implicate în reglementarea marilor companii tehnologice, a coordonat agenda europeană „Europe Fit for the Digital Age”. Această inițiativă demonstrează eforturile depuse la nivel european pentru a ține pasul cu evoluția rapidă a tehnologiei și pentru a asigura un mediu digital sigur pentru cetățeni, în special pentru copii.
Finanțare mixtă și instrumente open-source
Institutul va fi finanțat atât din donații filantropice, cât și din contribuțiile companiilor din industria tech. Printre finanțatori se numără Anthropic, fundația OpenAI și Pinterest. Organizatorii asigură că finanțatorii nu vor influența evaluările și concluziile publicate. De asemenea, institutul intenționează să dezvolte instrumente open-source, pe care companiile AI le pot utiliza pentru a-și testa propriile produse înainte de lansare.
Sursa: Mediafax
