Europarlamentarul Dan Motreanu a anunțat recent că Parlamentul European analizează posibilitatea introducerii unor reguli mai stricte privind utilizarea inteligenței artificiale în crearea și manipularea imaginilor intime sau sexuale. În contextul amplificării preocupărilor legate de confidențialitate și siguranța cetățenilor, discuțiile au devenit tot mai acutice, având în vedere riscurile la care se expun persoanele, în special cele vulnerabile, în mediul digital.
Regulament european în pregătire pentru controlul conținutului generat de AI
Motreanu a subliniat importanța interzicerii aplicațiilor care folosesc inteligența artificială pentru a crea sau modifica imagini cu caracter sexual sau intim, fără acordul persoanei vizate. „Susțin interzicerea aplicațiilor care folosesc inteligența artificială pentru a crea sau manipula imagini sexuale sau intime ce seamănă cu o persoană reală, fără consimțământul acesteia”, a transmis acesta. În același timp, membrilor din Comisiile pentru Piața Internă și Libertăți Civile le-a reamintit că lucrează în direcția clarificării listelor de practicilor interzise, în contextul în care mai mulți eurodeputați au solicitat Comisiei Europene să includă aceste tipuri de aplicații pe lista interdicțiilor.
Regulamentul european privind inteligența artificială, care va intra în vigoare începând cu 2 august 2026, prevede măsuri stricte pentru furnizorii celor mai performante modele de AI. Aceștia vor avea obligația de a evalua și reduce riscurile generate de tehnologie, inclusiv cele legate de conținut ilegal sau discriminatoriu. Totodată, regula vizează responsabilizarea companiilor în ceea ce privește modul în care sunt dezvoltate și utilizate soluțiile bazate pe inteligență artificială, pentru a preveni abuzurile, dar și utilizarea în scopuri dăunătoare.
Deepfake-urile și lacunele în legislație
Deși reglementările europene sunt în curs de elaborare, o problemă nerezolvată încă are la bază sistemele de generare a conținutului deepfake, în particular cele care pot produce imagini cu caracter sexual sau materiale în care pot fi implicate abuzuri asupra minorilor. În prezent, legislația europeană nu include explicit aceste tipuri de sisteme de AI în lista celor interzise, ceea ce a dus la recomandări din partea mai multor state membre, printre care și România, pentru extinderea acestor restricții.
Situația a generat, chiar și în acest context, un val de dezbateri publice și politice, fiind accentuată și de riscurile asupra drepturilor fundamentale ale persoanelor vizate. În mod specific, deepfake-urile care pot fi folosite pentru a produce conținut sexual explicit fals sau pentru a manipula imagini cu indivizi fără consimțământul lor pot avea efecte devastatoare asupra vieții private și reputației.
Investigații și controale asupra platformelor de social media
În paralel, Autoritatea pentru Comunicații și Rețelele Europene a lansat, recent, o anchetă împotriva platformei X, fostul Twitter, pentru modul în care aceasta a gestionat riscurile legate de noile funcționalități bazate pe inteligența artificială. Verificările vizează în special modul în care platforma a evaluat și gestionat riscurile de distribuire a conținutului ilegal, ca imaginile manipulative cu caracter sexual explicit sau materiale ce pot intra în categoria pornografiei infantile.
Dacă se vor dovedi nereguli, compania riscă sancțiuni extrem de dure, inclusiv penalizări financiare de până la 6% din cifra de afaceri mondială anuală. Aceste măsuri reflectă angajamentul Uniunii Europene de a crea un cadru legislativ care să asigure responsabilizarea platformelor digitale și protejarea utilizatorilor, mai ales a celor vulnerabili.
Pe măsură ce tehnologia avansează, provocările legislative devin tot mai numeroase și complexe. În condițiile în care Europa urmărește să devină un model de responsabilitate și etică în dezvoltarea și utilizarea inteligenței artificiale, probabilitatea ca aceste reglementări să fie extinse și la alte domenii sensibile este una foarte mare. În viitor, orice utilizare abuzivă sau ilegală a AI ar putea fi sancționată mai drastic, iar platformele digitale vor fi mai strict monitorizate pentru a proteja drepturile fundamentale ale fiecăruia.
Sursa: Mediafax
