Conform Economistul.ro: AI Office preia frâiele supravegherii modelelor de inteligență artificială
Comisia Europeană, prin intermediul AI Office, devine de la 2 august 2026 o autoritate cu puteri sporite în reglementarea modelelor de inteligență artificială de uz general (GPAI). Noile competențe includ solicitarea de informații detaliate, evaluarea modelelor și impunerea unor măsuri stricte pentru reducerea riscurilor asociate acestora, conform unui anunț oficial din 11 august.
Această dată marchează o tranziție de la etapa de implementare la cea de aplicare efectivă a obligațiilor stipulate în AI Act. Furnizorii de modele GPAI se confruntă acum cu un regim de supraveghere mult mai riguros, iar nerespectarea regulilor poate atrage sancțiuni substanțiale, inclusiv posibila retragere a modelelor de pe piață.
Obligații sporite pentru furnizorii de modele GPAI
Obligațiile pentru furnizorii de modele de inteligență artificială de uz general, cunoscute sub denumirea de GPAI, au intrat în vigoare încă din 2 august 2025. Cu toate acestea, primul an a fost dedicat preponderent colaborării și facilitării tranziției. De la 2 august 2026, AI Office deține prerogativele necesare pentru a verifica conformitatea acestor modele cu prevederile AI Act.
Structura specializată a Comisiei Europene poate solicita furnizorilor documentație tehnică detaliată, realizarea de evaluări și implementarea unor măsuri corective, în special în cazul modelelor care prezintă riscuri sistemice. Aceste măsuri pot viza aspecte tehnice și organizaționale menite să diminueze potențialele pericole identificate.
Printre cerințele noi se numără păstrarea unei documentații tehnice complete, furnizarea de informații relevante dezvoltatorilor care construiesc aplicații pe baza modelelor GPAI, precum și respectarea drepturilor de autor. Furnizorii trebuie, de asemenea, să publice un rezumat detaliat al conținutului utilizat pentru antrenarea modelelor. Modelele considerate cu risc sistemic sunt supuse unor verificări suplimentare, inclusiv evaluarea și reducerea riscurilor, raportarea incidentelor grave și menținerea unui nivel ridicat de securitate cibernetică.
Transparență sporită în interacțiunea cu AI
Pe lângă supravegherea modelelor GPAI, tot de la 2 august 2026 intră în vigoare și noi reguli de transparență pentru anumite sisteme de inteligență artificială și pentru conținutul generat sau manipulat artificial. Aceste măsuri urmăresc să permită utilizatorilor să identifice situațiile în care interacționează cu sisteme AI sau sunt expuși la conținut modificat prin inteligență artificială.
Furnizorii de sisteme AI sunt obligați să informeze utilizatorii atunci când aceștia interacționează direct cu inteligența artificială. Pentru sistemele generative, AI Act impune utilizarea unor marcaje detectabile automat pentru conținutul creat sau modificat artificial, inclusiv în cazul așa-numitelor „deepfake-uri”. De asemenea, profesioniștii care utilizează anumite sisteme AI trebuie să informeze publicul atunci când acesta este expus la astfel de materiale.
Comisia Europeană consideră că aceste noi prevederi pot contribui la reducerea riscurilor de inducere în eroare, oferind utilizatorilor o mai bună înțelegere a naturii sistemelor cu care interacționează sau a conținutului pe care îl accesează.
AI Act a intrat în vigoare în 2024, iar implementarea sa se desfășoară etapizat. Noile competențe ale AI Office și obligațiile de transparență, ambele cu un punct de reper important la 2 august 2026, reflectă eforturile Comisiei de a crea un cadru robust pentru dezvoltarea și utilizarea responsabilă a inteligenței artificiale.
Sursa: Economistul.ro
