Conform Playtech.ro: Firmele românești, noi provocări odată cu intrarea în vigoare a AI Act
Companiile care integrează inteligența artificială (AI) în produsele și serviciile lor se confruntă cu noi responsabilități, determinate de reglementările europene. Obligațiile suplimentare apar în special atunci când sistemele AI ajung la clienți și influențează decizii sau comportamente, transformând rolul companiilor de la simplu utilizator la furnizor sau integrator.
Pregătirea documentației, esențială pentru conformitate
Un aspect crucial, adesea subestimat, este demonstrarea utilizării responsabile a inteligenței artificiale, care se traduce prin documentație amănunțită. Aceasta include decizii scrise, evaluări de risc, politici interne, instrucțiuni pentru angajați, contracte cu furnizorii, evidențe ale sistemelor AI, proceduri în caz de incident și explicații detaliate despre controlul uman.
Primul pas practic implică crearea unui registru intern al sistemelor AI. Pentru fiecare instrument, trebuie notificate informații precum furnizorul, scopul utilizării, departamentul responsabil, tipurile de date procesate, riscurile identificate, măsurile de control implementate și persoana cu responsabilitate directă. Acest registru nu necesită la început o complexitate deosebită, un tabel bine întreținut, actualizat constant și util, fiind suficient.
Relația cu furnizorii de soluții AI necesită o atenție sporită. Contractele trebuie să includă clauze despre gestionarea datelor, securitate, localizarea datelor, confidențialitate, drepturi de utilizare, posibilitatea de audit, suport tehnic, actualizări și clarificarea responsabilităților. O simplă declarație despre siguranța unui sistem AI nu este suficientă; este necesară documentație tehnică, descrierea funcțiilor și a limitărilor, precum și instrucțiuni clare privind utilizarea și modul de tratare a datelor.
În cazul conținutului generat cu ajutorul AI, stabilirea unor reguli clare de transparență este esențială. Deși nu orice text intern necesită etichetare, acolo unde utilizatorii interacționează cu chatbot-uri, asistenți automați sau sisteme care pot fi confundate cu ființe umane, transparența devine un element obligatoriu. Clientul trebuie informat atunci când interacționează cu o mașină, mai ales dacă discuția poate influența decizii financiare, achiziții sau gestionarea reclamațiilor.
Documentația trebuie să acopere și scenariile de incident. Definiirea unui protocol pentru situații precum un chatbot care oferă informații eronate, un sistem AI care trimite un mesaj nepotrivit unui client, proceduri de oprire temporară a unui instrument sau investigarea unor rezultate discriminatorii este crucială. Fără proceduri prestabilite, fiecare incident va fi tratat prin improvizație, generând riscuri suplimentare.
Integrarea AI Act cu reglementările existente
AI Act nu trebuie gestionat izolat, ci integrat în contextul general al reglementărilor privind protecția datelor (GDPR), securitatea cibernetică, compliance-ul, resursele umane și strategia comercială. Adesea, aceleași date care ridică probleme în contextul protecției datelor personale pot genera probleme și în ceea ce privește utilizarea AI.
Atunci când datele angajaților, clienților sau candidaților sunt folosite pentru a alimenta un sistem automatizat, companiile trebuie să analizeze simultan baza legală pentru prelucrarea acestor date, necesitatea lor, corectitudinea sistemului AI și posibilitatea de a explica deciziile luate de acesta. Această abordare transversală asigură o conformitate robustă și minimizează riscurile.
Sursa: Playtech.ro
