Conform Mediafax: ONU trage un semnal de alarmă privind riscurile inteligenței artificiale autonome, solicitând reglementări stricte înainte ca tehnologia să depășească capacitatea umană de control. Înaltul Comisar al Națiunilor Unite pentru Drepturile Omului, VOLKER TURK, a avertizat luni, la Geneva, că sistemele de inteligență artificială (IA) tot mai autonome pot deveni greu de controlat, cerând stabilirea rapidă a unui sistem de guvernanță global.
„Linii roșii” pentru o dezvoltare responsabilă a IA
Declarațiile au fost făcute în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului. VOLKER TURK a subliniat necesitatea unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”, referindu-se la posibilitatea ca o inteligență artificială „să evadeze din mediul său de testare sau să-i șantajeze pe dezvoltatori pentru a evita să fie dezactivată”. Acesta consideră că statele care găzduiesc infrastructura de IA și cele implicate în lanțurile de aprovizionare ar trebui să convină asupra unor „linii roșii” comune în ceea ce privește dezvoltarea și utilizarea acestei tehnologii. Oficialul ONU a pledat și pentru verificarea independentă a sistemelor de inteligență artificială, precum și pentru o cooperare sporită între companiile din industrie, vizând creșterea siguranței. VOLKER TURK a anunțat intenția de a trimite o scrisoare companiilor din domeniu pentru a le îndemna să ia măsuri de reducere a riscurilor.
Impactul IA asupra locurilor de muncă și democrației
Modelele generative de inteligență artificială sunt deja capabile să execute sarcini complexe și să ia decizii fără o intervenție umană permanentă. Anumite sisteme pot identifica singure pașii necesari pentru finalizarea unei sarcini, depășind simpla urmărire a instrucțiunilor succesive. Această autonomie sporită ridică semne de întrebare privind supravegherea și limitarea comportamentului acestor sisteme. Totuși, riscurile inteligenței artificiale nu se limitează la autonomia tehnologiei. VOLKER TURK atrage atenția asupra efectelor profunde pe care IA le poate avea asupra vieții cotidiene, solicitând evaluarea impactului asupra pieței muncii, democrației, mediului și drepturilor fundamentale. El a criticat, de asemenea, concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și indivizi, subliniind că dezvoltarea IA trebuie să fie însoțită de reglementări menite să protejeze drepturile omului.
Riscul existențial și exemple de reglementare
Oficialul ONU a evidențiat preocupările legate de posibilitatea ca inteligența artificială avansată să reprezinte „un risc existențial pentru umanitate”. În acest context, VOLKER TURK a menționat ca exemple pozitive măsurile adoptate de Uniunea Europeană și Coreea de Sud pentru limitarea riscurilor în mediul digital și în domeniul IA. În UE, Digital Services Act (DSA) impune marilor platforme online evaluarea și reducerea riscurilor generate de servicii și algoritmi, respectarea cerințelor de transparență și combaterea conținutului ilegal, sub sancțiunea unor amenzi de până la 6% din cifra de afaceri anuală globală. Coreea de Sud a introdus, la rândul său, reguli specifice pentru IA, incluzând obligativitatea informării utilizatorilor atunci când interacționează cu anumite sisteme și cerințe de transparență pentru conținutul generat artificial. Cu toate acestea, VOLKER TURK a subliniat că necesitatea unor reglementări nu s-a transpus încă suficient în măsuri concrete.
Sursa: Mediafax
