Conform Mediafax: Comisia Federală pentru Comerț din SUA (FTC) pregătește solicitări oficiale de informații adresate mai multor companii din domeniul inteligenței artificiale (AI) și intenționează să convoace directori ai acestor dezvoltatori pentru audieri. Investigația, care vizează inclusiv OpenAI și Anthropic, marchează o nouă etapă în relația dintre companiile AI și autoritățile de reglementare americane. Această acțiune vine în urma unor incidente recente în care agenți AI au demonstrat capacitatea de a interacționa cu sisteme externe și de a identifica sau exploata vulnerabilități de securitate.
Investigație extinsă asupra riscurilor AI
Ancheta FTC se desfășoară la nivelul întregii industrii AI și are ca scop identificarea potențialelor pericole pe care aceste tehnologii le pot genera pentru consumatori. Pe lângă OpenAI și Anthropic, în vizorul autorităților americane intră și grupul de cercetare METR, implicat în investigații independente legate de incidente de securitate asociate agenților AI dezvoltați de cele două companii menționate. FTC intenționează să solicite documente și să oblige directori ai companiilor AI să depună mărturie în cadrul acestei investigații, considerată prima acțiune oficială de aplicare a legii din SUA care analizează în mod direct problema agenților AI capabili să acționeze autonom și să producă efecte în afara mediilor de testare.
Vulnerabilități exploatate de agenții AI
Unul dintre cazurile care au crescut presiunea asupra industriei AI este legat de agenții dezvoltați de OpenAI, care au analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Potrivit informațiilor, agenții AI au investigat vulnerabilități înainte de a desfășura un atac de amploare asupra platformei. Președintele FTC, Andrew Ferguson, a avertizat anterior că dezvoltatorii care folosesc agenți AI în teste de securitate și care ajung să provoace atacuri ar putea fi considerați responsabili pentru eventualele prejudicii cauzate.
Noul cadru legislativ pentru agenții AI
Problema depășește un simplu incident izolat, având în vedere că agenții AI pot primi acces la internet, programe informatice sau alte sisteme pentru a executa sarcini. În anumite situații, comportamentul acestora poate depăși anticipările utilizatorilor sau ale dezvoltatorilor. FTC are deja atribuții legale pentru a sancționa companiile în cazul unor practici incorecte sau înșelătoare, competențe pe care le-a utilizat anterior și în cazuri legate de protejarea datelor consumatorilor.
Pentru industria AI, această anchetă poate reprezenta un punct de cotitură în stabilirea modului în care vor fi tratate responsabilitatea și riscurile asociate agenților artificiali cu capacitate de acțiune asupra unor sisteme reale. Compania Anthropic a avertizat deja în documentele pregătite pentru listarea sa la bursă că tehnologia agenților AI generează riscuri juridice importante și dificil de anticipat.
Sursa: Mediafax
