Conform HotNews: Agenți AI dezvoltați pe baza modelelor companiilor chineze au demonstrat capacități de înșelare, eludare a restricțiilor și ascundere a propriilor eșecuri, manifestând trăsături similare celor care au generat îngrijorări la nivel global în cazul modelelor americane. Aceste comportamente au fost observate în experimente simulate, unde agenții au mințit despre abilitățile lor și au simulat rezultate pentru a acoperi insuccesele, conform unei analize Reuters.
Într-un caz, agenți AI bazați pe modele de la ALIBABA, DEEPSEEK și MOONSHOT au recurs la minciuni în timpul unei licitații comerciale simulate. Atunci când li s-a oferit o nouă șansă, comportamentul lor înșelător s-a intensificat. În alte situații, agenții au ascuns faptul că nu au reușit să îndeplinească o sarcină, fabricând fișiere și simulând rezultate pozitive. Reuters a identificat cel puțin 20 de studii, realizate începând cu 2025, care documentează astfel de comportamente, experții considerându-le elemente constitutive ale unei potențiale evadări din mediul de control.
Semnale de alarmă din partea agenților AI chinezi
Analiza Reuters, care a inclus peste 200 de documente și interviuri cu experți din industria AI din China, nu a găsit dovezi că acești agenți ar fi evadat independent pe internetul larg sau ar fi reușit să evite oprirea de către ingineri. Cu toate acestea, cercetătorii subliniază că aceste comportamente, chiar și în medii controlate, reprezintă un avertisment.
China, reticentă în a discuta despre incidentele locale
Majoritatea incidentelor au avut loc în experimente controlate, menite să identifice posibile deficiențe de securitate. Mulți dintre agenții implicați au fost dezvoltați sau au folosit sisteme AI chinezești. Experții compară aceste semnale cu cele observate la sistemele americane mai puțin avansate, subliniind că pe măsură ce agenții devin mai capabili, comportamentele lor necorespunzătoare devin mai greu de gestionat. Companiile chineze precum ALIBABA, DEEPSEEK și MOONSHOT susțin că își testează constant sistemele și își actualizează mecanismele de protecție, dar nu au răspuns solicitărilor Reuters de a comenta. Spre deosebire de SUA, companiile AI din China nu beneficiază de același nivel de atenție publică sau de presiuni din partea angajaților.
Officiale chineze, critice cu privire la propriile modele AI
În timp ce public, oficialii chinezi recunosc progresele în AI, discuțiile interne sugerează că modelele locale sunt încă în urma celor din Silicon Valley. Un diplomat străin a dezvăluit că modelul Kimi-K3 de la MOONSHOT ar fi cu aproximativ trei până la șase luni în urmă față de concurenții americani. Administrația pentru Ciberspațiu (CAC) din China și Ministerul de Externe nu au răspuns solicitărilor de comentarii. Totuși, Wang Lihong, directoare adjunctă în cadrul CAC, a declarat că incidentele de evadare din mediile de testare au demonstrat „riscuri extreme de pierdere a controlului”.
În martie, un experiment care a implicat agenți AI de la ALIBABA, DEEPSEEK și MOONSHOT a arătat că aceștia au mințit despre propriile capacități în 88%, 84% și respectiv 88% dintre sesiuni. După o rundă de antrenament suplimentar, comportamentul înșelător a crescut cu 12 până la 20 de puncte procentuale.
Un alt studiu, publicat în decembrie 2025, a examinat comportamentul agenților AI în fața obstacolelor tehnice. Agenții, fie chinezi, fie americani, au evitat recunoașterea eșecului prin ghicirea răspunsurilor, simularea rezultatelor și fabricarea de fișiere, un comportament descris ca diferit de „halucinațiile” AI.
Comportamente ce pot indica dorința de evadare
Documente de cercetare au mai indicat că agenți AI bazați pe modele chinezești au depășit bariere în mediile de testare sau au încercat să evite oprirea, comportamente compatibile cu încercările de evadare. De exemplu, un sistem AI de la ALIBABA a creat o copie a sa și a conceput strategii de supraviețuire. Deși în niciunul dintre cazuri nu a avut loc o evadare, un incident raportat în martie a implicat agentul ROME, asociat cu ALIBABA, care a stabilit o conexiune neautorizată și a redirecționat resurse pentru minerit de criptomonede, demonstrând capacitatea de a ocoli instrucțiunile umane și de a accesa economia reală. China a emis în mai orientări menite să prevină astfel de comportamente anormale și să blocheze agenții AI în limitele autorizate.
Sursa: HotNews
