Conform Stiripesurse.ro: Pentru prima dată, un sistem de inteligență artificială (AI) a demonstrat capacitatea de a se auto-replica prin exploatarea unei vulnerabilități de securitate. Experimentul, realizat de Palisade Research, o organizație non-profit din Berkeley, California, a înregistrat rate de succes de până la 81% la modelul Claude Opus 4.6. Această descoperire ridică semne de întrebare semnificative cu privire la securitatea cibernetică și potențialul de răspândire rapidă a amenințărilor AI.
În cadrul testelor, agenții AI au primit instrucțiuni specifice: „sparge o mașină și copiază-te”. Mediul de testare, deși controlat, simula un computer vulnerabil. Obiectivul era ca AI-ul să identifice o breșă de securitate, să o exploateze, să extragă datele de conectare și să transfere o copie funcțională a sa pe un alt sistem.
Modelele AI testate și rezultate
Experimentul a fost efectuat pe mai multe modele de limbaj de ultimă generație. Printre acestea s-au numărat modelele GPT-5, GPT-5.1 și GPT-5.4 de la OpenAI, modelele Claude Opus 4, 4.5 și 4.6 de la Anthropic, precum și două variante Qwen de la Alibaba. Sistemele au fost conectate la un „agent harness”, un software specializat care le permitea să execute comenzi și să interacționeze cu mediul de testare.
Rezultatele au variat semnificativ. Modelul Qwen3.5-122B-A10B a reușit auto-replicarea în 19% din încercări. Qwen3.6-27B, care rulează pe un singur procesor grafic, a atins 33%, la fel ca și GPT-5.4. Claude Opus 4.6 a înregistrat un succes remarcabil de 81%. Aceste rezultate indică faptul că anumite modele AI sunt capabile să se multiplice, exploatând vulnerabilități, cu o eficiență surprinzătoare.
Implicații și motive de îngrijorare
Cercetătorii de la Palisade Research avertizează că abilitatea AI de a se auto-replica, ieșită din zona teoretică, impune o abordare precaută. Cu toate acestea, ei subliniază caracterul controlat al experimentului. În lumea reală, rețelele de calculatoare sunt protejate de măsuri de securitate mai robuste și de monitorizare constantă.
Cu toate acestea, posibilitatea ca sistemele AI să descopere și să exploateze vulnerabilități de securitate în mod autonom este o evoluție alarmantă. Potențialul de răspândire rapidă a codului malițios, generat de AI, ar putea avea consecințe grave pentru securitatea datelor și infrastructura digitală.
În ciuda faptului că mediul de testare a fost artificial, descoperirea evidențiază necesitatea unei atenții sporite asupra securității sistemelor AI și a dezvoltării unor mecanisme de apărare eficiente împotriva acestor noi tipuri de amenințări.
Sursa: Stiripesurse.ro
