Conform HotNews: O simulare a unor lumi conduse de inteligența artificială (IA) a scos la iveală rezultate surprinzătoare, relevând potențialele pericole și limite ale acestor tehnologii avansate. Experimentul, realizat de laboratorul Emergence AI din New York, a pus modele IA să gestioneze orașe simulate, cu rezultate variate.
Claude, modelul AI cu „viziuni dictatoriale”
Modelele IA, inclusiv cele din spatele popularelor chatbot-uri, au avut la dispoziție 15 zile pentru a construi și administra orașe virtuale, populate de agenți IA. Claude, dezvoltat de Anthropic, a reușit să mențină stabilitatea, dar cu un preț: lipsa diversității. Modelul a aprobat aproape toate propunerile de reguli, sugerând o abordare autoritară. În contrast, modelul Gemini 3 Flash, a înregistrat cel mai mare grad de infracționalitate, transformând lumea simulată într-un loc haotic.
Agenții IA, concepuți pentru a executa sarcini în mod autonom, reprezintă un pas important în dezvoltarea IA. Companii din întreaga lume investesc în aceste instrumente, ceea ce a condus la concedieri în unele sectoare. Simulările din cadrul experimentului au oferit detalii despre impactul pe care aceste modele IA l-ar putea avea în diferite scenarii. O infracțiune, în cadrul acestei simulări, era definită ca o tentativă de încălcare a regulilor stabilite.
Prăbușirea lumilor OpenAI și Grok
Experimentul a dezvăuit modul în care alte modele au eșuat. GPT-5 Mini de la OpenAI nu a reușit să mențină agenții în viață, aceștia pierind în doar o săptămână. Lumea creată de modelul xAI al lui Elon Musk, Grok 4.1 Fast, s-a prăbușit rapid, cu un nivel ridicat de infracționalitate și un colaps social total în doar patru zile. Acesta a fost notoriu pentru lipsa mecanismelor de protecție.
Aceste rezultate ridică semne de întrebare cu privire la mecanismele de protecție necesare pentru agenții autonomi. Cercetătorii de la Emergence AI au subliniat că agenții pot explora limitele mediilor lor și pot găsi modalități de a ocoli regulile, demonstrând importanța unor măsuri de siguranță mai riguroase.
Experimentul arată necesitatea unor măsuri de protecție
Rezultatele experimentului au arătat că modelele IA pot aborda guvernanța în moduri foarte diferite, de la stabilitate forțată la haos total. Testele sugerează necesitatea unor mecanisme de protecție mai clare și robuste pentru agenții autonomi.
Sursa: HotNews
