Conform Mediafax: AI ar putea să se răspândească singur pe internet
Un avertisment emis luni, 12 octombrie, de cercetătorii Anthropic privind capacitatea inteligenței artificiale (AI) de a se propaga autonom pe internet a stârnit dezbateri aprinse în comunitatea experților în securitate cibernetică. Unii consideră potențialele riscuri alarmante, în timp ce alții le cataloghează drept ipotetice.
Cum ar putea inteligența artificială să se răspândească singură pe internet
Cercetătorii de la Anthropic au explorat posibilitatea ca modelele AI să opereze pe dispozitive accesibile și conectate la internet, fără a necesita infrastructura computațională complexă, specifică industriei. Experimentele preliminare sugerează că modelele de dimensiuni medii, cu un număr de parametri de până la 30 de miliarde, ar fi deja capabile să execute sarcinile necesare autoreplicării.
O metodă analizată implică utilizarea simultană a mai multor dispozitive cu putere de calcul redusă, care ar colabora pentru a îndeplini funcțiile complexe. În cadrul unei cercetări publicate de Anthropic, un model AI cu 26 de miliarde de parametri a fost rulat distribuit pe 15 dispozitive Android TV, fiecare având un cost estimat la 55 de dolari.
Într-un experiment separat, desfășurat într-o rețea virtuală controlată, un model AI a reușit să coordoneze propagarea unui alt model către opt noduri disponibile, într-un procent de 80% din teste. Totuși, rezultatele actuale nu implică faptul că un sistem AI s-ar fi răspândit deja autonom pe internet. Testele au demonstrat doar existența unor componente tehnice esențiale unui astfel de proces.
De ce un AI care se copiază singur ar fi greu de oprit
Anthropic avertizează că un sistem capabil de autoreplicare ar putea prelua controlul asupra dispozitivelor conectate la internet, extinzându-și astfel capacitățile de procesare. În acest scenariu, dispozitive precum televizoarele smart, camerele de supraveghere sau alte echipamente cu securitate precară ar putea deveni resurse pentru funcționarea modelului AI.
Aceste dispozitive compromise ar putea forma o rețea de tip botnet, coordonată de inteligența artificială și utilizată pentru a automatiza atacuri cibernetice. Principala provocare ar consta în lipsa unui punct central de control, făcând interceptarea și dezactivarea sistemului extrem de dificilă. „Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu există un punct central care să poată fi dezactivat”, subliniază Anthropic. Compania ia în considerare, de asemenea, posibilitatea ca un astfel de sistem să încerce să acceseze infrastructuri informatice mai performante, inclusiv centre de date, pentru a-și amplifica capabilitățile. Aceste scenarii reprezintă riscuri analizate de cercetători, nu atacuri confirmate.
Părerile sunt împărțite. Unii consideră avertismentul exagerat
Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că rezultatele cercetării nu justifică automat un scenariu de criză. Acesta a declarat pentru Reuters că demonstrarea funcționării unui model AI pe televizoare ieftine nu reprezintă, în sine, o amenințare majoră. Martin a catalogat cercetarea drept interesantă din punct de vedere tehnic, dar a sugerat că prezentarea riscurilor conține și o doză de exagerare din partea companiei. Alți specialiști, precum Zhengxiong Li, profesor asistent de informatică și inginerie la Universitatea Colorado Denver, sunt mai îngrijorați. Li a explicat că un model AI capabil să acționeze asemenea unui vierme informatic ar putea identifica singur modalități de a compromite dispozitive. Dacă ar funcționa pe un număr mare de echipamente, fără a depinde de un serviciu central, oprirea sa ar deveni considerabil mai complexă.
Ar putea apărea un asemenea sistem până la sfârșitul anului 2026?
Anthropic estimează că, dacă modelele AI mai mici vor continua să evolueze în ritmul actual, ar putea dobândi capabilitățile necesare autoreplicării autonome până la sfârșitul anului. Cu toate acestea, compania nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu real, necontrolat. Jessica Ji, cercetătoare la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown, consideră că scenariul trebuie analizat ca o posibilitate, nu ca o certitudine. Potrivit ei, evoluțiile recente ale inteligenței artificiale justifică studierea riscului, dar probabilitatea apariției unui asemenea sistem rămâne necunoscută. Avertismentul Anthropic continuă o serie de declarații privind riscurile dezvoltării accelerate a AI. Luna trecută, directorul general al companiei, Dario Amodei, a evocat posibilitatea ca, în următorul an sau chiar mai devreme, un sistem AI să poată controla o rețea persistentă de dispozitive compromise, răspândită pe internet.
Sursa: Mediafax
