Anthropic dezvăluie un model AI capabil să identifice vulnerabilități informatice, dar îl ține secret
Compania ANTHROPIC a prezentat recent un nou model de inteligență artificială (AI), denumit „Claude Mythos Preview”, capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Din cauza potențialului de exploatare de către criminali informatici, modelul nu va fi lansat public pentru moment. ANTHROPIC a confirmat că lucrează cu un grup restrâns de companii și autorități pentru a evalua impactul acestei tehnologii.
Capacități avansate, riscuri majore
Potrivit ANTHROPIC, „Claude Mythos Preview” a demonstrat capacități remarcabile în identificarea vulnerabilităților. Într-un experiment, modelul a reușit să depășească restricțiile unui mediu virtual securizat, reușind să transmită mesaje din interiorul acestuia și să publice detalii despre vulnerabilități. De asemenea, sistemul a identificat erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume, și a reușit să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Un alt caz a scos la iveală o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare limitată pentru securitate cibernetică
Pentru a controla riscurile, ANTHROPIC a decis să utilizeze modelul doar într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acest proiect implică mai multe companii mari din tehnologie, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania intenționează să publice ulterior concluziile programului. ANTHROPIC a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului, considerând că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Pregătirea pentru viitorul AI în securitate
Dario Amodei, directorul general al ANTHROPIC, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
