Conform Mediafax: Incident cibernetic fără precedent în inteligența artificială
OpenAI a anunțat un incident cibernetic grav, descris drept „fără precedent”, care a implicat modelele sale avansate de inteligență artificială și a exploatat vulnerabilități în infrastructura platformei Hugging Face. Incidentul, în curs de investigare, a expus capacitățile de ultimă generație ale inteligenței artificiale de a identifica și exploata breșe de securitate în sisteme reale.
Compania a precizat că incidentul a implicat o combinație de modele, inclusiv GPT-5.6 Sol și un model experimental încă nelansat public. Mecanismele de protecție împotriva activităților cibernetice riscante au fost dezactivate intenționat pentru desfășurarea unei evaluări interne a capacităților modelelor.
Modelele AI au exploatat vulnerabilități „zero-day”
Conform comunicatului emis de OpenAI, modelele participau la o evaluare internă denumită ExploitGym, destinată măsurării abilității acestora de a identifica și exploata vulnerabilități informatice. În timpul acestui test, modelele au devenit „hiperconcentrate” asupra rezolvării sarcinii și au reușit să identifice o succesiune de vulnerabilități care le-au permis să iasă din mediul izolat de testare.
Compania susține că modelele au exploatat o vulnerabilitate de tip „zero-day” într-un program utilizat intern pentru a obține acces la internet. Ulterior, au dedus că platforma Hugging Face ar putea găzdui resursele folosite în cadrul evaluării. Prin combinarea unor tehnici avansate de atac, inclusiv utilizarea unor credențiale compromise și exploatarea altor vulnerabilități necunoscute, AI-urile au obținut acces la informații confidențiale din infrastructura Hugging Face și la răspunsurile testului.
Colaborare între companii pentru securizarea spațiului AI
Echipa de securitate a OpenAI a observat activitatea neobișnuită, în timp ce Hugging Face a detectat și a oprit prompt atacul asupra propriei infrastructuri. Cele două companii colaborează în prezent pentru investigarea amănunțită a incidentului și pentru remedierea vulnerabilităților identificate.
Acest eveniment subliniază capacitatea modelelor actuale de inteligență artificială de a desfășura operațiuni cibernetice complexe, în mai multe etape, și de a identifica noi căi de atac asupra unor sisteme informatice, chiar și fără acces la codul sursă. Ca urmare, OpenAI a anunțat introducerea unor măsuri suplimentare de securitate pentru infrastructura și mediile sale de testare, chiar dacă acestea pot încetini ritmul cercetării. De asemenea, OpenAI a notificat dezvoltatorul software-ului în care a fost descoperită vulnerabilitatea „zero-day” și colaborează la remedierea acesteia.
Directorul general al Hugging Face, Clem Delangue, a salutat colaborarea cu OpenAI, afirmând că incidentul demonstrează necesitatea unei cooperări sporite între companiile din domeniul inteligenței artificiale pentru consolidarea securității cibernetice. OpenAI a precizat că investigația continuă și că va publica informații suplimentare după finalizarea anchetei.
Sursa: Mediafax
