Conform Mediafax: Cercetătorii de la Hacktron AI au primit o recompensă de 6.500 de dolari din partea OpenAI, după ce au descoperit și au raportat o succesiune de vulnerabilități care ar fi putut permite accesul la serverele interne ale companiei. Experimentul, desfășurat în cadrul programului oficial de recompense pentru identificarea vulnerabilităților al OpenAI, a demonstrat cum o eroare într-un serviciu extern poate duce la compromiterea infrastructurii de dezvoltare.
De la o imagine la accesul la server
Totul a început cu o problemă depistată în forumul comunității OpenAI, care folosește platforma Discourse. Cercetătorii au identificat o vulnerabilitate în procesarea imaginilor în format HEIF/HEIC. Un fișier imagine special creat putea exploata o eroare într-o bibliotecă software utilizată pentru procesarea acestor imagini, permițând executarea de cod pe serverul care procesa fișierul. Acest tip de vulnerabilitate este cunoscut sub denumirea de remote code execution (RCE).
Inițial, modelul Claude Opus 4.8 a contribuit la construirea unui exploit într-un mediu cu anumite protecții dezactivate, dar nu a reușit să ofere o soluție viabilă pentru configurația reală. După lansarea lui Claude Opus 5, cercetătorii au reluat experimentul. Noul model AI a generat în aproximativ trei ore un exploit funcțional într-un mediu local și a ajutat la adaptarea acestuia pentru configurația utilizată de Discourse.
Vulnerabilitatea a depășit forumul OpenAI
Odată obținut accesul la infrastructura forumului, echipa a descoperit o a doua problemă, de data aceasta în sistemul de autentificare al OpenAI. Această vulnerabilitate permitea, în anumite condiții, obținerea unor tokenuri de autentificare asociate utilizatorilor conectați la forum. Aceste tokenuri puteau fi apoi folosite pentru accesarea unor servicii OpenAI, inclusiv ChatGPT și Codex.
Cercetătorii au constatat că unul dintre conturile afectate aparținea unui angajat OpenAI și era conectat la organizația GitHub internă a companiei. Astfel, lanțul de vulnerabilități a evoluat de la un serviciu extern la sistemele interne de dezvoltare software ale OpenAI.
Demonstrarea accesului fără copierea codului
Pentru a dovedi amploarea accesului obținut, cercetătorii au utilizat contul angajatului OpenAI pentru a crea o cerere în monorepo-ul privat al companiei. Un monorepo este un depozit Git de mari dimensiuni care găzduiește codul și componentele mai multor proiecte software ale unei companii. Cercetătorii susțin că s-au oprit înainte de a analiza sau copia informații sensibile, demonstrând astfel potențialul lanțului de vulnerabilități de a accesa infrastructura internă de dezvoltare.
OpenAI a remediat vulnerabilitățile
Toate vulnerabilitățile descoperite au fost raportate prin programul de bug bounty al OpenAI, iar compania a confirmat și a remediat problemele. OpenAI a precizat că a identificat două probleme distincte: una în serviciul extern Discourse și alta în propriul sistem de autentificare. Ca măsuri, compania a restrâns permisiunile tokenurilor de autentificare și a revocat tokenurile și sesiunile afectate. Echipa Hacktron AI a fost recompensată cu 6.500 de dolari pentru cercetarea lor.
Întregul proces, de la descoperirea inițială până la demonstrarea accesului la monorepo-ul OpenAI, s-a desfășurat în mai puțin de 72 de ore, conform cercetătorilor. Aceștia subliniază că munca efectivă a oamenilor a fost de doar câteva ore, restul activității tehnice fiind realizată cu ajutorul modelelor AI.
AI-ul, un instrument cu două tăișuri în securitate
Acest caz ridică o problemă tot mai importantă pentru industria AI: aceleași modele care pot contribui la identificarea și remedierea vulnerabilităților pot accelera și dezvoltarea atacurilor informatice. Reprezentanții Anthropic, compania care dezvoltă Claude, au declarat că Opus 5 nu a fost antrenat specific pentru sarcini de securitate cibernetică, dar performanțele sale în acest domeniu au crescut odată cu îmbunătățirea capacităților generale ale modelului. Compania menține restricții suplimentare pentru anumite activități cibernetice și oferă cercetătorilor autorizați acces la o versiune cu mai puține limitări prin programul său Cyber Verification Program.
Sursa: Mediafax
