OpenAI, avertizată de angajați. Surse secrete despre riscuri mari

Conform Mediafax: Îngrijorări majore de securitate la OpenAI: Acces larg la date și riscuri de scurgere de informații

Cinci persoane familiarizate cu situația au declarat agenției Reuters că au fost transmise îngrijorări semnificative, inclusiv conducerii executive și consiliului de administrație al OpenAI, cu privire la securitatea internă a companiei. Printre problemele semnalate se numără un acces prea larg la documentația internă, verificări insuficiente ale unor instrumente software și riscul ca angajați sau persoane din exterior să obțină informații confidențiale.

Angajații puteau accesa proiecte nelegate de activitatea lor

Potrivit surselor citate, o mare parte din codul companiei era păstrată într-un sistem comun, denumit „monorepo”. Această centralizare permitea angajaților care aveau acces la el să consulte detalii tehnice despre numeroase proiecte, chiar dacă acestea nu erau direct legate de responsabilitățile lor. Situația devenea mai problematică odată cu dezvoltarea agenților AI, capabili să analizeze rapid volume mari de informații și să identifice date relevante. Documentația de cercetare era disponibilă și prin platforme comune precum GitHub și Slack.

OpenAI susține că cele mai sensibile proiecte sunt protejate prin sisteme separate, cu acces restricționat. Compania precizează că depozitul comun nu conține toate informațiile critice, nici parametrii numerici care determină funcționarea modelelor sale. Cu toate acestea, sursele Reuters afirmă că și unele instrumente interne de testare erau modificate frecvent de cercetători, fără ca fiecare schimbare să fie verificată riguros din perspectiva securității.

Dispozitiv de înregistrare și suspiciuni de spionaj

Problemele de securitate au revenit în atenție în octombrie, după arestarea unui inginer OpenAI, cetățean saudit, acuzat că ar fi instalat un dispozitiv de înregistrare audio într-o sală de conferințe destinată conducerii. Potrivit documentelor judiciare, Abdulrahman Alfozan, în vârstă de 35 de ani, ar fi utilizat chiar și un instrument AI intern pentru a căuta informații despre deplasările unor directori OpenAI în Arabia Saudită.

Anchetatorii au identificat și contacte ale acestuia cu un membru al familiei regale saudite, care ar fi încercat să îl recruteze pentru un proiect de inteligență artificială. Reuters amintește și de un avertisment intern din 2023, formulat de cercetătorul Leopold Aschenbrenner, care își exprimase temerea că autoritățile chineze ar putea obține acces la tehnologia companiei.

Reorganizare și investiții în securitate

Ca răspuns la aceste riscuri, compania a început să își reorganizeze activitățile pentru a reduce vulnerabilitățile. În august, aproximativ un sfert dintre inginerii responsabili de sistemele de producție au fost redirecționați către îmbunătățirea infrastructurii de securitate, potrivit unei surse. Elana Widmann, purtătoare de cuvânt a OpenAI, a declarat că organizația se numără printre cele mai vizate ținte ale atacurilor informatice și investește substanțial în protejarea tehnologiei, datelor și angajaților. Compania afirmă că verifică periodic securitatea instrumentelor interne și că își va consolida în continuare sistemele de apărare. Luni, după solicitarea Reuters privind investigația, OpenAI a anunțat pregătirea unei noi etape interne de îmbunătățire a securității.

Sursa: Mediafax

Redacția StiriFresh

Autor

Materiale de sinteză realizate de echipa StiriFresh pe baza surselor citate în text, cu ajutorul instrumentelor de inteligență artificială, verificate editorial înainte de publicare.

Lasa un comentariu