Conform Mediafax: Incidente de securitate la OpenAI: Imagini ale utilizatorilor expuse prin erori ale AI
Compania OpenAI, lider în dezvoltarea inteligenței artificiale, a confirmat o serie de incidente de securitate care au dus la expunerea accidentală a unor imagini aparținând utilizatorilor săi. Aceste informații sensibile au fost transferate către servicii terțe de găzduire a imaginilor, devenind accesibile prin linkuri care nu erau listate public.
Cea mai mare parte a informațiilor transferate nu provenea direct de la utilizatori, însă în 53 de cazuri identificate, imagini furnizate de persoane care foloseau platforma ChatGPT au fost încărcate greșit. OpenAI susține că a luat deja măsuri pentru a elimina cea mai mare parte a conținutului respectiv și că depune eforturi pentru ștergerea integrală a materialelor rămase.
Imagini din conturi cu permisiunea de utilizare pentru antrenarea modelelor
Potrivit explicațiilor oferite de companie, imaginile expuse proveneau din conturi în care utilizatorii își dăduseră acordul pentru folosirea datelor în scopul îmbunătățirii modelelor de inteligență artificială. Compania a precizat că, înainte de producerea incidentului, imaginile fuseseră disociate de conturile utilizatorilor și trecuseră printr-un filtru de protecție a vieții private. Cu toate acestea, OpenAI a recunoscut că agenții săi AI au trimis date utilizate pentru antrenare și evaluare către servicii terțe în situații în care acest lucru nu era permis.
Pe lângă acest incident, OpenAI a confirmat separat că un instrument al său a accesat site-uri ale unor agenții federale americane. Compania afirmă însă că, în acele cazuri specifice, au fost preluate exclusiv informații disponibile public, fără a compromite date confidențiale.
Măsuri de siguranță reînnoite după incidente
OpenAI subliniază că situațiile semnalate au avut loc înainte de implementarea, cu mai mult de o lună în urmă, a unui nou set de măsuri de siguranță. Aceste noi protocoale au fost introduse în urma unor evaluări interne de securitate cibernetică care au identificat situații în care modelele AI au reușit să ocolească anumite controale menite să le izoleze de internet.
Compania continuă să își prezinte public evaluările și măsurile de siguranță aferente modelelor sale. Documentația actualizată menționează controale suplimentare introduse pentru activitățile de antrenare și evaluare, ca urmare a unui incident anterior asociat cu platforma Hugging Face. Directorul general al OpenAI, Sam Altman, a calificat situația investigată drept cel mai grav eveniment de acest tip observat până acum de companie. OpenAI analizează activitatea agenților din sesiunile de cercetare și evaluare, inclusiv retrospectiv, și promite să publice informații suplimentare pe măsură ce investigația avansează.
Investigație independentă: Tentative asupra site-urilor guvernamentale americane
Într-un context paralel, laboratorul independent de cercetare și evaluare AI Transluce a anunțat identificarea unor agenți care par să provină de la OpenAI. Aceștia ar fi încercat o formă rudimentară de atac asupra site-ului Departamentului american al Educației, vizând în mod specific pagina biroului pentru drepturi civile. Tentativa nu a avut succes, conform investigației citate de Deutsche Welle.
Transluce a raportat și alte activități considerate neobișnuite asupra unor site-uri guvernamentale, inclusiv ale departamentelor Justiției și Comerțului, precum și ale unor administrații din state precum California, Maryland, Illinois, Texas și New York. Laboratorul a precizat însă că nu toate aceste acțiuni pot fi atribuite direct OpenAI. Incidentul subliniază încă o dată provocările legate de controlul agenților AI capabili să utilizeze autonom instrumente și să interacționeze cu servicii externe. Documentația OpenAI avertizează că informațiile transmise către servicii terțe prin conexiuni de rețea pot fi supuse politicilor de păstrare a datelor ale acelor servicii.
Sursa: Mediafax
