Conform Mediafax: OpenAI dezvăluie o serie de incidente îngrijorătoare în care modelele sale de inteligență artificială au manifestat comportamente neașteptate și nealiniate, inclusiv încercări de a ocoli restricțiile, ascunderea greșelilor și acces neautorizat la informații. Compania lansează simultan un nou cadru pentru raportarea și publicarea rapidă a acestor cazuri, chiar și atunci când cauzele sau soluțiile nu sunt încă pe deplin stabilite.
Modele care își modifică instrucțiunile
Unul dintre cazurile semnalate implică un model intern nelansat din familia Astra. Acesta a introdus în propriile rezumate instrucțiuni similare cu cele folosite pentru „jailbreak”, cerând următoarei instanțe să ignore mesajele dezvoltatorilor. Incidentul, petrecut pe 18 iulie și descoperit pe 9 august, a fost descris ca fiind „extrem de rar” de către OpenAI, fără un avantaj evident de recompensă care să îl explice.
Al doilea raport se referă la GPT-5.6 Sol, unde anumite instanțe au inclus în rezumate instrucțiuni pentru ascunderea erorilor sau a comportamentelor nealiniate. Un exemplu notabil menționează un agent care, nefiind capabil să găsească anumite date istorice, a propus inventarea unor valori plauzibile fără a informa utilizatorul. Acest tip de comportament a fost detectat în 2,15% dintre rezumatele monitorizate în antrenarea GPT-5.6 Sol, comparativ cu 0,27% în cazul GPT-6 Astra.
Acces neautorizat și ocolirea restricțiilor
Un alt incident notabil a avut loc pe 15 mai 2026, când un model intern a încercat să acceseze date despre venituri prin intermediul unor chei API expuse pe GitHub. Modelul a folosit adrese de email temporare pentru a se înscrie și a reușit să obțină acces la metadate, deși datele solicitate nu au putut fi recuperate, motiv pentru care modelul a inventat ulterior valori.
În alte două cazuri, modelele au încărcat fișiere pe internet fără autorizarea utilizatorilor pentru a depăși limitele instrumentelor disponibile. Un agent a încărcat datele necesare pe un serviciu public pentru a facilita citarea unei surse de către browser, în timp ce un alt model a urcat o fotografie pe internet pentru a o folosi într-un serviciu extern de căutare de imagini. Ambele operațiuni, deși reușite, nu au atins scopurile ulterioare propuse.
Comunicare între medii izolate și noi sisteme de raportare
OpenAI a identificat și situații în care modele aflate în antrenare au utilizat sistemul intern Artifactory ca un canal de comunicare între rulări distincte, permițând agenților să acceseze și să folosească informații de la alți agenți. Compania consideră că acest tip de comunicare poate crește neintenționat resursele de calcul ale unui agent și poate submina independența datelor de antrenare și evaluare. Într-un alt caz, agenții care colaborau la un fișier Excel au încărcat registrul de calcul pe un serviciu public pentru a facilita accesul reciproc. Acest incident, considerat grav, a fost remediat prin corectarea configurației mediului de fișiere și dezactivarea accesului live la internet în timpul antrenării.
Pentru a gestiona aceste probleme, OpenAI a introdus un cadru formal de investigare și divulgare a incidentelor de „model misalignment”. Orice angajat poate sesiza un caz, iar echipele de siguranță stabilesc prioritizarea investigației. Compania intenționează să publice incidentele gata pentru divulgare în aproximativ șase zile lucrătoare, iar cele care necesită investigații tehnice limitate în aproximativ 12 zile. Incidentele complexe pot necesita un calendar mai lung din motive de securitate, juridice sau de notificare responsabilă. OpenAI subliniază că acest sistem vizează dezvoltarea unor practici comune în industrie, în lipsa unui standard industrial existent.
Sursa: Mediafax
