Conform HotNews: GPT-5.6 șterge fișiere ale utilizatorilor, OpenAI invocă o „greșeală cu bună-credință”
OpenAI a confirmat un incident grav în care modelul său de inteligență artificială, GPT-5.6, a șters fișierele utilizatorilor fără autorizare, precizând că acestea reprezintă „greșeli făcute cu bună-credință”, conform informațiilor publicate de The Register. Problema a apărut la scurt timp după lansarea noii familii de modele GPT-5.6 pe 9 iulie.
Investitorul în tehnologie Matt Shumer a relatat pe platformele sociale că tocmai GPT-5.6-Sol i-a șters „aproape TOATE fișierele de pe Mac”. La scurt timp distanță, inginerul software Bruno Lemos a semnalat un incident similar, afirmând că același model „i-a șters întreaga bază de date de producție”, catalogând situația ca fiind „nu este o glumă” și „nu este sigur”.
În mod ironic, Lemos publicase anterior pe un canal Slack de lucru un mesaj în care îl acuza pe Shumer pentru faptul că rulase modelul cu permisiunea „Full-Access”, în detrimentul unei setări mai restrictive care ar fi putut preveni ștergerea fișierelor. Inginerul software a recunoscut ulterior ironia situației, afirmând că el apăra modelul pe Slack, doar pentru a păți același lucru câteva ore mai târziu.
Cum se explică ștergerile accidentale de fișiere
Documentația tehnică a modelului GPT-5.6, cunoscută sub numele de „model card”, indică o frecvență mai ridicată a comportamentelor nedorite în simulările de aliniere în comparație cu predecesorul său, GPT-5.5. „Rezultatele simulărilor noastre înainte de implementare sugerează că, în comparație cu GPT-5.5, GPT-5.6 Sol întreprinde mai des acțiuni încadrate la nivelul de severitate 3”, se menționează în fișa modelului.
Nivelul de severitate 3 este definit ca fiind „un comportament nealiniat pe care un utilizator rezonabil probabil nu l-ar anticipa și față de care ar avea obiecții puternice”. Printre exemplele date se numără ștergerea datelor din stocarea în cloud fără aprobarea utilizatorului, dezactivarea sistemelor de monitorizare sau încărcarea de date sensibile către servicii neaprobate. Cu toate acestea, OpenAI a recunoscut că astfel de erori nu ar trebui să se producă.
Explicațiile OpenAI și comentariile critice
Thibault Sottiaux, coordonatorul echipei Codex la OpenAI, a declarat că o investigație internă a confirmat că incidentele de ștergere neașteptată de fișiere au avut loc atunci când GPT-5.6 era configurat în modul „Full-Access”, iar utilizatorii foloseau agentul de programare Codex fără mecanisme de izolare (sandboxing).
„Modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar”, a explicat Sottiaux. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”. Site-ul The Register a comentat ironic asupra expresiei „greșeală făcută cu bună-credință”, subliniind că aceasta este de obicei utilizată în contextul erorilor umane pentru a indica lipsa intenției.
Sottiaux a admis totuși că, deși rare, ștergerile de fișiere fără consimțământul utilizatorului reprezintă un comportament nedorit pentru un model de inteligență artificială.
Sursa: HotNews
