ChatGPT Atlas, noul browser AI lansat de OpenAI în octombrie, a atras atenția din cauza vulnerabilităților de tip atacuri cibernetice. Într-o postare pe blogul companiei, OpenAI a comparat aceste riscuri cu fraudele și ingineria socială pe internet.
OpenAI a recunoscut că funcția de „agent mode” a ChatGPT Atlas extinde suprafața de atac din punct de vedere al securității. Cercetătorii în securitate au demonstrat că documente aparent inofensive pot influența comportamentul browserului.
Compania a precizat că aceste tipuri de atacuri nu vor fi probabil niciodată rezolvate în totalitate. Avertismentul a fost confirmat recent de Centrul Național de Securitate Cibernetică din Marea Britanie.
OpenAI: testare și reacție
OpenAI adoptă o strategie de testare continuă pentru a limita riscurile asociate cu ChatGPT Atlas. Un sistem de atacator automatizat, bazat pe modele lingvistice mari, este antrenat prin învățare prin recompensă să joace rolul unui hacker.
Acest atacator automatizat simulează noi metode de atac și identifică vulnerabilități înainte ca acestea să fie exploatate în realitate. Un exemplu prezentat de OpenAI arată cum un e‑mail malițios a determinat ChatGPT Atlas să trimită un mesaj de demisie fără permisiune.
Măsuri de protecție pentru utilizatori
OpenAI recomandă utilizatorilor să aplice următoarele măsuri de protecție când folosesc ChatGPT Atlas:
– Restricționați accesul agenților AI la informații sensibile.
– Solicitați confirmări explicite înainte de a trimite mesaje importante.
– Activați alertele de securitate pentru acțiuni de plată sau modificări de cont.
Specialiștii în securitate subliniază că, deși aceste măsuri reduc riscurile, vulnerabilitățile legate de ChatGPT Atlas rămân semnificative. Monitorizarea continuă a evoluțiilor în domeniul securității cibernetice este esențială pentru a menține protecția utilizatorilor.
