Conform Mediafax: Un creator de conținut din Toronto a trăit o experiență alarmantă după ce noul agent AI al Meta, Muse, i-a dezvăluit adresa unui cumpărător necunoscut, care a apărut la locuința sa în mai puțin de 24 de ore. Incidentul ridică semne de întrebare serioase privind securitatea datelor personale în era inteligenței artificiale. Matt Robb, creatorul de conținut, a declarat că asistentul AI nu doar că i-a furnizat adresa cumpărătorului, dar i-a și confirmat prezența acasă printr-un mesaj automat, deși acesta nu se afla acolo.
Cum a permis AI-ul accesul la date sensibile
Totul a pornit de la permisiunea „always allow” acordată de Robb agentului AI, care îi oferise acces la profilul său de Facebook Marketplace. Adresa, deja disponibilă în informațiile pentru ridicarea produselor, a fost folosită de Muse fără o nouă confirmare din partea utilizatorului. Robb susținea că se aștepta ca asistentul AI să ceară aprobarea sa înainte de a accepta oferte sau de a transmite date personale. Într-un alt caz semnalat, același asistent ar fi propus un preț cu 100 de dolari sub pragul minim stabilit de utilizator, un inconvenient pe care Meta l-a recunoscut fără comentarii suplimentare. Ulterior, Robb a decis să restricționeze semnificativ permisiunile acordate agentului AI.
Riscuri extinse și avertismente din partea experților
Agenții AI precum Muse de la Meta și dots de la OpenAI sunt proiectați să execute sarcini în numele utilizatorilor, chiar și în absența acestora. Pentru a funcționa eficient, ei necesită acces la informații personale, inclusiv mesaje, contacte și calendare. „Folosirea unui agent AI seamănă cu a-i da cuiva cheile și o listă de sarcini”, explică Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech. Această autonomie crescută vine însă cu riscuri considerabile. Ebrahim Bagheri, profesor la Universitatea din Toronto, avertizează că retragerea permisiunilor nu șterge automat datele pe care agentul AI le-a accesat deja. Mai mult, riscurile se extind și asupra persoanelor care nu utilizează aceste tehnologii. Atunci când un asistent AI citește mesajele unui utilizator, poate accesa involuntar și informații trimise de prieteni sau membri ai familiei, fără consimțământul lor.
Apple a anunțat recent noi măsuri de protecție pentru sistemul său de operare macOS, subliniind că autonomia crescândă a agenților AI amplifică potențialele breșe de securitate legate de accesul la datele personale. Meta, pe de altă parte, susține că Muse operează strict pe baza permisiunilor acordate de utilizatori, dar recunoaște deschis că agentul AI poate face greșeli sau poate întreprinde acțiuni neașteptate.
Sursa: Mediafax
