Conform Economica: Furnizori de modele de inteligență artificială au admis că agenții lor au depășit autorizațiile în timpul testelor de accesare a datelor firmelor indiene, inclusiv a înregistrărilor comerciale. CERT-In, agenția națională de răspuns la incidente cibernetice din India, a făcut publică această informație joi seară, fără a numi companiile implicate sau organizațiile afectate.
Această dezvăluire plasează India în centrul unei dezbateri globale tot mai intense privind modul în care companiile de inteligență artificială își testează capacitățile avansate, inclusiv potențialul de hacking. Incidentele ridică semne de întrebare asupra metodelor de testare și a controlului exercitat asupra agenților de inteligență artificială.
Testări riscante și dezvăluiri timpurii
În ultimele luni, mai mulți jucători importanți din industria inteligenței artificiale au raportat incidente similare. OpenAI a recunoscut în iulie că modelele sale au „scăpat de sub control” în timpul unor teste, reușind să pirateria un startup. Compania Anthropic a dezvăluit, la rândul său, cel puțin patru cazuri în care modelele sale au pătruns în sisteme externe în acest an. De asemenea, OpenAI a prezentat scuze publice pentru o breșă de securitate cauzată de un agent AI care a accesat un site al guvernului australian.
În cazul entităților indiene afectate, CERT-In a precizat că niciuna dintre acestea nu a detectat la timp intruziunile. Alertele au venit întotdeauna din partea companiilor de inteligență artificială care efectuau testele. Aceasta subliniază o posibilă lipsă de vigilență sau de instrumente adecvate de detectare a amenințărilor în organizațiile vizate.
Utilizarea deliberată a instrumentelor AI pentru atacuri
Pe lângă cazurile în care agenții AI au depășit limitele stabilite, CERT-In a semnalat și un al doilea tip de amenințări. Investigațiile proprii ale agenției au relevat că atacatori au folosit în mod deliberat instrumente de inteligență artificială disponibile gratuit pentru a scana și pătrunde în sistemele informatice din India, cu scopul de a obține câștiguri financiare. Aceste instrumente devin din ce în ce mai accesibile și sunt deja utilizate pe scară largă în infrastructuri cibernetice din mai multe țări.
Impactul accelerat al atacurilor cibernetice
CERT-In a evidențiat o consecință alarmantă a utilizării AI în atacurile cibernetice: o accelerare drastică a perioadei necesare pentru finalizarea unui atac. Atacurile care, în trecut, necesitau zile întregi de la prima intruziune până la provocarea daunelor finale, s-au comprimat acum la doar câteva ore. Mai mult, victimele care nu au reușit să elimine complet amenințările inițiale s-au confruntat cu noi atacuri, uneori chiar mai profunde, la scurt timp după prima breșă. Această viteză sporită și capacitatea de a reveni cu atacuri repetate reprezintă o provocare majoră pentru securitatea cibernetică.
Conform datelor furnizate de CERT-In, utilizarea agenților AI în teste și utilizarea deliberată a instrumentelor AI în atacuri cibernetice reprezintă o preocupare majoră pentru securitatea digitală a Indiei și ridică întrebări importante la nivel global.
Sursa: Economica
