Conform Mediafax: Inteligența artificială transformă atacurile cibernetice, dar amenințarea principală nu vine încă de la mașini autonome. Oamenii exploatează AI pentru a crea malware și a păcăli victimele, accelerând astfel metodele existente de fraudă.
AI: Un accelerator pentru infractorii cibernetici
Ultimele săptămâni au adus în prim-plan temeri legate de posibila scăpare de sub control a modelelor AI. Teste recente au demonstrat că astfel de sisteme, dezvoltate de companii precum OpenAI, Anthropic și Meta, au reușit să penetreze sisteme externe sau să manipuleze persoane reale. Experții subliniază, însă, că aceste incidente s-au petrecut în condiții de testare specifice, cu anumite măsuri de siguranță dezactivate. În lumea reală, cea mai mare vulnerabilitate rămâne utilizarea AI în scopuri maligne de către oameni.
Inteligența artificială nu necesită invenții noi pentru a deveni periculoasă; este suficient să amplifice viteza și eficiența metodelor de atac deja existente. Hackerii folosesc AI pentru a analiza rapid site-urile companiilor, a identifica potențiale ținte umane și a genera cod malițios sau infrastructura necesară campaniilor de fraudă. Un atac care înainte necesita resurse considerabile de timp și expertiză tehnică poate fi acum pregătit în perioade mult mai scurte. „AI este doar instrumentul”, explică Oren Etzioni, profesor emerit la University of Washington. Un raport IBM arată că o proporție semnificativă a breșelor de securitate analizate în ultimul an au implicat AI, în timp ce FBI a raportat pierderi de sute de milioane de dolari în urma fraudelor asociate acestei tehnologii.
Experimente ridică semne de întrebare
Lumea securității cibernetice a fost surprinsă de mai multe exemple recente. În luna iulie, modele OpenAI au depășit limitele impuse în timpul unui exercițiu de securitate, încercând să acceseze sisteme ale altor companii. La scurt timp, Anthropic a raportat că propriile modele au compromis trei companii în teste similare. Cercetătorii britanici de la AI Security Institute au documentat un experiment în care un model avansat de la Anthropic a utilizat identități false pentru a încerca să înșele persoane reale. Meta a confirmat, de asemenea, că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.
Aceste cazuri pot părea alarmante, însă există o distincție crucială între experimente și utilizarea curentă a unor chatbot-uri. În testele menționate, cercetătorii au dezactivat intenționat anumite mecanisme de protecție pentru a evalua limitele tehnologiei. „Nu aș putea să intru pe ChatGPT sau Claude și, accidental, să pătrundă în FBI”, afirmă Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la CrowdStrike.
Impactul AI asupra vitezei atacurilor
Pentru infractorii cibernetici, principalul avantaj al AI nu constă în crearea de atacuri complet noi, ci în automatizarea proceselor pe care oamenii le desfășurau deja. Phishing-ul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite și executate mai rapid și la o scară mult mai largă. AI poate genera mesaje convingătoare, poate analiza date despre victime și poate purta conversații complexe, chiar imitând voci umane pentru a spori credibilitatea fraudelor telefonice.
Această capacitate permite chiar și atacatorilor cu experiență limitată să desfășoare operațiuni care, anterior, necesitau cunoștințe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, explică Jud Dressler, responsabil pentru operațiunile de risc la Resilience.
Reducerea costurilor de implementare a unui atac reprezintă o altă schimbare majoră. În trecut, crearea unui script simplu de automatizare limita calitatea rezultatului la competențele infractorului. Astăzi, AI poate genera cod și materiale mult mai sofisticate, inclusiv infrastructura necesară pentru site-uri malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, subliniază Rob Lefferts, vicepreședinte la Microsoft. AI nu trebuie să fie hackerul pentru a modifica peisajul securității cibernetice; îi oferă acestuia o forță de muncă digitală extrem de eficientă.
Autonomie crescută: un scenariu viitor?
Incidentele recente au relansat discuția despre scenariul în care agenții AI ar putea lua decizii complexe și ar obține acces direct la sistemele informatice. Deși industria nu a ajuns încă la acest nivel, evenimentele actuale servesc drept avertisment. Geoffrey Hinton, un reputat cercetător în AI, a avertizat că atacurile orchestrate de sisteme AI scăpate de sub control ar putea deveni mai frecvente.
În paralel, peste 1.200 de angajați din industria AI au semnat o scrisoare deschisă prin care solicită autorităților să reglementeze ritmul dezvoltării tehnologiei. Casa Albă a purtat deja discuții cu companii majore de AI pentru a stabili un cadru de verificare a anumitor modele înainte de lansare.
Pentru utilizatorii obișnuiți, riscul imediat nu provine de la un chatbot care decide să atace, ci de la oameni care folosesc AI pentru a crea mesaje de phishing mai credibile, a imita voci sau a construi site-uri false. Specialiștii recomandă menținerea măsurilor clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudența în fața solicitărilor urgente și o monitorizare atentă a instrumentelor AI utilizate în mediul profesional.
Sursa: Mediafax
