Inteligența artificială nu doar că a devenit o parte integrantă a infrastructurii digitale globale, ci și un teren propice pentru noile forme de atac cibernetic. Până recent, discuțiile erau concentrate pe avantajele automatizării și inovării, însă realitatea de astăzi arată clar că aceleași tehnologii pot fi folosite și în scopuri ostile. Un nou raport scoate în evidență modul în care modelul Gemini este exploatat de actori statali și grupări criminale pentru aproape întregul lanț al unui atac cibernetic, transformând AI-ul într-un aliat atât pentru infractori, cât și pentru apărare.
Sub titlul „De la recunoaștere la exfiltrare: cum este folosit AI în practică”, raportul evidențiază faptul că, deși AI nu a inventat noi tipuri de amenințări, a accelerat și scalat capabilitățile atacatorilor. Dispozitivul devine un „copilot” tehnic, oferindu-le infractorilor rapiditate și eficiență în operațiuni care altfel cereau echipe mari și timp îndelungat. Un exemplu concret vine din activitatea actorilor din țări precum China, Iran, Coreea de Nord și Rusia, care folosesc Gemini pentru profilare de ținte, colectare de informații, creare de momeli de phishing, traduceri automate și chiar pentru testarea vulnerabilităților. Aceste rapidități nu doar că sporesc eficiența, dar reduc și șansele ca organizațiile țintă să răspundă în timp util.
Un aspect alarmant îl reprezintă scenariile generate de AI pentru obținerea de recomandări legate de exploatarea vulnerabilităților sau strategii de ocolire a mecanismelor defensive. Acestea pot fi interpretate ca simple exerciții teoretice, dar pentru un analist cu experiență, intenția este clară. În același timp, actorii de la Teheran folosesc AI pentru a personaliza mesaje de social engineering și a dezvolta instrumente mai rapide și mai convingătoare, ceea ce face campaniile de phishing mai greu de detectat și de blocat, mai ales în medii cu o securitate fragilă.
Dincolo de activitatea umană, raportul aduce în discuție și fenomenul malware-ului „augmentat” de inteligența artificială. În cazul unor proiecte precum HonestCue și CoinBait se observă un trend clar: echipele infracționale folosesc AI pentru a accelera dezvoltarea de kituri și prototipuri, reducând astfel timpul de la concept la operaționalitate. HonestCue, de exemplu, folosește API-ul Gemini pentru a genera cod C# pentru componente de malware, eliminând necesitatea scrierii manuale și, implicit, duratele lungi de dezvoltare. Între timp, CoinBait reprezintă un kit de phishing, adaptat pentru platforme crypto, capabil să fie rapid customizat și dificil de tras în piept pentru detectoare.
Campaniile de tip ClickFix devin tot mai sofisticate, adaptate domeniului macOS, utilizând AI pentru a crea mesaje și anunțuri de înaltă calitate, care păcălesc mai eficient utilizatorii. Aceste tehicioloagii asigură înșelătorii mai credibile, reducând șansele ca victimele să își dea seama de pericol în timp util. Pentru specialiștii în securitate, asta înseamnă că metoda clasică de verificare a sursei și a credibilității mesajelor trebuie adaptată pentru noile realități digitale, mai ales că atacurile devin tot mai subtil și mai bine „îmbrăcate”.
Un aspect mai puțin vizibil, dar la fel de critic, îl reprezintă tentativa de extragere a comportamentului și know-how-ului din modelele AI. Actorii rău intenționați pot interoga sistemele cu volume mari de prompturi, apoi folosind rezultatele pentru a crea alternative mai ieftine și mai rapide. Acest proces de distilare poate afecta nu doar proprietatea intelectuală, ci și avantajul competitiv al companiilor care se bazează pe AI, reducând dacă nu chiar eliminând distincția între soluțiile legitime și cele contrafăcute.
Viitorul pare să fie marcat de o luptă tot mai ascuțită între cei care dezvoltă și implementează AI pentru apărare și cei care îl folosesc ca instrument de atac. Organizațiile trebuie să devină mai vigilente, impunând politici stricte și monitorizări continue, pentru a nu fi luate prin surprindere de noile metode de atac. În același timp, consumatorii obișnuiți trebuie să aplice reguli simple de verificare și scepticism, mai ales în fața mesajelor sau anunțurilor care par prea perfecte.
Inteligența artificială se află într-un moment de cotitură: nu mai este doar un accelerant al progresului, ci și un catalizator pentru riscuri de amploare. Rămâne de văzut dacă inovațiile în domeniu vor fi ghidate în direcția promovării siguranței globale sau vor fi exploatate pentru a alimenta o nouă secretomanie cibernetică. Cert este că, în această luptă, disciplina și guvernanța devin primele arme împotriva pericolului de a pierde controlul asupra unor tehnologii deja avansate.
Sursa: Playtech.ro
