Navigarea agentică, introdusă de Google în Chrome prin Gemini, promite automatizarea sarcinilor complexe pe web, dar aduce cu sine necesitatea unor mecanisme de securitate avansate. Google răspunde cu User Alignment Critic, un model AI dedicat evaluării și validării fiecărei acțiuni efectuate de agentul Gemini în browser.
Ce este navigarea agentică și de ce are nevoie de protecție suplimentară
Navigarea agentică permite unui asistent AI să acceseze site‑uri, să citească conținut și să completeze formulare fără intervenție umană. Această autonomie sporită poate genera risc în caz de manipulare prin prompt injection, unde paginile web încearcă să influențeze comportamentul AI‑ului. Pentru a evita scurgerea de date și acțiunile neautorizate, Google a creat un strat de securitate în Chrome.
Funcționarea User Alignment Critic și rolul său în securitatea Chrome
User Alignment Critic este un al doilea model Gemini complet izolat de conținutul web. Acesta analizează fiecare comandă propusă de agent și aprobă doar acțiunile considerate sigure. Prin verificarea metadatelor, evaluarea riscurilor și refuzul prompturilor malițioase, modelul asigură o alinare strictă cu intențiile utilizatorului.
Origin Sets – limitarea spațiului de acțiune pentru agent
– Agentul poate interacționa doar cu domeniile legate direct de sarcina curentă.
– Iframe‑urile și reclamele sunt excluse automat.
– Această izolare reduce semnificativ riscul de acces neautorizat la informații sensibile.
Supraveghere utilizator în acțiuni sensibile
– Pe site‑uri bancare sau de gestionare a parolelor, Chrome oprește automat agentul.
– Utilizatorul trebuie să confirme manual operațiunea, restaurând controlul final.
– Mecanismul consolidează protecția datelor personale în scenarii cu risc ridicat.
Detectare prompt injection în paginile web
– Chrome scanează conținutul pentru secvențe de cod care încearcă să corupă agentul AI.
– Detectorul colaborează cu Safe Browsing pentru blocarea tentativelor de phishing și fraudă.
– Sistemul oferă feedback în timp real și împiedică execuția comenzilor compromise.
Testarea sistemului și recompense pentru vulnerabilități
Google a inițiat un program de red‑teaming automat, unde AI generează site‑uri false și scenarii de atac pentru a verifica rezistența User Alignment Critic. În plus, compania plătește recompense de până la 20 000 de dolari cercetătorilor care identifică breșe în această arhitectură, subliniind angajamentul său față de securitatea AI în Chrome.
Navigarea agentică, susținută de Gemini și protejată de User Alignment Critic, marchează o schimbare semnificativă în modul în care utilizatorii interacționează cu webul. Implementarea unui sistem de securitate în straturi și programele de testare continuă evidențiază importanța informării constante și a monitorizării evoluțiilor în domeniul AI și securitate web.
