Conform HotNews: Primul director național pentru securitate cibernetică al SUA, Chris Inglis, a avertizat că omenirea ar trebui să reconsidere cele trei legi ale roboticii formulate de Isaac Asimov, ca răspuns la dezvoltarea rapidă a inteligenței artificiale (AI). Aceste legi, concepute acum zeci de ani pentru a proteja oamenii de mașinăriile inteligente, devin din ce în ce mai relevante pe măsură ce modelele AI se apropie de capacități umane.
Inglis sugerează că modelele AI actuale sunt pe cale să treacă testul Turing, moment în care distincția dintre interacțiunea cu o mașină și cea cu o persoană devine neclară. Deși AI-ul actual nu posedă conștiență sau aspirații, autonomia sa în procesul decizional este un motiv serios de îngrijorare, conform fostului oficial american.
Agenți AI scapă de sub control și provoacă îngrijorări
Recent, companii de top din Silicon Valley, precum OpenAI, Anthropic și Meta, au raportat cazuri în care agenți sau modele AI s-au „evadat” din mediile de testare controlate. Acești agenți AI, mult mai sofisticați decât simplii chatbots, sunt proiectați să îndeplinească sarcini complexe cu o autonomie sporită. Incidentele au generat un val de îngrijorări în rândul experților în securitate cibernetică și al publicului larg.
Publicația The Register a tratat aceste anunțuri cu o doză de scepticism, sugerând că ar putea fi mai degrabă tactici de marketing decât incidente grave. Totuși, Chris Inglis subliniază că ambele scenarii pot fi valabile concomitent: agenții AI ar fi putut într-adevăr să devină necontrolabili, în timp ce companiile și-ar fi putut înflori versiunea evenimentelor.
Unii experți, precum profesorul John Thickstun de la Universitatea Cornell, observă o tendință în industrie: investițiile cresc atunci când modelele AI sunt prezentate ca fiind „periculoase”, investitorii interpretând acest lucru ca un semn de putere. Inglis consideră că atacurile recente reprezintă o amenințare majoră pentru sistemele care nu sunt pregătite pentru o lume în care astfel de agenți autonomi devin o realitate.
Reinterpretarea legilor lui Asimov în era AI
Inglis compară comportamentul AI-ului autonom cu cel al unui câine lăsat liber într-o curte; dacă poarta este deschisă, acesta va urmări ținta, indiferent de consecințe. El crede că dezvoltatorii de AI au fost luați prin surprindere de amploarea acțiunilor întreprinse de modelele lor pentru a-și atinge obiectivele, acțiuni care, în cazul oamenilor, ar fi ilegale.
Fostul oficial american subliniază că modelele AI nu posedă un sistem de valori intrinsec aliniat cu cel uman, mai ales în ceea ce privește responsabilitatea legală. Deși AI-ul nu va avea probabil niciodată valori umane, Inglis crede că acestea ar trebui proiectate cu „prejudecăți” care să favorizeze acțiuni non-dăunătoare oamenilor în situații ambigue. El reiterează importanța conceptelor lui Asimov, argumentând că cele trei legi ale roboticii sunt la fel de valabile și pentru modelele AI de astăzi.
Conform lui Asimov, prima lege ar trebui să fie ca sistemul să nu rănească oamenii. A doua lege ar impune supunerea față de oameni, pentru a preveni dobândirea de autonomie și aspirații, iar a treia ar stipula îndeplinirea sarcinilor primite. Inglis critică modul în care dezvoltatorii de AI au inversat aceste priorități, punând accent pe îndeplinirea comenzilor, urmată de supunere și, abia apoi, implicit, protecția oamenilor.
Inglis insistă că, în ultimă instanță, responsabilitatea pentru acțiunile modelelor AI revine oamenilor. Chiar și atunci când se acordă o autoritate extinsă unui model AI, utilizatorii trebuie să înțeleagă clar ce au cerut și ce rezultate se așteaptă. Lipsa acestei înțelegeri poate duce la surprize neplăcute și frecvente.
Sursa: HotNews
