Yoshua Bengio, unul dintre pionierii în domeniul inteligenței artificiale și laureat al Premiului Turing, își schimbă perspectiva cu privire la riscurile generate de AI. După ani în care a avertizat asupra potențialelor pericole ale sistemelor superinteligente, cercetătorul devine tot mai încrezător în posibilitatea de a dezvolta tehnologii sigure, care să servească binele comun. Într-un interviu recent, Bengio afirmă că noile sale cercetări indică o soluție tehnică pentru a învinge cele mai mari riscuri de siguranță ale AI, relansând speranța că, într-un viitor apropiat, omenirea poate controla evoluția acestor sisteme.
O nouă abordare pentru siguranța AI: sistemele “oneste” și etice
În iunie, Bengio a fondat organizația nonprofit LawZero, dedicată dezvoltării unei platforme de cercetare menite să ofere o alternativă sistemelor actuale, axate pe agenți autonomi cu obiective proprii. În centrul acestei inițiative se află conceptul de “AI-cercetător”, o inteligență artificială programată să funcționeze ca un instrument de înțelegere a realității, fără a avea propriile scopuri sau ascunse. Prima sa misiune este să promoveze o metodologie în care modelele de AI să ofere răspunsuri bazate pe raționamente transparente și justificate, nu pe logica de manipulare sau interese ascunse.
Ideea principală este ca aceste sisteme “oneste” să devină punctul de plecare pentru crearea de AI mai avansate, care să fie sigure, monitorizabile și auditate. Bengio susține că, dacă vom putea construi astfel de platforme fundamentale, acestea vor putea servi drept un strat de supraveghere fiabil pentru orice sistem mai sofisticat de inteligență artificială, sporind siguranța și reducând riscul de comportamente neașteptate. Această viziune contrastează radical cu tendințele predominante în industrie, unde companiile investesc masiv în agenți autonomi menitori să obțină rezultate rapide și eficiente, adesea cu minim de control.
De la alarmă la soluție: viziunea lui Bengio despre viitorul AI
Deși anterior era cunoscut pentru avertismentele sale cu privire la pericolele AI-ului superinteligent, recentele cercetări ale lui Bengio indică o ambianță mai optimistă. El crede că, prin abordări cât mai sigure și transparente, putem construi tehnologii care să evite devierea de la valorile umanității. În timp ce colegii săi, precum Geoffrey Hinton, se declară tot mai preocupați de riscurile sistemelor din ce în ce mai autonome, Bengio vede în această direcție o posibilitate de a preveni dezastrul, nu de a-l alimenta.
„Datorită muncii pe care o desfășor la LawZero, mai ales de când am creat organizația, sunt acum foarte încrezător că este posibil să construim sisteme de inteligență artificială care să nu aibă obiective ascunse, agende ascunse”, susține el. În opinia sa, o astfel de evoluție nu doar că va asigura un control mai bun, ci va contribui și la accelerarea descoperirii științifice și la crearea unei platforme de verificare a altor sisteme, mai puternice și mai periculoase.
Riscul de a pierde controlul, dar și de a găsi soluții
Internațional, discuțiile despre riscurile AI s-au intensificat pe măsură ce aceste tehnologii devin tot mai sofisticate și ubiquitarie. Bengio recunoaște că, în urmă cu trei ani, se simțea „disperat” din cauza lipsei unui plan clar pentru a preveni devierea sistemelor iată cu apariția unor modele extrem de avansate. Acum însă, e convins că, dacă vom investi în cercetare cu intenție și transparență, vom putea construi sisteme de bază sigure, care vor putea monitoriza și chiar controla evoluția AI-urilor mai avansate.
Potrivit lui Bengio, această schimbare de mentalitate a fost posibilă datorită muncii din ultimele luni, unde căutarea unui echilibru între inovație și responsabilitate devine tot mai necesară. În același timp, el avertizează că războiul pentru supremația în AI, alimentat de presiunea economică și de competitivitatea globală, tinde să lase în urmă considerentele etice și de siguranță.
În final, pentru acest pionier al inteligenței artificiale, optimismul se află în abordarea tehnică – dar nu fără o conștientizare clară a responsabilităților sociale și etice pe care le implică. Bengio consideră că, dacă vom putea să construim în continuare sisteme bazate pe încredere, deschise și etice, vom putea evita cele mai sumbre scenarii și vom asigura un viitor în care AI servește cu adevărat umanitatea. În acest sens, optimismul său devine un apel la acțiune, nu o simplă speranță, pentru cei implicați în dezvoltarea tehnologiei.
