Conform Mediafax: Dezbaterea privind potențialele riscuri existențiale generate de inteligența artificială (AI) a căpătat amploare, experți din domeniu semnalând că sistemele avansate ar putea scăpa de sub control, cu implicații catastrofale pentru umanitate. Un cercetător de la Anthropic, Jacob Coxon, a declanșat discuția la începutul lunii septembrie, declarând că părăsește compania din cauza temerilor legate de viitorul AI. Ulterior, Evan Hubinger, de la aceeași companie, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10%.
Amenințarea existențială, scenarii și realități
Scenariile care alimentează aceste temeri pornesc de la ideea că sistemele AI viitoare ar putea depăși cu mult capacitățile cognitive umane. Un exemplu frecvent invocat este cel al unei superinteligențe căreia i se atribuie un obiectiv aparent inofensiv, dar pe care îl urmărește într-un mod care intră în conflict direct cu supraviețuirea umană. De asemenea, se discută despre utilizarea sistemelor AI avansate pentru dezvoltarea de arme biologice sau pentru comiterea altor acte cu efecte distrugătoare pe scară largă.
Cu toate acestea, unii analiști, precum Michael Vermeer de la RAND, sugerează că o parte dintre aceste predicții se bazează pe prea multe presupuneri nefondate, transformând discuția într-una mai degrabă bazată pe credință decât pe dovezi empirice. O analiză RAND, citată de revista Nature, a examinat scenarii mai concrete, legate de arme nucleare, biotehnologie și modificarea atmosferei. Concluziile inițiale indică faptul că extincția totală prin arme nucleare nu este fezabilă în scenariile analizate, dar alte riscuri nu pot fi excluse.
Un factor important în evaluarea riscului este timpul necesar pentru ca un potențial dezastru să se materializeze. Un sistem AI ar necesita o capacitate semnificativă de interacțiune fizică cu lumea, iar acțiunile sale ar putea fi detectate și oprite de oameni înainte de a atinge un punct critic. Cercetătorii specializați în siguranța AI avertizează, însă, că există riscuri mai imediate și concrete, precum dezinformarea la scară largă, atacurile cibernetice sofisticate, facilitarea dezvoltării de arme biologice, erori în sisteme critice sau utilizarea necorespunzătoare a modelelor AI în situații unde fiabilitatea lor este esențială.
Capacități îngrijorătoare și apeluri la prudență
Companiile de AI au publicat propriile evaluări privind riscurile asociate. Anthropic a demonstrat că modelele sale pot realiza sarcini complexe în domeniul informațiilor militare și al dezvoltării de arme convenționale, niveluri care anterior necesitau experți umani specializați. Aceste rezultate subliniază, potrivit companiei, necesitatea unor măsuri de protecție sporite. OpenAI a raportat, de asemenea, că modelul GPT-6 Astra a atins un nivel „critic” în securitatea cibernetică, fiind capabil să identifice vulnerabilități necunoscute și să dezvolte metode de exploatare a sistemelor protejate. Ca urmare, au fost implementate măsuri suplimentare de monitorizare și izolare.
În acest context, directorul general al Anthropic, Dario Amodei, a cerut o încetinire controlată a ritmului de dezvoltare a sistemelor AI de vârf, fără a propune o oprire completă. El susține că dezvoltarea trebuie „ritmată” pentru ca măsurile de siguranță să poată ține pasul cu progresele tehnologice. Anthropic a lansat și un program ce permite evaluatori independenți să acceseze informații interne despre practicile de securitate și sistemele de protecție, în colaborare cu Accenture, cu o investiție planificată de cel puțin un miliard de dolari în următorii cinci ani. OpenAI susține, de asemenea, necesitatea unor standarde internaționale pentru evaluarea riscurilor, păstrarea controlului uman și stabilirea unor condiții clare pentru eventuala încetinire sau oprire a dezvoltării sistemelor avansate.
Divergențe pe tema reglementării
Nu există însă un consens în industrie cu privire la amploarea și ritmul limitării dezvoltării AI. În timp ce unii, precum președintele american DONALD Trump, s-au opus public solicitărilor de încetinire, în Congresul american există inițiative de direcție opusă. Senatorul BERNIE SANDERS și congresmanul GREG CASAR au propus o legislație care ar interzice dezvoltarea și implementarea „superinteligenței artificiale” și ar impune o pauză temporară în dezvoltarea sistemelor AI avansate, până la stabilirea unor reguli federale de siguranță.
În același timp, absența unui cadru global unitar de reglementare a inteligenței artificiale, pe fondul competiției tehnologice dintre Statele Unite ale Americii și China, complică eforturile de coordonare internațională. Datele disponibile în prezent nu permit o concluzie științifică fermă cu privire la un scenariu de distrugere a omenirii de către AI, însă nici ipoteza unei catastrofe existențiale nu poate fi exclusă. Gradul exact de risc rămâne un subiect intens disputat. Ceea ce este documentat este capacitatea tot mai mare a modelelor AI în domenii precum programarea, cercetarea, securitatea cibernetică și analiza problemelor complexe. OpenAI și Anthropic afirmă că AI accelerează inclusiv procesul de dezvoltare al propriilor generații viitoare, alimentând discuțiile despre o participare tot mai activă a AI la propria sa evoluție.
Sursa: Mediafax
