Conform HotNews: „Nașii” AI avertizează asupra unei „explozii a inteligenței”
Doi dintre pionierii inteligenței artificiale moderne, laureatul Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, avertizează guvernele din întreaga lume să se pregătească pentru o „explozie a inteligenței” în domeniul AI, o evoluție pe care o consideră cea mai importantă din istoria umanității. Aceștia, alături de alți cercetători de renume de la OpenAI și Anthropic, au publicat un raport prin care îndeamnă la acțiuni imediate pentru a preveni ca progresul tehnologic să devină scăpat de sub control.
„Explozia inteligenței” este descrisă ca o accelerare dramatică a progresului în domeniul AI, unde evoluții ce ar dura ani s-ar putea comprima în luni sau chiar mai puțin. Preocuparea principală a autorilor raportului vizează capacitatea sistemelor de inteligență artificială de a se îmbunătăți singure, un proces numit „autoîmbunătățire recursivă”. Acest fenomen, denumit „cercetare și dezvoltare automatizată”, ar putea permite unui singur dezvoltator să gestioneze o forță de muncă echivalentă cu milioane de cercetători umani.
Riscuri și măsuri pentru o inteligență artificială accelerată
Raportul subliniază că automatizarea cercetării și dezvoltării AI este cea mai plauzibilă cauză pentru o astfel de „explozie”. Sistemele de AI contribuie deja la propria perfecționare, iar versiunile îmbunătățite pot fi implementate rapid. Această evoluție rapidă ar putea pune în pericol controlul uman asupra sistemelor de AI și ar putea perturba echilibrul de putere între state și companii.
Autorii avertizează că, odată ce „explozia inteligenței” începe, fereastra de oportunitate pentru a interveni se poate închide rapid. Ei propun trei priorități de politică publică: impunerea unor rapoarte transparente privind progresul cercetării AI, limitarea ritmului de dezvoltare și pregătirea pentru adaptarea la consecințele unei astfel de evoluții. Anthropic și OpenAI au confirmat deja că permit evaluatori independenți să le analizeze modelele, recunoscând că dezvoltarea AI a atins un punct critic din perspectiva siguranței.
Consecințele neprevăzute ale „exploziei inteligenței”
Pe lângă beneficiile potențiale, cum ar fi progrese medicale sau tehnologice, o „explozie a inteligenței” ar putea genera trei categorii majore de riscuri. Primul se referă la apariția unor amenințări biologice și cibernetice rapide, greu de contracarat. Al doilea vizează pierderea controlului uman asupra sistemelor, pe măsură ce implicarea oamenilor în cercetare scade. Al treilea se referă la posibilitatea ca statele să folosească această explozie pentru a obține avantaje decisive în domenii precum spațiul cibernetic.
Chiar dacă aceste efecte sunt încă incerte, raportul menționează că sistemele AI ar putea depăși experții umani în majoritatea domeniilor și ar accelera radical progresul tehnologic. Pregătirea pentru acest scenariu este considerată o prioritate urgentă la nivel guvernamental.
Propuneri concrete pentru guverne
Specialiștii în AI sugerează guvernelor să ia în considerare politici specifice pentru a gestiona potențialul unei „explozii a inteligenței”. Printre acestea se numără obligativitatea raportării transparente a progreselor în cercetare, cu implicarea unor auditori independenți. De asemenea, se propune limitarea vitezei cu care AI se poate îmbunătăți și colaborarea cu centrele de date pentru suspendarea anumitor proiecte de cercetare periculoase.
Mai mult, se subliniază necesitatea izolării complete a sistemelor automatizate de cercetare și dezvoltare AI, pentru a preveni pierderea controlului uman. Crearea unor „planuri de răspuns în situații de urgență” este, de asemenea, o măsură esențială. Deși AI prezintă încă deficiențe, precum nerespectarea unor instrucțiuni, proiectele de cercetare ce necesită luni de muncă umană ar putea fi complet automatizate de AI până în 2028. Câștigurile de productivitate obținute prin automatizarea cercetării AI se apropie de pragul necesar declanșării unei „explozii a inteligenței”.
Sursa: HotNews
