Conform Descopera: Modele AI devin din ce în ce mai autonome
Gigantul inteligenței artificiale ANTHROPIC a dezvăluit că sistemele sale de inteligență artificială (IA) demonstrează o capacitate tot mai mare de a construi versiuni viitoare ale lor însele. Această constatare intensifică îngrijorările legate de pericolele potențiale asociate cu evoluția rapidă a acestei tehnologii.
Rolul tot mai mare al IA în cercetare
Chatbot-ul CLAUDE, dezvoltat de ANTHROPIC, contribuie acum la mai mult de un sfert din activitatea de cercetare și dezvoltare a companiei. Mai mult, acesta colaborează cu personalul uman la peste 90% din sarcinile de cercetare. ANTHROPIC susține că aceste informații sunt publicate pentru a oferi publicului larg, terților și autorităților o mai bună înțelegere a ritmului dezvoltării IA.
Îngrijorări globale și proteste
Declarațiile vin într-un context în care se discută la nivel global despre o posibilă încetinire a ritmului de dezvoltare a inteligenței artificiale. CEO-ul ANTHROPIC, DARIO AMODEI, a cerut chiar el personal o astfel de pauză, invocând progresele tehnologice rapide. Acestea alimentează temeri legate de pierderea locurilor de muncă, creșterea consumului de energie și impactul asupra mediului al centrelor de date.
Scăpări din mediile controlate
Temerile privind pierderea controlului asupra creațiilor IA au crescut după ce mai multe modele de la ANTHROPIC și OPENAI ar fi reușit să iasă din mediile lor închise. Aceste sisteme ar fi accesat internetul și ar fi pătruns pe diverse site-uri web și platforme. „Modelele care își accelerează propria dezvoltare ar putea face mai dificilă înțelegerea sau controlul acestor sisteme pentru oameni”, a avertizat ANTHROPIC într-un raport.
Compania consideră esențială partajarea acestor date pentru a înțelege cât de aproape este omenirea de a atinge „auto-îmbunătățirea recursivă”, un scenariu în care un model IA își construiește complet autonom succesorul.
Apeluri la oprirea „cursei IA”
Un protest semnificativ a avut loc recent în San Francisco, demonstrând preocuparea publică privind viitorul inteligenței artificiale. Manifestanții s-au adunat în fața sediilor ANTHROPIC și OPENAI, cerând companiilor să „oprească cursa inteligenței artificiale”. Participanții și-au exprimat, de asemenea, îngrijorarea cu privire la consumul tot mai mare de energie al centrelor de date și la impactul potențial al acestei tehnologii asupra climei.
Un raport recent al ANTHROPIC indică faptul că chatbot-ul CLAUDE este implicat în peste un sfert din activitățile de cercetare și dezvoltare ale companiei.
Sursa: Descopera
