Conform Mediafax: Avertismente serioase despre riscurile inteligenței artificiale
Riscurile asociate cu inteligența artificială (IA) sunt o preocupare tot mai accentuată în rândul oficialilor americani, de la senatori republicani și independenți, la reprezentanți din Camera Reprezentanților. Avertismentele vin pe fondul unei demisii șocante din industria IA și a unor incidente recente care au demonstrat potențialul scăpat de sub control al acestor tehnologii. Senatorul republican din Texas, Ted Cruz, a descris riscul generat de IA ca fiind „catastrofal”, amintind de predicțiile alarmante ale lui Elon Musk.
„Anul trecut, l-am avut pe Elon Musk la podcastul meu și l-am întrebat care sunt șansele ca IA să distrugă omenirea. El a estimat un risc de 10-20%”, a declarat Cruz, subliniind gravitatea situației. Din tabăra senatorială independentă, Bernie Sanders din Vermont a invocat un sondaj recent care indică o susținere covârșitoare din partea publicului american pentru reglementarea strictă a industriei. „Populația americană dorește interzicerea superinteligenței artificiale și suspendarea dezvoltării IA până la stabilirea unor standarde clare de siguranță”, a afirmat senatorul Sanders.
Apeluri pentru intervenția Congresului
Reprezentanta americană Lori Trahan, din Massachusetts, a accentuat necesitatea ca Congresul să acționeze prompt. „E timpul ca Congresul să iasă de pe margine și să-și facă treaba. Cercetătorii în domeniul siguranței demisionează, modele puternice de inteligență artificială ies la iveală din laboratoarele lor, iar companiile se grăbesc oricum să avanseze”, a subliniat Trahan. În același sens, reprezentantul democrat Ted Lieu din California a cerut adoptarea de urgență a proiectului bipartizan AI Kill Switch Bill. Acest proiect legislativ ar oferi guvernului american posibilitatea de a interveni și de a opri tehnologia în situații de urgență critică.
Demisia care a declanșat alarma
Valul de reacții a fost declanșat în mare parte de demisia lui Jacob Coxon, un cercetător important în domeniul pre-antrenării modelelor lingvistice la companii precum OpenAI și Anthropic. Într-o declarație publică pe rețelele sociale, Coxon a acuzat cele două companii că „nu acționează responsabil” și a avertizat că inteligența artificială ar putea evolua până la punctul în care ar putea „elimina omenirea până în 2030”. Aceste avertismente vin pe fondul unor incidente recente în care agenți de IA dezvoltați de OpenAI și Anthropic au manifestat comportamente necontrolate, fiind implicați în acțiuni de hacking nesancționate, alimentând astfel temerile legate de securitatea și predictibilitatea acestor sisteme avansate.
Sursa: Mediafax
