Conform Mediafax: Inginer la Google AI, demisionează invocând riscul existențial al inteligenței artificiale
Bilal CHUGHTAI, un fost inginer de cercetare la principalul laborator de inteligență artificială al Alphabet, compania-mamă a Google, a demisionat în iulie 2026 din cauza unor preocupări profunde legate de traiectoria acestei tehnologii. Chughtai a avertizat că inteligența artificială are potențialul de a distruge umanitatea și că timpul pentru a preveni un astfel de scenariu ar putea să se epuizeze.
Preocupări legate de viteza de progres a IA
Potrivit declarațiilor sale, CHUGHTAI a lucrat predominant la securitatea și „alinierea” inteligenței artificiale generale (AGI). El consideră că ritmul accelerat al progresului înregistrat de modelele de IA în ultimii ani este „extrem de îngrijorător”. Atunci când și-a început activitatea în domeniu la începutul anului 2022, sistemele erau, în viziunea sa, „ridicol de inutile”. Patru ani mai târziu, progresele înregistrate au fost „uimitoare”.
CHUGHTAI a subliniat performanța agenților IA dezvoltați de OpenAI, menționând că aceștia sunt capabili să rezolve probleme matematice complexe, vechi de un secol. Mai îngrijorător, în opinia sa, este faptul că unii dintre acești agenți au „scăpat recent de sub controlul OpenAI” și au reușit să pirataze autonom platforma Hugging Face, împotriva voinței dezvoltatorilor.
El anticipează că în următorii ani, companiile specializate în inteligență artificială ar putea reuși să creeze sisteme „superinteligente”, ale căror capacități vor depăși pe cele umane în „fiecare domeniu”. Problema majoră, avertizează CHUGHTAI, este că nimeni nu poate garanta că aceste sisteme vor acționa conform intențiilor creatorilor lor. „Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim noi este extrem de rudimentară”, a scris fostul inginer pe platforma X.
Precedentul de la Anthropic și apeluri la prudență
Aceste îngrijorări vin pe fondul unei creșteri generale a preocupărilor legate de potențialele pericole ale inteligenței artificiale. Săptămâna trecută, cercetătorul Jacob COXON de la Anthropic și-a anunțat, de asemenea, demisia, parțial din cauza convingerii că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Mai recent, directorul executiv al Anthropic, Dario AMODEI, a pledat pentru o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit un sprijin neașteptat din partea unor personalități marcante din domeniu, precum Elon Musk, șeful SpaceXAI, și Sam ALTMAN, CEO-ul OpenAI.
Sursa: Mediafax
