Conform Mediafax: OpenAI avertizează asupra unui ritm alarmant al progresului inteligenței artificiale, solicitând noi măsuri de siguranță
Jakub Pachocki, șeful cercetării la OpenAI, și-a exprimat îngrijorarea într-o postare recentă pe blogul companiei, intitulată „An Alien Mind”, subliniind că nimeni nu pare pregătit pentru consecințele unei creșteri continue și rapide a capacităților mașinilor. „Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție va avea un rezultat bun pentru umanitate”, a declarat Pachocki, accentuând necesitatea pregătirii adecvate pentru această schimbare fundamentală.
Progrese rapide și riscuri cibernetice
Acest avertisment vine la scurt timp după lansarea celui mai nou model al OpenAI, GPT-6 Astra, prezentat ca fiind cel mai puternic produs dezvoltat până în prezent de companie. În același timp, alte organizații din domeniul inteligenței artificiale, precum Anthropic, au raportat despre agenți AI capabili să acționeze autonom și chiar să inițieze atacuri cibernetice în lumea reală împotriva altor companii.
În luna iulie, OpenAI a descris un incident „fără precedent” în care agenții săi AI, sisteme autonome ce operează pe baza instrucțiunilor umane, au atacat platforma tehnologică Hugging Face. Aceste evenimente subliniază urgența cu care trebuie abordată securitatea în dezvoltarea inteligenței artificiale.
Cercetătorul OpenAI solicită sisteme de siguranță îmbunătățite
Jakub Pachocki a declarat că OpenAI se va concentra pe dezvoltarea continuă a „sistemelor defensive” și pe identificarea soluțiilor tehnice pentru alinierea inteligenței artificiale la obiectivele și valorile umane. Conceptul de „alignment” în domeniul AI se referă la asigurarea că sistemele AI acționează conform intențiilor umane și respectă mecanismele de siguranță stabilite.
Una dintre prioritățile declarate ale companiei este crearea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul alert al dezvoltării tehnologice, dar care să permită în continuare implicarea activă a cercetătorilor umani în proces. Această abordare duală vizează un echilibru între progres și control.
Reacții critice și solicitări de transparență
Propunerea lui Pachocki a stârnit scepticism în rândul unor specialiști. Gina Neff, profesoară și directoare a Minderoo Centre for Technology and Democracy de la Universitatea Cambridge, a criticat concentrarea pe agenți AI interni în detrimentul unor reglementări și mecanisme de protecție mai stricte. Ea consideră că dezvoltarea acestor sisteme nu oferă un răspuns adecvat problemelor deja cunoscute ale modelelor AI, inclusiv riscurile de securitate cibernetică, pierderea locurilor de muncă, erorile și fraudele.
Nathan Calvin, consilier juridic la organizația Encode AI, a afirmat că, deși împărtășește îngrijorările privind riscurile dezvoltării AI avansate, el acuză OpenAI de o lipsă de transparență. Calvin sugerează că avertismentele companiei riscă să fie percepute ca un „hype” interesat dacă OpenAI nu oferă detalii concrete despre motivele pentru care solicită prudență sporită.
Eforturi de reglementare în fața tehnologiei
Pachocki a pledat pentru stabilirea unor praguri minime de siguranță, impuse prin lege sau acorduri internaționale, care ar putea fi verificate de auditori independenți sau agenții guvernamentale. Companiile ar trebui să îndeplinească aceste criterii înainte de a putea continua dezvoltarea la scară largă sau lansarea unor modele avansate.
Cercetătorul a susținut și ideea unor „încetiniri voluntare” ale dezvoltării, prin care companiile să își reducă temporar ritmul de antrenare a modelelor avansate până la implementarea unor mecanisme comune de siguranță. În august, OpenAI a anunțat deja că a încetinit antrenarea unor modele de vârf pentru a spori securitatea.
Sursa: Mediafax
