Conform Mediafax: David Robinson, un responsabil cheie pentru siguranța la OpenAI, a demisionat săptămâna aceasta, lansând un avertisment puternic despre cultura defectuoasă din cadrul companiei care dezvoltă instrumente de inteligență artificială. Robinson, care a coordonat redactarea rapoartelor de siguranță pentru lansările de produse ale OpenAI, consideră că firmele de frunte din acest domeniu au nevoie urgentă de o reformă culturală.
Potrivit publicației The Guardian, Robinson a subliniat că recentele incidente de siguranță legate de agenți AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”. El a explicat, într-un text amplu publicat în revista The Atlantic, că firmele care dezvoltă această tehnologie nu sunt „nici pe departe suficient de prudente”.
„Cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a declarat Robinson. El a cerut două modificări majore în abordarea siguranței: ca firmele din AI să beneficieze de expertiza din domenii precum cel nuclear și cel al aviației, și să dezvolte o „știință nouă” care să asigure controlul sistemelor puternice din viitor atunci când operează autonom.
Mai mulți angajați au părăsit industria AI
Demisia lui Robinson vine într-un context în care mai mulți angajați din companii mari de inteligență artificială și-au anunțat retragerea în ultimele săptămâni. Un exemplu este Jacob Coxon, cercetător care a lucrat atât la OpenAI, cât și la Anthropic. Acesta a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Aceste temeri au fost parțial susținute și de Anthropic, care a estimat o probabilitate de peste 10% ca instrumentele AI să ducă la distrugerea umanității în următorul deceniu. În paralel, OpenAI a manifestat o prudență crescută în ultimele săptămâni, ca urmare a incidentului Hugging Face.
Compania a anunțat recent renunțarea la lansarea unui model de inteligență artificială de nouă generație, după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat temporar antrenarea celor mai avansate modele pe care le deține. Aceste decizii reflectă o conștientizare crescândă a riscurilor asociate cu progresul rapid în domeniul AI.
Sursa: Mediafax
