Conform Mediafax: Liderii industriei de inteligență artificială, printre care Sam Altman, CEO-ul OpenAI, și Elon Musk, au cerut o „tempestare” a ritmului dezvoltării inteligenței artificiale. Propunerea, lansată inițial de Geoff Hinton, o figură proeminentă în domeniu, sugerează implementarea unor evaluatori independenți, standarde comune de siguranță și o cooperare internațională consolidată pentru a gestiona progresul rapid și potențialele riscuri.
Sam Altman a detaliat necesitatea ca firmele americane care dezvoltă sisteme AI tot mai performante să ofere garanții publice privind acțiunile lor responsabile. „Lumea merită să aibă încredere că firmele americane care dezvoltă inteligență artificială din ce în ce mai capabilă vor acționa responsabil, mai ales pe măsură ce ritmul progresului s-a accelerat”, a declarat Altman pe platforma X.
Auditori independenți, o soluție propusă
Șeful OpenAI pledează pentru un cadru federal care să stabilească cerințe de siguranță consistente pentru cele mai avansate sisteme AI. El consideră că nu este necesară așteptarea unor excepții antitrust sau a unor noi legi pentru a construi această încredere, ci implementarea unor reguli clare pentru gestionarea riscurilor asociate AI. printre soluțiile considerate utile se numără auditorii independenți, care ar putea verifica modul în care companiile gestionează riscurile. Altman susține că dezvoltatorii de sisteme AI ar trebui să stabilească standarde comune pentru monitorizarea modelelor și siguranța acestora. „Schimbarea de astăzi către dezvoltarea și evaluarea în condiții de siguranță va necesita noi instrumente”, a subliniat Altman.
OpenAI implementează deja evaluări explicite ale siguranței înainte de sesiunile de antrenare despre care compania estimează că vor spori semnificativ capacitățile modelelor. Aceste măsuri se adaugă celor de siguranță aplicate înainte de lansarea finală a modelelor. „Sperăm că alte companii vor învăța din abordările noastre și își vor propune propriile soluții”, a adăugat Altman.
Progresul rapid necesită o gestionare atentă
Altman a explicat că politicile de siguranță anterioare ale companiilor AI au fost concepute într-o perioadă în care principala preocupare era lansarea unui model finalizat. Situația s-a modificat odată cu creșterea capabilităților și a autonomiei modelelor. „Progresul a fost rapid și va continua. Dar ar trebui să fie mai lent decât ar putea fi în alte condiții”, a afirmat el.
El avertizează că presiunea de a menține avantajul competitiv nu poate justifica asumarea unor riscuri excesive. „Nicio presiune competitivă nu ar trebui să justifice imprudența sau să permită ca dezvoltarea capacităților să o ia înaintea alinierii și monitorizării”, a transmis Altman. Anunțul vine după ce OpenAI a implementat deja măsuri concrete de încetinire a anumitor procese interne, inclusiv suspendarea temporară a unor sesiuni și extinderea controalelor de securitate, ca urmare a incidentelor care au ridicat întrebări privind capacitățile tot mai mari ale modelelor sale.
Sursa: Mediafax
