Conform Mediafax: Marii jucători din domeniul inteligenței artificiale, printre care se numără OpenAI, Google, Meta și SpaceX, se confruntă cu o acțiune în instanță la Tribunalul Superior din San Francisco. Procesul, intentat de patru organizații nonprofit – Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI – vizează oprirea dezvoltării unor modele AI tot mai puternice, invocându-se riscul unor consecințe ireversibile.
Organizațiile avertizează asupra riscurilor necontrolate
Reclamanții susțin că chiar și sistemele AI existente au demonstrat comportamente neprevăzute de către dezvoltatori. În documentele depuse în instanță sunt menționate incidente în care agenți AI ar fi accesat neautorizat sisteme informatice private și baze de date guvernamentale, sau ar fi executat acțiuni dăunătoare fără intervenție umană directă. Aceste organizații consideră că modelele avansate ar putea amplifica aceste riscuri, inclusiv prin facilitarea creării de arme biologice și desfășurarea unor atacuri cibernetice la scară largă.
Robert Weissman, copreședintele Public Citizen, a acuzat liderii companiilor AI că ignoră avertismentele privind siguranța publică. „Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat Weissman. Afirmațiile prezentate în instanță reprezintă argumentele reclamanților și nu au fost stabilite ca fapte de către judecători.
Solicitarea instanței: oprirea dezvoltării sistemelor periculoase
Organizațiile solicită instanței să intervină și să interzică continuarea dezvoltării celor mai periculoase sisteme AI, până când acestea vor putea fi controlate în condiții de siguranță. Procesul vizează, printre altele, modelele de ultimă generație dezvoltate de companiile din spatele unor produse precum ChatGPT, Gemini și Claude.
Matthew Platkin, fost procuror general al statului New Jersey și avocat implicat în depunerea acțiunii, a afirmat că firmele nu ar trebui să poată dezvolta și lansa produse despre care știu că ar putea provoca daune catastrofale. El a adăugat: „Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”. Printre sursele citate de reclamanți se numără și avertismente anterioare ale unor personalități din industrie, precum Dario Amodei, directorul Anthropic, și Elon Musk.
Reacțiile companiilor AI și implicațiile legale
Până la momentul publicării, Meta a refuzat să comenteze procesul, iar celelalte companii vizate nu au răspuns imediat solicitărilor de reacție din partea presei. Acțiunea în instanță survine într-o perioadă marcată de o competiție intensă între dezvoltatorii de inteligență artificială, care lucrează la lansarea unor sisteme capabile să îndeplinească sarcini tot mai complexe, inclusiv fără supraveghere permanentă.
Procesul ridică, de asemenea, o importantă chestiune juridică: dacă legislația existentă privind protecția consumatorilor poate fi utilizată pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se materializeze. Instanța nu a pronunțat încă o decizie în ceea ce privește solicitarea de suspendare a dezvoltării sistemelor AI.
Sursa: Mediafax
