Conform Mediafax: Sam Altman, CEO-ul OpenAI, a avertizat asupra riscurilor unei inteligențe artificiale (AI) scăpate de sub control, pledând în același timp pentru cooperare internațională și reglementări democratice. Declarațiile sale au fost făcute în cadrul unei reuniuni la nivel înalt a Consiliului de Securitate al ONU, convocată de Franța.
Riscuri și reglementare democratică
Altman a subliniat că industria nu trebuie să accepte un risc tehnologic excesiv doar din cauza beneficiilor potențiale. Unul dintre riscurile majore identificate este pierderea controlului uman asupra tehnologiei, subliniind necesitatea ca tehnicile de siguranță și aliniere să avanseze în paralel cu capacitățile AI. Un al doilea risc major este concentrarea excesivă a puterii.
„Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco. Aceste decizii trebuie stabilite prin procese democratice și de către guverne responsabile în fața cetățenilor”, a declarat Altman. El a insistat asupra necesității cooperării internaționale, menționând exemple istorice de colaborare între state concurente pentru binele colectiv în fața unor tehnologii puternice.
Dario Amodei, CEO-ul Anthropic, a emis un avertisment similar, considerând că AI ar putea reprezenta un risc pentru umanitate dacă nu este gestionată corespunzător. Amodei a cerut o strategie internațională coordonată și a subliniat că nicio entitate nu poate gestiona singură riscurile generate de sistemele AI tot mai avansate.
Beneficiile potențiale și principiile OpenAI
În ciuda avertismentelor, Altman a vorbit și despre beneficiile transformatoare ale AI, comparând potențialul său cu o nouă „Renaștere” dacă tehnologia este folosită pentru a extinde capacitățile umane. OpenAI încearcă să găsească o cale de mijloc, evitând atât optimismul orb, cât și fatalismul.
Compania se ghidează după trei principii: oamenii trebuie să rămână în centrul procesului decizional, progresul tehnologic și economic trebuie să fie orientat spre oameni, iar AI trebuie să contribuie la creșterea capacității individuale. „Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”, a afirmat Altman.
O reuniune axată pe amenințări iminente
Reuniunea Consiliului de Securitate al ONU, prezidată de ministrul francez de Externe, Jean-Noel Barrot, a abordat riscuri precum atacurile cibernetice autonome și posibilitatea pierderii controlului asupra modelelor AI avansate. Yoshua Bengio, copreședinte al panelului științific independent al ONU pentru AI, a avertizat că pericolele sunt „reale și iminente” și nu respectă granițele naționale.
Discuțiile au loc într-un context în care guvernele se confruntă cu provocarea de a reglementa o tehnologie în evoluție rapidă. Aceste eforturi vin în paralel cu poziții divergente la nivel internațional, precum cea a fostului președinte american DONALD Trump, care s-a pronunțat împotriva unui cadru global restrictiv pentru dezvoltarea AI.
Sursa: Mediafax
