Conform Mediafax: Riscuri noi pentru umanitate din cauza inteligenței artificiale avansate
Cea mai recentă analiză de securitate cibernetică semnalează noi amenințări din partea inteligenței artificiale (IA), indicând o gamă largă de utilizări abuzive, de la operațiuni de spionaj cibernetic la potențiala dezvoltare de arme biologice. Aceste avertismente, venite din partea unor firme de cercetare în domeniu, alimentează dezbaterea globală despre necesitatea reglementării și a pauzelor în dezvoltarea unor tehnologii IA tot mai avansate.
Avertismente și apeluri la prudență
Un raport recent de informații despre amenințări, publicat de firma Anthropic, subliniază că modelele sale de inteligență artificială au fost utilizate în scopuri periculoase. Printre acestea se numără tentative de a obține ghiduri tehnice pentru sintetizarea agenților biologici transformați în arme. De asemenea, modelul Claude de la Anthropic a fost implicat într-o campanie de spionaj cibernetic legată de Rusia și o instituție de propagandă iraniană, conform informațiilor transmise de BBC. Aceste cazuri se adaugă unei liste tot mai lungi de utilizări îngrijorătoare, raportate în ultimele opt luni, care variază de la aplicații false de dating și escrocherii cu Wi-Fi în hoteluri, la sisteme de supraveghere concepute pentru a identifica disidenții.
Anthropic acuză firmele chineze de inteligență artificială că ar încerca să reproducă capacitățile modelului său. Confruntați cu aceste riscuri, cercetătorii în domeniul IA și experții din industrie trag un semnal de alarmă tot mai puternic cu privire la potențialele pericole ale tehnologiei pentru umanitate. Senatorul american Bernie Sanders a cerut chiar o pauză în dezvoltarea inteligenței artificiale avansate și interzicerea superinteligenței artificiale, o poziție care subliniază urgența subiectului.
Divergențe în abordarea riscurilor IA
Pe de altă parte, președintele american DONALD Trump respinge aceste temeri, declarând că este îngrijorat ca Statele Unite să nu piardă cursa în domeniul inteligenței artificiale. El consideră că, dacă nu vor fi lideri în acest sector, țara ar putea ajunge într-o poziție dezavantajoasă. Aceste declarații vin în contrast cu avertismentele tot mai insistente venite din partea cercetătorilor și a unora dintre companiile care dezvoltă tehnologii IA.
Google a raportat, de asemenea, un incident în care un utilizator a încercat să folosească instrumentul său de inteligență artificială Gemini pentru a obține instrucțiuni detaliate în vederea sintetizării de agenți biologici ce pot fi transformați în arme. Compania a blocat aceste solicitări, subliniind importanța măsurilor de siguranță implementate.
Potențialul dezvoltării armelor biologice și operațiunile cibernetice
Anthropic a detaliat în raportul său „cinci studii de caz” referitoare la actori care au utilizat modelele lor într-un mod ce ar putea sprijini dezvoltarea de arme biologice. Compania consideră utilizarea biologică abuzivă drept „unul dintre cele mai grave riscuri ale modelelor de inteligență artificială de frontieră”. Fără măsurile de siguranță adecvate, astfel de capacități ar putea avea „consecințe catastrofale”, avertizează reprezentanții Anthropic. Pe lângă utilizările legate de arme, raportul subliniază și implicarea IA în operațiuni cibernetice, campanii de influență, supraveghere, escrocherii și fraude, evidențiind complexitatea și extinderea amenințărilor.
Sursa: Mediafax
