Conform Playtech.ro: Inteligența artificială, o sabie cu două tăișuri în cercetarea științifică
Problemele generate de inteligența artificială (AI) în procesarea datelor științifice pot fi subtile, dar cu implicații majore, putând chiar să ducă la pierderea unor descoperiri reale sau la validarea unor concluzii greșite. Nu este vorba neapărat de crearea unor studii complet false, ci de modificări imperceptibile pentru cercetătorii neavizați.
AI-ul poate interveni asupra semnalelor reale din date prin amplificare, reducere sau alterarea caracteristicilor, rezultatul final părând plauzibil. Diferențierea acestor erori de date autentice devine extrem de dificilă, dacă nu se cunoaște în detaliu modul în care algoritmul a prelucrat informațiile.
AlphaFold 3 și problema „halucinațiilor”
Un exemplu concret vine din domeniul biologiei moleculare, prin intermediul modelului AlphaFold 3, conceput pentru a prezice structurile și interacțiunile moleculare. O lucrare publicată în revista Nature în 2024 a semnalat că sistemul poate genera structuri „halucinate” în anumite regiuni proteice, acolo unde definirea unei structuri clare este deja dificilă.
Deși nivelurile scăzute de încredere oferite de AlphaFold 3 pot servi drept semnal de avertizare, nu toate erorile AI sunt la fel de ușor de detectat. Un model ar putea introduce o distorsiune suficientă în setul de date, încât un efect biologic real să devină mai greu de observat.
Aceasta ar putea duce la respingerea unui tratament potențial eficient, deoarece datele procesate nu ar mai reflecta fidel semnalul biologic inițial. Astfel, AI-ul ar contribui la „pierderea” unei descoperiri, în loc să genereze una falsă.
Există chiar și scenariul neașteptat în care o eroare, o „halucinație” AI, ar putea ghida accidental cercetătorii către o descoperire reală. Știința are o istorie bogată în rezultate neprevăzute, apărute adesea în urma unor accidente de laborator sau observații întâmplătoare. Dacă o ipoteză generată de AI este ulterior validată prin metode independente, originea sa nu invalidează rezultatul.
Diferența crucială rezidă în modul în care cercetătorii tratează ieșirea AI. Dacă rezultatul este privit ca o ipoteză ce necesită verificare, o eroare rămâne o simplă greșeală. Dacă, însă, este considerat o observație concretă și integrat în lanțul de dovezi fără o validare atentă, aceeași eroare poate influența concluziile unui întreg proiect de cercetare, denaturând progresul științific.n
Sursa: Playtech.ro
