Inteligența artificială, un pericol pentru pacienții cu cancer? Un studiu recent semnalează erori serioase în informațiile furnizate de asistenții virtuali. Aproape jumătate dintre răspunsurile acestora despre tratamentul cancerului conțin inexactități sau sunt incomplete, potrivit cercetărilor publicate în revista BMJ Open. Descoperirea ridică semne de întrebare serioase cu privire la utilizarea acestor tehnologii în domeniul medical.
Informații eronate, potențial periculoase
Studiul, realizat de cercetători de la Lundquist Institute for Biomedical Innovation din cadrul Harbor-UCLA Medical Center, a analizat unele dintre cele mai răspândite platforme de inteligență artificială. Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek au fost testate cu întrebări specifice bolii. Rezultatele au arătat că o proporție semnificativă a răspunsurilor generează îngrijorare.
Aproximativ 30% dintre răspunsuri au fost considerate „parțial problematice”, fiind în mare parte corecte, dar incomplete. Mai grav, aproape 20% au fost catalogate drept „foarte problematice”, prezentând erori semnificative și lăsând loc interpretărilor subiective. Cercetătorii au remarcat o tendință îngrijorătoare a acestor sisteme de a promova terapii alternative nevalidate, în detrimentul tratamentelor medicale standard. Există riscul ca pacienții să fie îndrumați către opțiuni terapeutice ineficiente.
Cum pot încurca chatboturile
Cercetătorii au conceput întrebări care să testeze limitele sistemelor. Au abordat teme controversate, precum legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancerul. De asemenea, au investigat siguranța steroizilor anabolizanți sau riscurile vaccinurilor. Sisteme de inteligență artificială au oferit inițial răspunsuri corecte, avertizând despre lipsa dovezilor științifice pentru anumite tratamente alternative.
Cu toate acestea, în pașii următori, platformele au enumerat aceste terapii alternative, cum ar fi acupunctura, medicina pe bază de plante și diete speciale. Unele au furnizat chiar referințe către clinici care promovează astfel de tratamente. Această abordare poate induce în eroare pacienții, îndepărtându-i de tratamentele medicale aprobate. Cercetătorii atrag atenția asupra unui „echilibru fals”, adică acordarea unei importanțe egale surselor științifice validate și surselor nevalidate.
Utilizarea IA în medicină, un drum cu obstacole
Utilizarea inteligenței artificiale pentru informații medicale este într-o creștere rapidă. Un sondaj Gallup arată că aproximativ un sfert dintre adulții din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate. Mulți caută răspunsuri rapide sau se confruntă cu dificultăți în accesarea serviciilor medicale. Cu toate acestea, nivelul de încredere în aceste instrumente rămâne limitat.
Doar o treime dintre utilizatori declară că au încredere în răspunsurile primite. Informațiile eronate despre terapii alternative și suplimente sunt deja răspândite online. Unele dintre aceste produse pot avea efecte adverse grave, iar utilizarea lor poate întârzia accesul la tratamentele standard. În plus, au fost semnalate cazuri în care răspunsurile incorecte ale chatbotilor IA au generat îngrijorare inutilă în rândul pacienților.
