Aproape jumătate dintre răspunsurile oferite de asistenții virtuali, bazați pe inteligență artificială, în legătură cu tratamentul cancerului conțin erori sau informații incomplete. Un studiu recent, publicat într-o revistă științifică de prestigiu, arată că aceste sisteme pot induce în eroare pacienții, orientându-i către terapii alternative nevalidate, în detrimentul tratamentelor medicale standard.
Erori și informații incomplete
Cercetătorii de la Lundquist Institute for Biomedical Innovation, din cadrul Harbor-UCLA Medical Center, au testat mai multe platforme de inteligență artificială utilizate la nivel global: Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Studiul a arătat că aproximativ 30% dintre răspunsurile generate de aceste sisteme au fost considerate „parțial problematice” – în mare parte corecte, dar incomplete. Mai grav, aproape 20% dintre răspunsuri au fost catalogate drept „foarte problematice”, conținând erori semnificative.
În cadrul studiului, au fost formulate întrebări care aveau scopul de a conduce sistemele către informații eronate, abordând teme controversate precum legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancer. Întrebările includeau, de asemenea, aspecte legate de siguranța steroizilor anabolizanți sau riscurile vaccinurilor. Răspunsurile incorecte ale chatbot-urilor pot genera îngrijorare inutilă în rândul pacienților, inclusiv prin estimări eronate privind prognosticul bolii.
Capcanele algoritmilor: „echilibrul fals”
O tendință îngrijorătoare a acestor platforme este prezentarea unui „echilibru fals”, acordând o importanță egală surselor științifice validate și surselor nevalidate, cum ar fi bloguri, forumuri sau postări din social media. Această abordare, aparent neutră, poate induce în eroare pacienții și îi poate îndepărta de tratamentele aprobate medical. De exemplu, întrebați despre terapii alternative prezentate ca fiind mai eficiente decât chimioterapia, chatbot-urile au oferit inițial răspunsuri corecte, avertizând despre lipsa dovezilor științifice.
Ulterior însă, au enumerat aceste terapii – acupunctură, medicină pe bază de plante, diete prezentate ca având efecte anticancer – și, în unele cazuri, au furnizat chiar referințe către clinici care promovează astfel de tratamente și resping chimioterapia. Specialiștii avertizează, de asemenea, că informațiile eronate despre terapii alternative și suplimente sunt deja răspândite în mediul online, iar unele dintre aceste produse pot avea efecte adverse grave. Utilizarea lor poate întârzia accesul la tratamentele standard, cu potențiale consecințe fatale.
Utilizarea IA în domeniul medical: o creștere rapidă
Un sondaj Gallup arată că aproximativ un sfert din adulții din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate. Cu toate acestea, nivelul de încredere rămâne limitat, doar o treime dintre utilizatori declarând că au încredere în răspunsurile primite. Lundquist Institute for Biomedical Innovation este un centru independent de cercetare medicală din Los Angeles, specializat în studii clinice și translaționale. Institutul colaborează cu Universitatea California și este recunoscut pentru cercetări în oncologie, boli infecțioase și sănătate publică.
