Inteligența artificială (AI) a devenit rapid o sursă de sfaturi medicale pentru mulți oameni, dar experiența utilizatorilor arată că răspunsurile pot fi greșite, generând panică inutilă sau conducând la decizii riscante. Un caz recent din Manchester, Marea Britanie, ilustrează pericolele utilizării AI în domeniul sănătății.
Abi, o tânără din Manchester, folosește de un an ChatGPT, un chatbot popular cu inteligență artificială, pentru a-și gestiona starea de sănătate. Inițial, AI a părut utilă, oferind sfaturi rapide și ajutând-o să acceseze îngrijirea medicală de care avea nevoie. Însă, într-o situație mai delicată, după o cădere, chatbot-ul a dat un diagnostic greșit, care ar fi putut avea consecințe grave.
Riscuri în creștere: diagnostice eronate și sfaturi periculoase
Utilizarea chatbot-ilor pentru sfaturi medicale este în creștere. Profesorul Doctor Chris Whitty, medicul-șef al Angliei, a exprimat îngrijorarea cu privire la faptul că aceste instrumente nu oferă întotdeauna informații corecte și pot fi, uneori, chiar periculoase. Studiile arată că, deși AI poate oferi răspunsuri corecte în anumite scenarii, precizia scade semnificativ atunci când oamenii interacționează mai direct cu sistemul.
Un studiu al Universității din Oxford a relevat că, în timp ce chatbot-urile au obținut o precizie de 95% în scenarii medicale detaliate, performanța a scăzut la doar 35% când utilizatorii au interacționat direct cu acestea pentru a obține un diagnostic. Aceasta se datorează faptului că utilizatorii pot omite detalii importante sau pot comunica simptomele într-un mod ambiguu.
Dezinformare și limite tehnologice
Pe lângă riscul de diagnostic eronat, chatbot-urile pot răspândi dezinformare. Un studiu al Institutului Lundquist pentru Inovație Biomedicală din California a arătat că aceste sisteme pot oferi răspunsuri greșite sau incomplete la întrebări despre cancer, vaccinuri sau nutriție.
Profesorul Doctor Nicholas Tiller subliniază că tehnologia se bazează pe capacitatea de a prezice textul pe baza modelelor lingvistice, ceea ce nu o face potrivită pentru sfaturi medicale. El avertizează că, încrederea în AI pentru sfaturi de sănătate ar trebui abordată cu precauție, având în vedere potențialul de răspunsuri inexacte sau înșelătoare.
OpenAI, compania care a dezvoltat ChatGPT, a declarat că este conștientă de utilizarea sistemului său pentru informații medicale și că lucrează pentru a îmbunătăți acuratețea și siguranța răspunsurilor. Compania subliniază că ChatGPT este destinat utilizării informative și educative și nu ar trebui să înlocuiască sfatul medical profesional. Abi, utilizatoarea din Manchester, recomandă prudență și menționează că se așteaptă ca sistemul să facă greșeli.
