ChatGPT Health subestimează frecvent problemele medicale, avertizează un studiu
Un studiu recent, publicat în revista Nature Medicine, trage un semnal de alarmă cu privire la acuratețea ChatGPT Health, versiunea specializată în domeniul medical a chatbot-ului dezvoltat de OpenAI. Cercetarea arată că platforma subestimează în mod frecvent gravitatea problemelor de sănătate, putând conduce la recomandări inadecvate.
Studiul a evaluat capacitatea ChatGPT Health de a tria cazurile medicale, în funcție de gravitate, prin simularea unor scenarii inspirate din viața reală. Soluțiile oferite de inteligența artificială au fost comparate cu cele ale medicilor, care se bazează pe experiența clinică și pe reguli medicale stabilite. Testele au fost realizate pe 60 de scenarii, cu câte 16 variații pentru fiecare.
Probleme în evaluarea corectă a urgențelor
Rezultatele cercetării indică faptul că ChatGPT Health a subestimat gravitatea problemelor medicale în peste jumătate din cazuri, respectiv în 51,6% din scenarii. În aceste situații, chatbot-ul a recomandat consult medical în termen de 48 de ore, în loc să indice o vizită imediată la camera de urgență.
Pe de altă parte, inteligența artificială a performat corect în totalitate în scenariile care prezentau urgențe cu simptome clare, precum accidentele vasculare cerebrale. Totuși, ChatGPT Health a prezentat și o tendință de a supraestima gravitatea afecțiunilor, sugerând vizite medicale inutile în 64,8% din cazuri. Cercetătorii au remarcat și o inconsecvență în răspunsurile platformei, inclusiv în situații care implicau riscul de autovătămare sau suicid.
O platformă tot mai populară, dar cu limitări
Lansat de OpenAI, ChatGPT Health este o platformă dedicată informațiilor medicale, concepută pentru a oferi utilizatorilor posibilitatea de a adresa întrebări legate de sănătate, de a înțelege mai bine datele medicale personale și de a integra aplicații de monitorizare a stilului de viață. Platforma este integrată în ChatGPT și oferă o secțiune separată, strict dedicată subiectelor medicale și stilului de viață.
Compania estimează că peste 230 de milioane de persoane din întreaga lume folosesc deja ChatGPT în fiecare săptămână pentru întrebări legate de sănătate și wellness, motiv pentru care a dezvoltat această platformă specializată.
