Inteligența artificială, deși avansează rapid, se dovedește a fi încă imprecisă în domeniul medical. Un studiu recent arată că chatbot-urile populare, precum ChatGPT și Gemini, pot oferi diagnostice greșite în peste 80% din cazurile în care nu au acces la toate informațiile pacientului. Această descoperire ridică semne de întrebare cu privire la utilizarea acestor instrumente în scopuri medicale.
Riscurile utilizării chatbot-urilor în medicină
Studiul, efectuat de Mass General Brigham din Massachusetts, a testat 21 de modele lingvistice de inteligență artificială. Acestea au fost evaluate pe baza a 29 de cazuri clinice, simulând situații reale din practica medicală. Chatbot-urilor li s-au oferit informații medicale, inclusiv date despre consultații și rezultate de laborator. Rezultatele au arătat că, în lipsa datelor complete, rata de eroare depășește 80%.
Chiar și atunci când au acces la toate datele, aceste sisteme nu dau rezultate perfecte. Rata de eroare rămâne peste 40%. Experții avertizează că performanța chatbot-urilor depinde de volumul informațiilor disponibile. Mai mult, aceste sisteme pot „halucina”, adică pot inventa informații atunci când nu pot oferi un răspuns clar. Acesta este un aspect critic, care poate pune în pericol pacienții.
Limitările modelelor lingvistice actuale
O problemă semnificativă este capacitatea modelelor lingvistice de a oferi răspunsuri „crezute” chiar și atunci când nu au suficiente date pentru a justifica o concluzie. Acesta este un aspect esențial care trebuie luat în considerare în contextul medical, unde precizia și acuratețea sunt vitale. Din cauza acestor limitări, specialiștii avertizează cu prudență asupra utilizării acestor instrumente de inteligență artificială în diagnosticarea medicală.
Controverse pe piața de inteligență artificială
Rezultatele studiului vin în contextul unei dezbateri mai largi despre utilizarea inteligenței artificiale în medicină. Pe măsură ce aceste tehnologii evoluează, crește și îngrijorarea cu privire la impactul lor asupra relației medic-pacient și potențialul de erori. Companiile din domeniul tehnologiei, inclusiv OpenAI și Google, continuă să dezvolte și să perfecționeze aceste instrumente.
Prin urmare, este important să ne amintim că, deși inteligența artificială poate oferi asistență, nu poate înlocui experiența și judecata medicilor. Cercetătorii subliniază necesitatea unor studii suplimentare pentru a evalua pe deplin riscurile și beneficiile acestei tehnologii înainte de a o integra pe scară largă în practica medicală.
În concluzie, datele studiului evidențiază necesitatea unei abordări prudente în ceea ce privește utilizarea chatbot-urilor în medicină.
