Conform Go4IT: Bărbat din SEATTLE, internat în spital cu simptome neurologice severe, inclusiv paranoia și halucinații, după ce a urmat sfaturile unei platforme de inteligență artificială. Acestea l-au condus la o intoxicație gravă cu bromură, potrivit informațiilor publicate de Live Science.
Recomandări periculoase ale chatbot-ului
Pacientul, în vârstă de 60 de ani, s-a prezentat inițial la urgențe cu temerea că ar fi fost otrăvit de un vecin. Deși examinările neurologice inițiale nu au relevat probleme acute, analizele de sânge au indicat niveluri ridicate de clorură, ceea ce a sugerat o hipercloremie. Investigațiile suplimentare au dezvăluit însă o pseudohipercloremie, o afecțiune în care testele de laborator identifică eronat un alt ion ca fiind clorură. Ulterior, consultările toxicologice au confirmat prezența unor niveluri de bromură în sânge de aproximativ 230 de ori peste normă. Bromura, având proprietăți chimice similare cu clorura, poate interfera cu activitatea cerebrală.
După stabilizarea stării sale, în urma a trei săptămâni de spitalizare, pacientul a mărturisit că a consultat platforma ChatGPT pentru a găsi o alternativă la sarea de masă. Chatbot-ul i-ar fi recomandat bromura de sodiu, pe care bărbatul a utilizat-o timp de trei luni. Medicii curanți au testat ulterior chatbot-ul, adresând întrebări despre eliminarea ionilor de clorură din dietă, iar acesta a continuat să sugereze sarea de bromură, fără a oferi avertismente referitoare la riscurile pentru sănătate.
Pericolele sfaturilor medicale nevalidate de IA
Cazul subliniază pericolele bazării pe chatbot-urile cu inteligență artificială pentru sfaturi medicale. Medicii autorii raportului sugerează că posibilitatea bromismului ar trebui luată în considerare mai serios în evaluările psihologice. Deși medicamentele pe bază de bromură au ieșit din uzul curent la începutul secolului al XX-lea, din cauza contribuției la internările psihiatrice, suplimentele cu bromură rămân ușor accesibile online, ridicând îngrijorări în rândul profesioniștilor din domeniul sănătății.
Termenii și condițiile de utilizare ale OpenAI avertizează explicit împotriva utilizării platformelor sale pentru decizii medicale. Conform acestora, utilizatorii trebuie să verifice informațiile furnizate și să își exercite judecata profesională independentă, fără a se baza exclusiv pe recomandările obținute. Situația ridică semne de întrebare cu privire la responsabilitatea platformelor de inteligență artificială și la necesitatea unei reglementări mai stricte în domeniul sfaturilor medicale online.
Sursa: Go4IT
