Google a eliminat unele dintre rezumatele sale generate de inteligență artificială (AI) privind sănătatea, după ce o anchetă a descoperit că oamenii erau expuși riscului de a fi afectați de informații false și înșelătoare. Compania a declarat că rezumatele sale AI, care utilizează inteligența artificială generativă pentru a oferi instantanee cu informații esențiale despre un subiect sau o întrebare, sunt “utile” și “fiabile”.

## Informații inexacte despre sănătate
Însă, unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, ofereau informații inexacte despre sănătate, expunând utilizatorii la riscuri. Într-un caz descris de experți ca “periculos” și “alarmant”, Google a furnizat informații false despre teste cruciale ale funcției hepatice, care puteau determina persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase. Introducerea termenului “care este intervalul normal pentru testele de sânge ale ficatului” genera o mulțime de cifre, fără prea mult context și fără a ține cont de naționalitatea, sexul, etnia sau vârsta pacienților.

## Reacția experților
Experții au afirmat că ceea ce AI Overviews de la Google considera normal putea diferi drastic de ceea ce era considerat normal în realitate. Rezumatele puteau determina pacienții grav bolnavi să creadă în mod eronat că au un rezultat normal al testelor și să nu se mai prezinte la consultările medicale de control. Vanessa Hebditch, directoarea de comunicare și politici la British Liver Trust, o organizață caritabilă pentru sănătatea ficatului, a declarat: “Este o veste excelentă și suntem încântați să vedem eliminarea AI Overviews de la Google în aceste cazuri.” Însă, ea a adăugat că “dacă întrebarea este formulată într-un mod diferit, este posibil să se afișeze în continuare o prezentare generală AI potențial înșelătoare și rămânem îngrijorați că alte informații medicale generate de AI pot fi inexacte și confuze.”

## Implicații și perspective
Google a declarat că analizează noile exemple furnizate și că echipa sa internă de medici a analizat informațiile și a constatat că, în multe cazuri, informațiile nu erau inexacte și erau susținute de site-uri web de înaltă calitate. Însă, Victor Tangermann, redactor-șef al site-ului web de tehnologie Futurism, a declarat că rezultatele anchetei au arătat că Google are de lucru “pentru a se asigura că instrumentul său de AI nu difuzează informații eronate și periculoase despre sănătate”. Google a declarat că AI Overviews apare doar în cazul căutărilor pentru care are încredere ridicată în calitatea răspunsurilor. Compania măsoară și evaluează constant calitatea rezumatelor sale pentru multe categorii diferite de informații. În acest context, este esențial ca Google să îndrume oamenii către informații solide și documentate despre sănătate și către oferte de îngrijire medicală de la organizații de sănătate de încredere.