Inteligența Artificială (AI) generativă, deși promite o revoluție tehnologică, se confruntă cu o problemă majoră: acuratețea. Funcțiile precum rezumatele generate de AI în motorul de căutare Google, deși par promițătoare la prima vedere, prezintă un risc considerabil de eroare. Un studiu recent atrage atenția asupra faptului că, deși răspunsurile corecte domină, rata de eroare nu poate fi ignorată, mai ales având în vedere volumul impresionant de căutări procesate zilnic.
Erori Semnificative în Răspunsurile AI
Studiul menționat de The New York Times relevă că funcția „AI Overview” a Google oferă răspunsuri corecte și bazate pe surse credibile în nouă din zece cazuri. Cu toate acestea, în contextul milioanelor de căutări efectuate zilnic, chiar și o rată de eroare de 10% se traduce în zeci de mii, sau chiar sute de mii de răspunsuri potențial eronate. Este crucial să se recunoască faptul că aceste erori pot afecta încrederea utilizatorilor și pot duce la răspândirea de informații false. Mai mult, sistemul este imprevizibil, un răspuns greșit putând deveni corect la o căutare ulterioară.
Surse problematică și vulnerabilități
O parte din problemele de acuratețe ale AI provin din sursele de informații utilizate. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, uneori chiar în răspunsuri greșite. Există și riscul manipulării intenționate, unde indivizi cu intenții negative pot crea conținut fals pentru a influența răspunsurile AI. Reprezentanții Google au declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare principal. Acesta detectează majoritatea erorilor, însă nu toate.
Ce ne rezervă viitorul?
Chiar și cu aceste imperfecțiuni, este important să ne amintim de avertismentul sistemului: „AI-ul poate greși, așa că verifică informațiile!”. Dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive.
