Conform HotNews: Studiu șocant: Chatboturile AI ne pot face mai proști, ne scade capacitatea de a recunoaște că nu știm
O abilitate cognitivă crucială, aceea de a admite că nu știm, ar putea fi slăbită de simplul acces la inteligența artificială, sugerează o cercetare recentă. Un nou studiu, realizat de cercetători de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza, indică faptul că prezența chatboturilor AI poate afecta capacitatea noastră de a ne evalua propriile cunoștințe și de a recunoaște limitele informaționale.
Ce se întâmplă când AI-ul „halucinează”?
În cadrul a cinci experimente care au implicat peste 3.000 de participanți, cercetătorii au analizat modul în care inteligența artificială influențează deciziile oamenilor cu privire la capacitatea lor de a răspunde la întrebări. Participanții au fost puși în fața unor întrebări dificile, având întotdeauna opțiunea de a răspunde „nu știu”. O parte dintre ei au avut, însă, acces la răspunsurile generate de un chatbot AI. Pentru a izola efectul psihologic al inteligenței artificiale, întrebările au vizat detalii vizuale specifice din filme, informații pe care modelele lingvistice tind să le genereze incorect, adesea denumite „halucinații”.
Greșim, dar cu o încredere sporită
Cercetătorii au utilizat intenționat un model AI care greșea frecvent, tocmai pentru a elimina posibilitatea ca participanții să-și justifice încrederea acordată prin faptul că apelează la o sursă, în general, mai competentă. Rezultatele au fost uimitoare: în absența inteligenței artificiale, 44% dintre participanți au ales să spună „nu știu”. Atunci când au avut acces la chatbot, procentul celor care au recunoscut necunoașterea a scăzut dramatic la doar 3%. În paralel, acuratețea răspunsurilor a scăzut semnificativ, în timp ce încrederea participanților în propriile răspunsuri aproape s-a dublat. Oamenii au răspuns mai des, au greșit mai mult, dar au fost mult mai convinși de corectitudinea propriilor afirmații.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Impactul asupra metacogniției
Majoritatea cercetărilor anterioare privind efectele chatboturilor AI s-au concentrat pe externalizarea efortului cognitiv sau pe potențiala pierdere a competențelor pe termen lung. Noul studiu subliniază, însă, impactul inteligenței artificiale asupra metacogniției – capacitatea de a ne evalua propriile cunoștințe și de a distinge între a ști, a crede că știm și a nu ști. Fără o metacogniție solidă, indivizii devin mai vulnerabili la erori și la concluzii trasate cu o încredere nejustificată. Riscul este de a începe să „halucinăm” răspunsuri, la fel cum fac adesea chatboturile AI, adică să oferim informații greșite cu aceeași convingere ca și ChatGPT.
Autorii studiului atribuie acest fenomen faptului că răspunsurile AI-ului sunt formulate fluent și coerent, creând o aparență de siguranță care este confundată cu informația corectă. În loc să verifice veridicitatea informațiilor, oamenii ajung să le accepte pentru că par plauzibile și sunt bine articulate. Spre deosebire de un om, un model lingvistic este proiectat să genereze un răspuns la aproape orice întrebare, chiar și atunci când dispune de informații limitate, neavând capacitatea de a-și evalua sincer propriile limite.
Sursa: HotNews
