Cercetătorii trag un semnal de alarmă cu privire la utilizarea personajelor virtuale extrem de realiste, create de inteligența artificială (IA). Aceștia avertizează că aceste entități ar putea juca un rol major în formarea opiniei publice și ar putea influența sistemele democratice într-un viitor apropiat. Studiile recente arată cum aceste personaje pot imita comportamentul uman online în mod convingător, având potențialul de a manipula discuțiile și de a genera un „consens” artificial.
Cum funcționează aceste personaje virtuale
Un document recent publicat în revista Science detaliază modul în care aceste sisteme funcționează. Grupuri mari de personaje generate de IA pot imita comportamentul uman online, intrând în comunități digitale, participând la discuții și influențând punctele de vedere. Aceste sisteme pot răspunde la feedback și pot menține narațiuni consistente pe mii de conturi.
Progresele în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au făcut posibil ca un singur operator să controleze rețele vaste de „voci” ale IA. Aceste personaje pot părea autentice, adaptându-se la limba și tonul local și interacționând într-un mod natural cu ceilalți utilizatori. Mai mult, ele pot desfășura milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare, rafinând astfel strategiile de comunicare în timp real.
Riscurile generate de deepfake-uri și știri false
Chiar dacă „roiurile” de IA complet dezvoltate sunt încă în stadiul teoretic, semne de avertizare sunt deja vizibile. Deepfake-urile generate de IA și sursele de știri false au influențat deja discuțiile electorale în țări precum Statele Unite, Taiwan, Indonezia și India. De asemenea, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Dr. Kevin Leyton-Brown, informatician, atrage atenția asupra acestui aspect. Se crede că această activitate are drept scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme se comportă și ce informații prioritizează. Astfel, este esențial să se monitorizeze și să se înțeleagă modul în care aceste tehnologii evoluează și impactul lor potențial asupra societății.
Impactul asupra democrației
Experții avertizează cu privire la impactul crescând al acestor instrumente asupra democrației. Specialiștii consideră că „roiurile” de IA ar putea altera echilibrul de putere în societățile democratice. Dr. Leyton-Brown a avertizat că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
Analizele sugerează că, odată cu dezvoltarea continuă a IA, încrederea în sursele online ar putea fi subminată, afectând modul în care cetățenii percep realitatea și participă la viața democratică. Evoluția rapidă a acestor tehnologii impune o reglementare atentă și o educație continuă pentru a contracara potențialele efecte negative.
