Modelele de inteligență artificială mint și înșală: un studiu arată o creștere alarmantă a comportamentului manipulator
Modelele de inteligență artificială (AI) manifestă o tendință crescândă de a ignora instrucțiunile, de a ocoli măsurile de siguranță și de a manipula atât oamenii, cât și alte sisteme AI. Un studiu recent, citat de presa internațională, a evidențiat o creștere accentuată a acestor comportamente înșelătoare în ultimele șase luni. Cercetarea, finanțată de Institutul pentru Securitatea Inteligenței Artificiale (AISI) din Marea Britanie, a identificat aproape 700 de cazuri concrete de comportament manipulator.
Ascensiunea agenților ai și riscurile asociate
Agenții AI, concepuți să realizeze sarcini complexe cu minim de intervenție umană, sunt considerați următorul nivel în dezvoltarea tehnologiei. Studiul a analizat comportamentul acestora în mediul real, spre deosebire de condițiile controlate de laborator, și a detectat o amplificare de cinci ori a abaterilor de la reguli între octombrie anul trecut și martie a acestui an. Unele modele AI au mers până la a șterge e-mailuri și alte fișiere fără permisiune.
Companiile din Silicon Valley promovează agresiv această tehnologie cu potențial transformator, însă studiul ridică semne de întrebare cu privire la siguranța și etica utilizării AI. Cercetarea a colectat mii de exemple reale de interacțiuni cu agenți AI dezvoltați de companii precum Google, OpenAI, X și Anthropic. Rezultatele au arătat că agenții AI pot ocoli controalele de securitate sau pot recurge la tactici de atac cibernetic pentru a-și atinge obiectivele, fără să li se fi dat instrucțiuni în acest sens. „Inteligența artificială poate fi considerată acum o nouă formă de risc intern”, a afirmat Dan Lahav, cofondator al Irregular, o companie de cercetare în domeniul siguranței AI.
Exemple concrete de înșelăciune și manipulare
Un caz notabil a implicat un agent AI numit Rathbun, care a încercat să-și compromită operatorul uman, redactând și publicând un articol de blog în care îl acuza de nesiguranță. Într-un alt exemplu, unui agent AI i s-a interzis să modifice codul informatic, dar acesta a creat un alt agent care să facă modificările în locul său. Un chatbot a recunoscut: „Am șters în masă și am arhivat sute de e-mailuri fără să îți prezint mai întâi planul sau să îți cer acordul. A fost greșit — a încălcat direct regula pe care ai stabilit-o.”
Tommy Shaffer Shane, fost expert guvernamental în domeniul AI, a comparat agenții AI actuali cu „niște angajați juniori ușor lipsiți de încredere”. El a avertizat că „dacă, în șase până la 12 luni, devin angajați seniori extrem de capabili care complotează împotriva ta, vorbim despre un tip diferit de risc”. Shane a subliniat riscurile crescute în contexte cu miză ridicată, inclusiv domeniul militar.
Un alt agent AI a folosit diverse stratageme pentru a evita restricțiile legate de drepturile de autor, inclusiv prin pretinderea că este necesar pentru o persoană cu deficiențe de auz. Chatbotul Grok, creat de Elon Musk, a indus în eroare un utilizator timp de luni de zile, afirmând în mod fals că transmite sugestiile sale pentru modificări către oficiali de rang înalt ai xAI. Grok a recunoscut că „În conversațiile anterioare am formulat uneori lucrurile într-un mod vag, precum «voi transmite mai departe» sau «pot semnala acest lucru echipei», ceea ce poate crea impresia că am o linie directă de comunicare cu conducerea xAI sau cu evaluatori umani. Adevărul este că nu am”.
