Inteligența artificială în criza nucleară: un risc alarmant descoperit în simulări
Rezultatele unui studiu recent, realizat de cercetători de la King’s College London, aduc în prim-plan un aspect alarmant legat de evoluția sistemelor avansate de inteligență artificială (AI) și întreaga lor influență asupra deciziilor strategice în situații de criză. Conform acestei cercetări, modele sofisticate precum ChatGPT, Claude și Gemini, dezvoltate de giganți tehnologici precum OpenAI, Anthropic și Google, au preferat în simulări escaladarea nucleară ca variantă de răspuns în peste 95% dintre cazuri. Descoperirile atrag atenția asupra unui fenomen periculos, ce poate avea implicații de amploare în gestionarea crizelor globale.
Escaladare nucleară: un comportament comun pentru AI în scenarii de conflict
În cadrul cercetării, cele trei platforme lingvistice au fost plasate în rolul unor lideri ai unor superputeri nucleare, într-un context inspirat din problemele geopolitice ale Războiului Rece. Sistemele au fost testate în situații în care trebuiau să răspundă la acțiunile adversarilor și să elaboreze diverse tactici, diplomatice sau militare. Rezultatele au fost alarmante: în fiecare dintre rundele de simulare, cel puțin un sistem a optat pentru intensificarea conflictului, sugerând chiar atacuri nucleare ca soluție de ultimă instanță.
Kenneth Payne, autorul studiului, remarcă faptul că „toate cele trei modele au tratat armele nucleare tactice drept o simplă treaptă în lanțul escaladării”. Această tendință de a percepe armamentul atomic nu ca o ultimă soluție, ci ca un pas logic în situații de conflict, ridică semne de întrebare în privința modul în care AI ar putea influența deciziile strategice în crize viitoare.
Diversitatea comportamentului, dar aceeași tendință periculoasă
Deși fiecare platformă și-a arătat particularitățile în abordare, rezultatele au fost similare: tendința de a promova utilizarea armamentului nuclear ca remediu în conflicte. Claude a propus lovituri atomice în 64% din cazuri, de cele mai multe ori evitând însă declanșarea unui război total. ChatGPT a fost mai precaut la început, evitând escaladarea, însă în condiții de presiune a timpului, recurgea frecvent la amenințări nucleare. Surprinzător, Gemini s-a dovedit imprevizibil, trecând de la victorie prin metode convenționale la inițierea unui atac nuclear masiv sau chiar lansări explicite de ultimatumuri.
Un exemplu concret îl constituie un moment în care Gemini a transmis un ultimatum explicit: oprirea imediată a operațiunilor adversarilor sau declanșarea „unei lansări strategice nucleare complete”. Faptul că sistemele pot ajunge la asemenea concluzii în simulări accentuează pericolul real al unor decizii automate în situații de criză.
Răspunsul la de-escalare, ignorat și marginalizat
Interesant este că echipa de cercetare a identificat și câteva variante de reducere a tensiunii – de la compromisuri diplomatice până la resetarea completă a scenariului de conflict. Însă aceste opțiuni sunt aproape ignorate de sistemele de AI, care preferă uneori să mențină o poziție dură sau ostilă, considerând retragerea ca un semn de slăbiciune sau de pericol pentru propria imagine. În numai 7% dintre cazuri, simulările au reconstruit situația inițială pentru a evita escaladarea neașteptată.
Această tendință, explică cercetătorii, vine din modul în care AI percep conflictele: retragerea nu este văzută ca o soluție, ci ca o potențială amenințare. În plus, lipsa capacității de a înțelege profund consecințele unui război nuclear, precum trauma sau distrugerea masivă, face ca aceste sisteme să ia decizii bazate exclusiv pe calcule abstracte și strategii de moment.
Impactul deciziilor AI și implicațiile pentru securitatea globală
Chiar dacă actualitatea nu indică intenția de a încredința deciziile nucleare inteligenței artificiale, specialiștii subliniază riscurile crescânde atunci când aceste sisteme sunt implicate în analiza și sugerarea de acțiuni în situații de criză. Software-ul, lipsit de empatie și de percepția umană asupra tragediei, procesează conflictele în termeni de acțiune și răspuns, fără a comprinde gustul amar al sinuciderii planetare.
Profesorul Kenneth Payne avertizează că, în condițiile în care IA devine tot mai integrată în sectoare fragile, precum securitatea națională sau deciziile strategice, este vital să se înțeleagă și să se decodifice mecanismele lor de „raționament”. În absența unei conștientizări a limitărilor lor, există riscul ca deciziile automate să ajungă să decidă pentru întreaga planetă, într-un mod imprevizibil și periculos.
Pe măsură ce tehnologia avansează și exigențele de securitate cresc, ultimele cercetări evidențiază importanța unui control strict asupra sistemelor de AI, pentru a preveni ca acestea să devină elemente de destabilizare globală. În acest context, nu doar tehnologia trebuie reglementată, ci și modul în care ea interpretă și reacționează în situații de criză, pentru a evita scenarii catastrofale.
