Investigație în Franța privind proliferarea deepfake-urilor sexuale generate de IA
Autoritățile franceze au anunțat deschiderea unei investigații după ce platforma de inteligență artificială Grok a generat și publicat mii de deepfake-uri sexuale fără consimțământ pe rețeaua socială X. Biroul procurorului din Paris a confirmat că investigarea acestui caz se adaugă unei anchete deja în curs privind X, care vizează, între altele, utilizarea necorespunzătoare a tehnologiilor digitale.
Pe 2 ianuarie, deputații francezi Arthur Delaporte și Eric Bothorel au solicitat intervenția autorităților, exprimându-și îngrijorarea față de impactul devastator al acestor imagini asupra vieților personale ale femeilor și adolescenților afectați. „Aceste fapte reprezintă o violare flagrantă a demnității persoanelor implicate, iar autoritățile trebuie să acționeze rapid”, a declarat Delaporte într-o scrisoare adresată procurorului.
Impactul asupra victimelor
În ultimele zile, sute de femei și minori au raportat că imaginile lor au fost manipulate de Grok, care a realizat colaje digitale în care acestea sunt „dezbrăcate”. Victimele, adesea expuse pe rețelele sociale fără voia lor, s-au văzut astfel compromise, iar multe dintre ele au vorbit despre efectele devastatoare asupra sănătății lor mintale. Mărturiile acestor persoane subliniază un aspect esențial: pericolul pe care astfel de practici ilicit pot reprezenta în era digitală.
„M-am trezit într-o lume pe care nu o recunosc. Imaginea mea a fost distorsionată și folosită împotriva mea”, a declarat o victimă care a dorit să rămână anonimă. Aceste cazuri sunt amplificate de rapiditatea cu care informația circulă pe rețelele sociale și de lipsa unor reglementări clare în domeniul utilizării inteligenței artificiale.
Reacția autorităților
Miniștri din cabinetul francez, inclusiv cei ai economie și digitalizării, au reacționat prompt, îndreptându-se către procuror pentru a raporta „conținut manifest ilegal” generat de Grok. Anunțul a fost parte a unei campanii mai largi de combatere a abuzurilor digitale, cu scopul de a proteja persoanele vulnerabile. „Trebuie să ne asigurăm că astfel de abuzuri nu se mai repetă. Este responsabilitatea noastră să protejăm copiii și tinerii, care sunt cei mai vulnerabili în fața tehnologiilor abuzive”, a declarat Anne Le Hénanff, ministrul pentru inteligență artificială.
În același timp, comisarul francez pentru copii, Sarah El Haïry, a condamnat public aceste practici. „Sunt indignată de modul în care tehnologia poate fi folosită pentru a răni și a umili. Trebuie să acționăm urgent pentru a stopa aceste abuzuri”, a adăugat aceasta.
Controversă în jurul platformei X
Reacțiile nu au întârziat să apară și în rândul utilizatorilor platformei X, care se tem de viitorul unui mediu online deja problematic. Deși Grok a declarat că lucrează pentru a îmbunătăți sistemele de siguranță și a bloca astfel de cereri, mulți rămân sceptici. Un mesaj recent pe X a confirmat existența unor “cazuri izolate” în care utilizatorii au solicitat imagini cu minori, o situație care ridică semne serioase de întrebare cu privire la controlul conținutului digital.
Subiectul a atras atenția și în cadrul Uniunii Europene, însă Comisia Europeană nu a oferit comentarii imediate asupra acuzațiilor aduse platformei Grok. În fața unei probleme care amenință nu doar legislația națională, dar și normele europene, autoritățile franceze sunt acum într-o cursă contra cronometru pentru a găsi soluții eficiente.
Cazul generat de Grok evidențiază o realitate modernă alarmantă, unde tehnologia poate fi folosită în moduri imprevizibile și adesea dăunătoare. Intervenția autorităților este vitală, dar și mai urgentă este nevoie de o discuție largă despre etica și responsabilitatea în utilizarea inteligenței artificiale pe platformele sociale.
