Apple a amenințat că va retrage aplicația Grok, dezvoltată de xAI, compania lui Elon Musk, din App Store, din cauza generării de imagini deepfake cu nuditate și conținut sexualizat. Avertismentul, dezvăluit într-o scrisoare trimisă senatorilor americani, a scos la iveală tensiunile dintre Apple și xAI cu privire la politicile de conținut în contextul inteligenței artificiale.
Presiuni din partea Apple
Potrivit scrisorii obținute de NBC News, Apple a comunicat confidențial xAI în luna ianuarie că va elimina aplicația Grok din magazinul său virtual dacă nu se vor lua măsuri pentru eradicarea conținutului explicit generat de chatbot. Această amenințare a venit în urma unor reclamații legate de imagini sexualizate create de Grok, distribuite fără consimțământ de utilizatorii platformei X. Multe dintre aceste imagini erau bazate pe fotografii ale unor persoane reale.
Inițial, Apple a respins soluția propusă de xAI ca fiind insuficientă, argumentând că modificările nu erau adecvate. Compania a cerut dezvoltatorilor să prezinte un plan mai eficient de moderare a conținutului, indicând că în caz contrar aplicația Grok va fi eliminată. După o serie de discuții, Apple a decis în cele din urmă că o versiune ulterioară a aplicației s-a îmbunătățit suficient pentru a fi aprobată.
Reacțiile și implicațiile politice
Scrisoarea a fost influențată de o solicitare din ianuarie a senatorilor Ron Wyden, Ben Ray Lujan și Edward Markey, care au cerut Apple și Google să retragă aplicația Grok din cauză că imaginile generate încălcau regulile App Store. Senatorii au subliniat că permisul dat lui Grok de a genera astfel de imagini va submina reputația Apple. Politicienii americani au argumentat că politicile Apple interzic conținutul ofensator, sexual și de exploatare.
Răspunsul X și viitoarele măsuri
După publicarea raportului de către NBC News, X a emis o declarație prin care a reiterat angajamentul de a interzice conținutul explicit generat fără consimțământ pe platformă. Compania a menționat că xAI are implementate măsuri de protecție, inclusiv monitorizarea utilizării, analiza în timp real a încercărilor de eludare a regulilor, actualizări frecvente ale modelelor și filtre de prompt. Cu toate acestea, observațiile recente sugerează că Grok continuă să genereze imagini similare, iar unii utilizatori au găsit modalități de a ocoli aceste măsuri.
