Conform Digi24: Google și Apple, somate să elimine aplicații ce generează imagini indecente
Procurorul general din San Francisco a solicitat retragerea a 13 aplicații, dezvoltate cu inteligență artificială, care permit crearea de imagini nud cu persoane fără consimțământul acestora. Companiile Google și Apple au fost vizate direct, ele gestionând magazinele digitale unde aceste aplicații au fost disponibile. Acuzațiile vizează promovarea unor funcții de modificare și schimbare a fețelor, care în realitate pot fi folosite pentru a dezbrăca virtual persoane.
Potrivit informațiilor, opt dintre aplicațiile incriminate se regăseau în App Store-ul Apple, în timp ce Google Play Store găzduia cinci astfel de programe. Aceste aplicații, bazate pe tehnologii AI, ar genera profituri considerabile pentru dezvoltatorii lor. Una dintre aplicațiile menționate ar fi înregistrat peste un milion de descărcări, demonstrând o popularitate alarmantă, în ciuda naturii abuzive a funcționalităților sale.
Controversele AI și protecția datelor personale
Problema generării de imagini false, în special cele cu conținut nud, fără consimțământul persoanelor vizate, a devenit o preocupare majoră la nivel internațional. Procurorii subliniază că aceste tehnologii pot fi utilizate pentru a afecta grav imaginea și reputația indivizilor. Firmele de tehnologie sunt acuzate, indirect, că facilitează difuzarea unor instrumente considerate nocive.
În urma solicitării autorităților americane, Google a anunțat deja ștergerea celor cinci aplicații din magazinul său digital. Apple, la rândul său, a confirmat blocarea a trei dintre cele opt aplicații identificate ca problematică în platforma sa. Aceste măsuri vin în contextul unei dezbateri mai largi despre reglementarea inteligenței artificiale și protejarea drepturilor indivizilor în mediul digital.
Noi reglementări europene și ecourile globale
Această situație se suprapune cu decizia Parlamentului European din luna iunie, prin care a fost interzisă utilizarea serviciilor de inteligență artificială capabile să genereze imagini nud fără consimțământ în Uniunea Europeană. Această interdicție a fost un răspuns direct la scandalul imaginilor pornografice generate de Grok, asistentul virtual cu IA dezvoltat de Elon Musk. Cazul Grok a stârnit indignare globală și a amplificat presiunea pentru reglementări mai stricte privind utilizarea inteligenței artificiale.
Situația subliniază urgența necesității unor cadre legislative clare pentru a preveni abuzurile tehnologice și a proteja demnitatea persoanelor în era digitală. Lupta împotriva creării și diseminării de conținut fals și dăunător, generat prin inteligență artificială, devine astfel o prioritate pentru autorități și companii din întreaga lume.
Sursa: Digi24
