In Breve
- Cosa ha chiesto il procuratore di San Francisco?
- Ha chiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Apple e Google sono le aziende coinvolte nella richiesta di rimozione delle app.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha preso una posizione decisa contro le applicazioni che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una recente iniziativa, Chiu ha inviato diffide ad Apple e Google, chiedendo la rimozione immediata di tredici app di face-swapping, otto delle quali disponibili sull’App Store e cinque sul Play Store.
Chiu ha sottolineato che queste applicazioni non solo violano le policy per sviluppatori delle due piattaforme, che vietano contenuti pornografici, abusivi o molesti, ma hanno anche generato profitti significativi per le aziende coinvolte. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari grazie a queste app, nonostante la legge della California proibisca il supporto a servizi che producono materiale pornografico deepfake.
Questa non è la prima volta che l’ufficio del procuratore di San Francisco si è attivato contro pratiche simili. In passato, è stata avviata un’azione legale contro sedici siti web dedicati alla creazione di contenuti deepfake. Chiu ha descritto la situazione attuale come “assolutamente scioccante”, evidenziando le gravi conseguenze che queste pratiche possono avere sulle vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, comprese quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha rilasciato commenti ufficiali in merito alla questione.
Chiu ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli per prevenire simili abusi in futuro. Non ha escluso, tuttavia, la possibilità di ulteriori azioni legali se la situazione non dovesse migliorare.
