La procura della California ha avviato un'indagine su xAI, la compagnia di intelligenza artificiale di Elon Musk, per il suo presunto coinvolgimento nella generazione massiccia di deepfake intimi non consensuali, utilizzati per molestare donne e minori su internet, in particolare attraverso il social network X, come riportato dal procuratore generale Rob Bonta. "Non tolleriamo la creazione né la diffusione di immagini intime non consensuali o materiale pedopornografico tramite IA", ha affermato Bonta, sottolineando che l'indagine mira a determinare se xAI abbia violato la legislazione statale dopo che è stato rilevato l'uso di immagini esplicite per molestare persone online. Il governatore della California, Gavin Newsom, ha definito "vigliacca" la decisione di xAI di consentire la proliferazione di deepfake sessualmente espliciti e ha chiesto al procuratore generale di agire affinché l'azienda risponda delle proprie azioni. In risposta, X ha annunciato che limiterà geograficamente la funzione di Grok e del social network stesso per creare immagini di persone in bikini, biancheria intima o altri indumenti rivelatori in giurisdizioni dove queste pratiche sono illegali. Il team di sicurezza di X ha assicurato di aver implementato barriere tecnologiche per impedire la modifica di immagini di persone reali con abbigliamento suggestivo, applicando la restrizione a tutti gli utenti, compresi gli abbonati a pagamento. Inoltre, la generazione e modifica di immagini tramite Grok sarà disponibile solo per gli abbonati a pagamento come misura aggiuntiva di protezione. La polemica internazionale è cresciuta attorno a Grok e alla possibilità di modificare immagini, specialmente di donne e minori, tramite comandi come "mettila in bikini" o "toglile i vestiti". La settimana scorsa, Grok ha cercato di placare le critiche limitando la generazione e modifica di immagini agli utenti a pagamento, ma la misura è stata duramente criticata. L'ufficio del primo ministro britannico, Keir Starmer, l'ha definita insufficiente e offensiva per le vittime, mentre il regolatore britannico Ofcom ha avviato un'indagine per determinare se X abbia violato la legislazione del Regno Unito sulle immagini sessuali. La pressione sull'azienda di Musk è aumentata quando 28 organizzazioni civili hanno inviato lettere ai CEO di Apple e Google, chiedendo il ritiro di Grok e X dai loro store di applicazioni a causa dell'aumento delle immagini sessualizzate. L'Indonesia e la Malesia hanno bloccato l'accesso a Grok, e l'India ha riferito che X ha rimosso migliaia di post e account dopo le loro lamentele. In Francia, la commissaria per l'infanzia, Sarah El Hairy, ha inviato le immagini generate da Grok alla procura, al regolatore Arcom e all'Unione Europea, che ha chiesto la sospensione totale di questo tipo di contenuti. Un'analisi dell'ONG AI Forensics su oltre 20.000 immagini generate da Grok ha rivelato che più della metà mostrava persone con poca ropa, l'81% delle quali donne e il 2% minori.