La fiscalía de California ha iniciado una investigación sobre xAI, la compañía de inteligencia artificial de Elon Musk, por su presunta implicación en la generación masiva de deepfakes íntimos no consentidos, utilizados para acosar a mujeres y menores en internet, especialmente a través de la red social X, según informó el fiscal general Rob Bonta. “No toleramos la creación ni difusión de imágenes íntimas no consentidas o material pedopornográfico mediante IA”, afirmó Bonta, quien señaló que la investigación busca determinar si xAI infringió la legislación estatal tras detectarse el uso de imágenes explícitas para hostigar a personas en línea. El gobernador de California, Gavin Newsom, calificó de “vil” la decisión de xAI de permitir la proliferación de deepfakes sexualmente explícitos y pidió al fiscal general que actúe para que la empresa rinda cuentas. En respuesta, X anunció que restringirá geográficamente la función de Grok y de la propia red social para crear imágenes de personas en bikinis, ropa interior u otras prendas reveladoras en jurisdicciones donde estas prácticas sean ilegales. El equipo de seguridad de X aseguró que han implementado barreras tecnológicas para impedir la edición de imágenes de personas reales con ropa sugerente, aplicando la restricción a todos los usuarios, incluidos los suscriptores de pago. Además, la generación y edición de imágenes a través de Grok solo estará disponible para suscriptores de pago como medida adicional de protección. La polémica internacional ha crecido en torno a Grok y la posibilidad de modificar imágenes, especialmente de mujeres y menores, mediante comandos como “ponla en bikini” o “quítale la ropa”. La semana pasada, Grok intentó calmar las críticas limitando la generación y edición de imágenes a usuarios de pago, pero la medida fue duramente criticada. La oficina del primer ministro británico, Keir Starmer, la calificó de insuficiente y ofensiva para las víctimas, mientras que el regulador británico Ofcom abrió una investigación para determinar si X violó la legislación del Reino Unido sobre imágenes sexuales. La presión sobre la empresa de Musk aumentó cuando 28 organizaciones civiles enviaron cartas a los directores ejecutivos de Apple y Google, solicitando la retirada de Grok y X de sus tiendas de aplicaciones ante el incremento de imágenes sexualizadas. Indonesia y Malasia bloquearon el acceso a Grok, e India informó que X eliminó miles de publicaciones y cuentas tras sus quejas. En Francia, la comisionada para la infancia, Sarah El Hairy, remitió las imágenes generadas por Grok a la fiscalía, al regulador Arcom y a la Unión Europea, que pidió la suspensión total de este tipo de contenidos. Un análisis de la ONG AI Forensics sobre más de 20.000 imágenes generadas por Grok reveló que más de la mitad mostraban a personas con poca ropa, el 81% de ellas mujeres y el 2% menores de edad. Fuente: elmundo.es