Francia demanda a Grok por crear desnudos de mujeres y menores
El Gobierno francés ha anunciado este viernes que presentará una denuncia formal ante la justicia y el organismo de verificación de contenidos ilícitos en línea Pharos contra Grok, la inteligencia artificial generativa integrada en la red social X, propiedad de Elon Musk. La acción se enmarca en una respuesta contundente a la proliferación de contenidos de carácter sexista, sexual y especialmente deepfakes no consentidos que han sido generados y difundidos a través de esta herramienta.
Denuncia por generación de deepfakes y contenido sexualizado sin consentimiento
En un comunicado conjunto, los ministros franceses de Economía, Roland Lescure; de Inteligencia Artificial y Economía Digital, Anne Le Henanff; y de Igualdad entre Mujeres y Hombres, Aurore Bergé, explicaron que la denuncia se basa en el artículo 40 del Código Penal, que obliga a las autoridades a informar sobre delitos de los que tengan conocimiento. Señalaron que, en los últimos días, Grok ha permitido la creación de imágenes y vídeos manipulados de mujeres sin su autorización, muchos de ellos solicitados directamente por usuarios de X para mostrar a mujeres desnudas o en bikini, a partir de fotos públicas.
Los ministros condenaron “con la mayor firmeza” estas prácticas, subrayando que internet no debe ser considerado “un espacio sin ley ni una zona de impunidad”, y recordaron que los delitos sexuales cometidos en línea están sujetos a la legislación penal vigente. Además, el Gobierno ha pedido a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que investigue si X ha incumplido las obligaciones establecidas en el Reglamento de Servicios Digitales (DSA) de la Unión Europea, especialmente en materia de prevención y retirada de contenidos ilícitos.
Reacciones institucionales y políticas
- La alta comisionada francesa para la infancia, Sarah El Haïry, expresó su indignación por el uso de Grok para crear imágenes de niñas y mujeres desnudas, destacando que, aunque sean generadas por inteligencia artificial, el daño psicológico y emocional para las afectadas es real.
- Arthur Delaporte, portavoz del Partido Socialista francés, anunció que propondrá al Gobierno la prohibición de estas funcionalidades en un informe que será presentado a mediados de enero. Considera que la difusión de estas imágenes constituye una forma grave de ciberacoso y una violación de la intimidad.
- El fenómeno ha ganado tracción en X, donde el hashtag #Grok se convirtió en tendencia con más de un millón de publicaciones en pocas horas, muchas de ellas mostrando peticiones directas para desnudar digitalmente a mujeres.
Polémica global y presión sobre Elon Musk
La denuncia francesa se produce en medio de una creciente controversia internacional sobre el uso de Grok. En Estados Unidos y otros países, usuarios han denunciado que la herramienta ha sido empleada para generar imágenes no consentidas de personas reales, principalmente mujeres, en ropa interior o en contextos sexualizados. Una de las afectadas, Samantha Smith, relató que un usuario transformó una foto suya con una bandera británica en una imagen realista de ella en bikini, e incluso modificó una imagen de su primera comunión con el mismo resultado. “Es absolutamente asqueroso”, afirmó.
Usuarios y periodistas han cuestionado públicamente a Elon Musk sobre estas prácticas. El periodista Sanket Upadhyay le preguntó si dirigía “una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres”, mientras que otra usuaria, Nandani Sotro, exigió la eliminación inmediata de cualquier contenido generado sin consentimiento, calificándolo como una “violación de la privacidad”.
Respuesta de xAI y preocupación por menores
- xAI, la empresa detrás de Grok, reconoció fallos en sus sistemas de seguridad que permitieron la generación de imágenes sexualizadas de menores, en contra de su política de uso. Aseguró que ya retiró ese material y está implementando correcciones urgentes.
- Organizaciones como la Internet Watch Foundation han alertado sobre un aumento exponencial —de varios cientos por ciento— en el número de imágenes de abuso sexual infantil generadas por inteligencia artificial, lo que refuerza las advertencias sobre los riesgos de modelos menos restringidos.
En medio de la polémica, Elon Musk alimentó aún más el debate al publicar una imagen generada por IA en la que aparecía él mismo en bikini, tras pedir a Grok que modificara una foto para que se pareciera a él. Junto a la imagen, escribió: “Perfecto”, una respuesta que ha sido ampliamente criticada como una banalización del problema.
Mira tambien:
Deja una respuesta