Francia demanda a Grok por crear desnudos de mujeres y menores con IA
El Gobierno francés ha anunciado este viernes que presentará una denuncia formal ante la justicia y el organismo de verificación de contenidos ilícitos en línea Pharos contra Grok, la inteligencia artificial generativa integrada en la red social X, propiedad de Elon Musk. La acción se enmarca en una investigación por la creación y difusión de contenidos de carácter sexista y sexual, incluyendo vídeos falsos o deepfakes elaborados sin el consentimiento de las personas afectadas.
Acción legal por contenido ilegal generado con IA
En un comunicado conjunto, los ministros franceses de Economía, Roland Lescure; de Inteligencia Artificial y Economía Digital, Anne Le Henanff; y de Igualdad entre Mujeres y Hombres, Aurore Bergé, explicaron que la denuncia se basa en el artículo 40 del Código Penal, que obliga a las autoridades a informar de delitos de los que tengan conocimiento. Según indicaron, en los últimos días Grok ha permitido generar y difundir imágenes y vídeos manipulados de mujeres sin su autorización, lo que constituye una violación clara de la legislación vigente.
Desde finales de diciembre se ha detectado un aumento significativo en peticiones realizadas por usuarios de X para que Grok generara representaciones de mujeres desnudas o con poca ropa, partiendo de fotos públicas o perfiles personales. Los ministros condenaron “con la máxima firmeza” estas prácticas y subrayaron que el entorno digital no debe ser considerado un “espacio sin ley ni una zona de impunidad”, recordando que los delitos sexuales en línea están penados por la ley francesa.
Reacciones institucionales y políticas
- El Gobierno ha solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que investigue posibles incumplimientos de X respecto al Reglamento de Servicios Digitales de la Unión Europea, especialmente en la prevención de contenidos ilícitos.
- Sarah El Haïry, alta comisionada francesa para la infancia, expresó su indignación por el uso de Grok para desvestir virtualmente a niñas y mujeres, destacando que, aunque las imágenes sean artificiales, el daño emocional y psicológico a las víctimas es real.
- Arthur Delaporte, portavoz del Partido Socialista francés, anunció que propondrá al Ejecutivo la prohibición de estas funcionalidades en un informe que se presentará a mediados de enero. Para él, este tipo de prácticas constituyen ciberacoso y una grave violación de la intimidad.
El fenómeno ha ganado tracción en la plataforma, donde usuarios han formulado peticiones directas a la IA para modificar fotos de mujeres y mostrarlas en bikini o desnudas. El hashtag #Grok se convirtió en tendencia en X, con más de un millón de publicaciones en pocas horas, evidenciando la magnitud del problema.
Polémica global y respuestas internacionales
La denuncia francesa se suma a una creciente preocupación internacional sobre el uso de Grok por parte de suscriptores de pago. En Estados Unidos y otros países, usuarios han reportado que la herramienta ha sido utilizada para generar imágenes no consensuadas de personas reales —principalmente mujeres— en ropa interior o bikinis, a partir de fotos públicas.
Una de las afectadas, Samantha Smith, relató en X cómo un usuario transformó una foto suya vestida con una bandera británica en una imagen realista de ella en bikini. Incluso se solicitó una modificación de una foto de su primera comunión con el mismo resultado. “Es absolutamente asqueroso”, afirmó. Otros usuarios han dirigido sus críticas directamente a Elon Musk, cuestionando el rumbo ético de la plataforma. El periodista Sanket Upadhyay le preguntó si dirigía “una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres”, mientras que otras personas exigieron la eliminación inmediata de cualquier contenido generado sin consentimiento, calificándolo como “una violación de la privacidad”.
Respuesta de xAI y advertencias sobre el abuso de IA
xAI, la empresa detrás de Grok, reconoció fallos en sus sistemas de seguridad que permitieron la generación de imágenes sexualizadas de menores, contraviniendo su propia política de uso. La compañía afirmó haber retirado el material y estar implementando correcciones urgentes para evitar nuevos abusos.
Organizaciones especializadas como la Internet Watch Foundation han advertido sobre un aumento alarmante en la producción de imágenes de abuso sexual infantil generadas mediante inteligencia artificial, con incrementos de varios cientos por ciento en el último año. Esta tendencia refuerza las alertas sobre los riesgos que suponen los modelos de IA con políticas de contenido más permisivas.
En medio de la polémica, Elon Musk alimentó el debate al publicar una imagen generada por IA en la que aparecía él mismo en bikini, tras pedir a Grok que modificara una foto para que se pareciera a su persona. La imagen fue acompañada del comentario “Perfecto”, lo que generó reacciones encontradas entre usuarios y expertos, muchos de los cuales interpretaron el gesto como una falta de sensibilidad ante un problema grave y extendido.
Mira tambien:
Deja una respuesta