Bruselas investiga a X por polémicas imágenes de IA
La Comisión Europea ha anunciado este lunes el inicio de una investigación formal contra la red social X, propiedad del magnate Elon Musk, por la generación de imágenes sexualizadas y desnudos no consentidos a través de su sistema de inteligencia artificial, Grok. La acción se enmarca en el cumplimiento de la Ley de Servicios Digitales (DSA, por sus siglas en inglés), que exige a las plataformas digitales identificar, evaluar y mitigar riesgos sistémicos para los usuarios en la Unión Europea.
Investigación por contenido ilegal generado por IA
Bruselas indicó que analizará si X cumplió con sus obligaciones legales antes del lanzamiento de las funciones de Grok en Europa, especialmente en lo relativo a la posible difusión de contenido ilegal, como imágenes explícitas manipuladas sin consentimiento. En casos extremos, algunas de estas imágenes podrían incluso clasificarse como material de abuso sexual infantil, lo que agrava las posibles violaciones del marco regulatorio europeo.
“Estos riesgos parecen haberse materializado”, señaló la Comisión en un comunicado, al anunciar que se investigará si la plataforma evaluó y redujo adecuadamente los peligros asociados a su herramienta de IA. Asimismo, se exigirá a X que presente un informe específico sobre los riesgos clave que las funcionalidades de Grok representan para su perfil de seguridad antes de cualquier nuevo lanzamiento.
Antecedentes y controversias previas
- La investigación se suma a una orden previa de la Comisión, que obligó a X a conservar toda su documentación interna relacionada con Grok hasta 2026, como parte de un análisis más amplio sobre la gestión de contenidos ilegales en la plataforma.
- El caso gana relevancia tras las denuncias surgidas en las últimas semanas sobre la creación de imágenes de mujeres y menores desnudos generadas por la IA de X, lo que llevó al Gobierno francés a presentar una demanda contra la empresa por los mismos motivos.
- En Estados Unidos y otros países, usuarios han reportado que Grok ha sido utilizado para producir imágenes no consensuadas de personas reales en ropa interior o bikinis, generando presión internacional para que se restrinjan sus funciones y se elimine el contenido generado.
Además, el Museo de Auschwitz denunció recientemente el uso de Grok para crear imágenes que distorsionan la historia del Holocausto, al alterar fotografías históricas de la época. Estas manipulaciones han sido calificadas como una forma de negacionismo histórico y han intensificado las críticas hacia la responsabilidad ética y legal en el uso de inteligencia artificial.
Incumplimientos previos y multas
Este no es el primer enfrentamiento entre Bruselas y X. En diciembre pasado, la Comisión multó a la plataforma con 120 millones de euros por violar la transparencia exigida por la Ley de Servicios Digitales. Las infracciones incluyeron el diseño engañoso del sistema de verificación azul, la falta de transparencia en su repositorio publicitario y la limitación del acceso a datos públicos para investigadores.
Paralelamente, la Comisión también ha prorrogado una investigación iniciada en 2023 sobre si X cumple con sus obligaciones en la gestión de riesgos de sus algoritmos de recomendación de contenido. Este análisis ahora incluirá el impacto del uso de Grok en la difusión y promoción de contenidos dentro de la plataforma.
Mira tambien:
Deja una respuesta