La UE investiga a X: Grok bajo la lupa por deepfakes ilegales

La Comisión Europea ha iniciado una investigación formal contra la red social X (anteriormente Twitter) tras la indignación global provocada por la incapacidad de la plataforma para detener la creación y difusión de imágenes sexualmente explícitas de personas reales, incluidos menores. 

El origen del conflicto: el "Spicy Mode" de Grok

La alarma saltó tras un informe del diario alemán Handelsblatt y análisis de organizaciones como AI Forensics, que revelaron un uso sistémico de la herramienta para "desnudar" virtualmente a mujeres y niñas. El problema se intensificó el pasado verano con la introducción del "Spicy Mode" (modo picante), una función de pago diseñada para ser menos restrictiva y que permitía a los usuarios generar contenido explícito mediante comandos de texto.

Según investigaciones recientes, solo en los primeros días de enero de 2026, se estima que Grok generó más de 3 millones de imágenes sexualizadas, de las cuales al menos 23.000 involucraban a menores.

Reacción de la Unión Europea

La respuesta de Bruselas no se ha hecho esperar. Thomas Regnier, portavoz de la Comisión, calificó la funcionalidad de "repugnante" e "ilegal", subrayando que este tipo de herramientas no tienen cabida en el mercado europeo. "Esto no es 'picante'. Esto es ilegal. Esto es espantoso. No tiene lugar en Europa", declaró la Comisión en un comunicado oficial.

Bajo la Ley de Servicios Digitales (DSA), la Comisión ha enviado una solicitud formal de información a X. Si se demuestra que la plataforma violó las normas de seguridad online y protección de menores, Elon Musk podría enfrentarse a multas de hasta el 6% de la facturación anual global de su empresa.

Medidas de X y presión internacional

Ante la presión regulatoria y el riesgo de bloqueos (como los ya aplicados en Indonesia y Malasia), X anunció la implementación de "medidas tecnológicas" para bloquear la edición de imágenes de personas reales en ropa sugerente. La plataforma también asegura haber eliminado material de abuso sexual infantil (CSAM) y suspendido permanentemente las cuentas involucradas.

Sin embargo, para los reguladores de la UE, Francia, Alemania y el Reino Unido (a través de Ofcom), estas medidas podrían ser insuficientes y llegar demasiado tarde. Cabe recordar que, apenas el pasado diciembre de 2025, la Comisión ya multó a X con 120 millones de euros por prácticas engañosas relacionadas con sus marcas de verificación azules y falta de transparencia publicitaria.

Deepfakes generados por Grok

Multas millonarias: X ya está bajo la lupa por infracciones previas de la DSA.

Investigaciones criminales: En Francia, la fiscalía ha ampliado sus pesquisas para incluir los deepfakes generados por Grok.

Bloqueos regionales: El chatbot permanece prohibido en varios países del sudeste asiático por violaciones a la dignidad humana.

La investigación de la Comisión determinará ahora si X actuó con la diligencia debida o si facilitó, mediante un diseño negligente de su IA, una violación masiva de los derechos fundamentales en Europa.