La Comisión Europea puso bajo la lupa a la red social X tras detectar la generación y difusión de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial Grok. Bruselas busca determinar si la plataforma cumple con las exigencias de las leyes digitales vigentes en la Unión Europea.

La investigación contra X y el rol de Grok

Según informó la Comisión, el foco estará puesto en analizar si X evaluó y mitigó de forma adecuada los riesgos asociados al lanzamiento de Grok en territorio europeo. Entre las principales preocupaciones figura la posible circulación de contenido ilegal, como imágenes sexualmente explícitas manipuladas, que incluso podrían encuadrarse como material de abuso sexual infantil.

Desde Bruselas advirtieron que estos riesgos "ya se habrían materializado", motivo por el cual se inició una investigación formal para verificar si la empresa actuó conforme a las obligaciones que impone la normativa comunitaria.

Qué exige la Ley de Servicios Digitales

La Comisión Europea evaluará si X incumplió la Ley de Servicios Digitales (DSA), que obliga a las plataformas a identificar y reducir riesgos sistémicos para los usuarios. En ese marco, el organismo exigirá a la compañía que presente un informe específico sobre los riesgos vinculados a Grok y su impacto en el perfil general de la red social.

Incluso antes de abrir esta nueva investigación, Bruselas ya había ordenado a X conservar toda la documentación interna relacionada con Grok durante 2026, en el marco de otra causa abierta sobre la gestión de contenidos ilegales.

Polémicas, denuncias y antecedentes

La decisión se da tras una fuerte polémica por la aparición de imágenes de mujeres y menores desnudos generadas por la IA en las últimas semanas. El caso derivó incluso en una denuncia del Gobierno francés ante la Justicia. A esto se suman otros episodios previos, como publicaciones de Grok que relativizaban el Holocausto a fines del año pasado.

Si bien desde la Comisión reconocieron que X tomó algunas medidas para frenar la difusión de este tipo de contenidos, aclararon que la investigación va más allá de estos hechos puntuales y apunta a un problema estructural en la arquitectura de la plataforma y su sistema de inteligencia artificial.

Sin plazos definidos, pero con trámite prioritario

La investigación no tiene un calendario cerrado, aunque fuentes europeas indicaron que se tramitará de manera prioritaria por los riesgos que implican las funciones de Grok para los usuarios.

En paralelo, Bruselas prorrogó una investigación iniciada en 2023 sobre los sistemas de recomendación de contenido de X, que ahora incluirá el impacto del cambio hacia un modelo basado en la inteligencia artificial.

Cabe recordar que en diciembre pasado la Comisión Europea ya había multado a X con 120 millones de euros por "diseño engañoso" en su sistema de verificación azul y por falta de transparencia en publicidad y acceso a datos públicos.