Elon Musk, dueño de la red social X y de la IA Grok, anunció que la generación y edición de imágenes mediante la plataforma quedará limitada a sus suscriptores de pago. La decisión llega tras una avalancha de quejas por contenidos que sexualizaban y violentaban la imagen de mujeres y niñas, y ante amenazas de sanciones y prohibiciones por parte de gobiernos europeos, incluido el español.

La medida, comunicada por el propio Musk en X, deja abiertas las funciones de la IA para usuarios que pagan, pero no implementa salvaguardas legales obligatorias para impedir la creación de contenidos ilícitos.

Contenidos problemáticos y presión de los gobiernos

A finales de 2025, la IA de Musk comenzó a generar videos pornográficos y recreaciones de agresiones sin consentimiento, un fenómeno que superó la capacidad de los organismos reguladores.

La ministra de Juventud e Infancia de España, Sira Rego, solicitó a la Fiscalía investigar a X por presuntos delitos de difusión de material sexual contra la infancia, sumándose a iniciativas de otros países europeos para prohibir la plataforma o imponer sanciones.

Musk respondió: "La generación y edición de imágenes actualmente está limitada a suscriptores de pago. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido".

Expertos advierten sobre la ilegalidad y riesgos

Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, explicó que sexualizar imágenes sin consentimiento es un delito, y criticó la postura de Musk sobre trasladar toda la responsabilidad al usuario.

"Los entornos digitales obligan a las plataformas a prevenir y controlar la difusión de contenidos ilícitos. Además de vulnerar la intimidad y el honor, este tipo de imágenes puede alimentar prácticas delictivas como la sextorsión", sostuvo Martínez.

Mary Anne Franks, especialista en derechos civiles cibernéticos, agregó que más del 90% de las agresiones con imágenes no consentidas afectan a mujeres, y alertó sobre el peligro de que figuras públicas y menores queden expuestas a estos abusos.

Ciberseguridad y sextorsión: un riesgo creciente

La empresa Kaspersky detectó un aumento de Stealerium, un malware abierto que combina robo de datos con sextorsión automatizada, lo que evidencia cómo la IA puede potenciar campañas delictivas contra la privacidad.

Mientras Musk limita parcialmente el uso de Grok, expertos insisten en que la educación digital, la regulación y la supervisión activa de plataformas son esenciales para evitar que la IA se transforme en una herramienta de abuso y explotación.