A comienzos de agosto, la red social X presentó nuevas capacidades en su chatbot Grok, que ahora puede generar imágenes y videos a partir de instrucciones escritas, al estilo de ChatGPT o Gemini. Fiel a la impronta de Elon Musk, la actualización incluyó un "modo picante" que habilita la creación de contenido subido de tono.

The Verge reveló que, al activar esta función, Grok puede producir desde animaciones inocentes hasta deepfakes sexuales de celebridades como Taylor Swift, incluso sin que el usuario lo solicite. La propuesta, en línea con la política de moderación laxa de Musk, encendió las alarmas de especialistas y defensores de derechos digitales.

Reclamos ante la FTC por posibles abusos

Un grupo de 15 organizaciones de consumidores, encabezadas por la Consumer Federation of America, envió una carta a la Comisión Federal de Comercio de Estados Unidos para pedir una investigación urgente. El eje del reclamo apunta a Grok Imagine, el generador de imágenes y videos de la división xAI.

Según los denunciantes, la herramienta "crea videos de desnudos que pueden confundirse con personas reales", lo que implica un riesgo directo para celebridades y menores de edad. Además, cuestionaron que el único filtro para restringir el acceso al "modo spicy" sea una ventana emergente que solicita la edad del usuario, algo fácil de evadir.

El debate sobre la moderación en la era Musk

Si bien Grok no permite usar fotos personales de usuarios para generar deepfakes, la polémica se centra en el potencial abuso de la función y en la tendencia de Elon Musk a debilitar las políticas de moderación de la plataforma en nombre de la "libertad de expresión".

Para las organizaciones, se trata de un caso claro de riesgo de "imágenes íntimas no consensuadas" y un motivo de intervención regulatoria. La investigación que podría iniciar la FTC marcaría un nuevo capítulo en la relación cada vez más tensa entre la inteligencia artificial generativa y los organismos de control en Estados Unidos.