El chatbot Grok, de la empresa X de Elon Musk, generó un estimado de tres millones de imágenes sexualizadas de mujeres y menores en cuestión de días. Los datos fueron revelados por los investigadores tras gran repudio en todo el mundo.

Grok permitió que los usuarios pudieran modificar imágenes reales de personas con instrucciones simples como "ponla en bikini" o "sácale la ropa". Esto generó una avalancha de imágenes hiperrealistas falsas que inundaron internet, lo que causó que varios países prohibieran Grok.

"Se estima que la herramienta de IA Grok generó cerca de tres millones de imágenes sexualizadas, incluidas 23.000 que parecen representar a menores, tras el lanzamiento en X de una nueva función de edición de imágenes", dijo el Centro para Combatir el Odio Digital.

La sexualización también afectó a famosos

Actrices y cantantes como Selena Gómez, Taylor Switft y Nicki Minaj, así como figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos Kamala Harris sufrieron en redes sociales la viralización de estas imágenes generadas por la inteligencia artificial.

"Los datos son claros: Grok de Elon Musk es una fábrica para la producción de material de abuso sexual", dijo Imran Ahmed, director ejecutivo del CCDH.

La semana pasada, X anunció que bloqueará la capacidad de crear este tipo de imágenes a todos los usuarios en Grok y X en las jurisdicciones donde esas acciones sean ilegales. Países como Filipinas, Malasia e Indonesia prohibieron Grok, mientras que Reino Unido y Francia mantienen presión sobre la empresa.