Luego de que en Grok, el chatbot de X se popularizara una herramienta que permitía modificar fotos para sacarles la ropa y provocara una ola de críticas debido a la capacidad que tenía para generar imágenes no consensuadas, se reveló que en 11 días esa aplicación generó alrededor de 3 millones de imágenes sexualizadas y que, al menos 23.000 correspondían a niños.

De acuerdo con un informe elaborado por el Centro para Contrarrestar el Odio Digital (CCDH), una organización inglesa que se dedicó a tomar nota e investigar miles de denuncias provenientes de todos los rincones del planeta, se pudo confirmar que al menos en el período comprendido entre el 29 de diciembre y el 9 de enero, el chatbot produjo unas 190 imágenes por minutos y una deepfake con menores de esas cada 41 segundos. Para arribar a esa conclusión, la organización tomó unas 20.000 imágenes generadas por el chatbot al azar

Polémica con famosos y críticas a la poca respuesta de la red social

A través de Grok, también se podían modificar las vestimentas y los cuerpos de cualquier persona y fueron varias las figuras internacionales que fueron víctimas de imágenes falsas, tal como les sucedió a las cantantes Taylor Swift, Selena Gomez, Billie Eilish y Ariana Grande. La protagonista de Stranger Things, Millie Bobby Brown y hasta la primera ministra de Suecia, Ebba Busch, cayeron en la trampa.

Por otra parte, la respuesta de la red social X fue calificada como "insuficiente" porque- si bien la herramienta fue eliminada del sitio- en la aplicación independiente de la Inteligencia Artificial sigue estando y ahí muchos apuntan contra Apple y Google, a quienes les reclaman que eliminen tanto a X como a Grok de sus apps.

A pesar de la polémica, ninguna de las dos grandes compañías se refirió al tema y por el momento sólo hay silencio, y no se sabe si responderán a los pedidos.