Denuncian uso de Grok en X para sexualizar fotos de mujeres con inteligencia artificial

El uso del generador de imágenes de Grok, el chatbot de X, se ha transformado en una nueva fuente de preocupación por violencia digital contra mujeres y menores. Investigaciones periodísticas revelan que miles de usuarios han empleado la herramienta para alterar fotografías de usuarias y convertirlas en representaciones sexuales o humillantes, sin consentimiento.

Cada cierto tiempo, las redes sociales dan origen a prácticas virales ligadas a la inteligencia artificial. Algunas son inofensivas. Otras, no. En las últimas semanas, una tendencia alarmante se instaló en X: el uso de Grok para manipular imágenes de mujeres y transformarlas en representaciones explícitas.

Según un análisis de The Guardian, las primeras solicitudes de este tipo aparecieron a inicios de diciembre, pero para el 8 de enero el chatbot recibía hasta 6.000 peticiones por hora asociadas a este tipo de ediciones. Aunque algunas personas pedían cambios humorísticos, otros usuarios buscaban abiertamente contenido sexual.

El medio británico aclaró que no se trataba de simples trajes de baño, sino de imágenes con “representaciones de alto contenido explícito, muchas veces en contextos humillantes o que incluso incitan a la violencia”.

Vacíos en la programación

Aunque Grok no permite la desnudez total, los usuarios encontraron formas de sortear las restricciones solicitando variaciones mínimas en la vestimenta. De este modo, mujeres que compartían fotos cotidianas pasaron a verse representadas en escenarios alterados, con proporciones físicas modificadas o en situaciones degradantes.

“Desde finales de la semana pasada, los usuarios han pedido que los bikinis estén decorados con esvásticas o que se agregue un líquido blanco similar al semen al cuerpo de las mujeres”, consignó The Guardian.

Las solicitudes, según el reporte, se volvieron progresivamente más extremas, sin que la plataforma impidiera de forma efectiva su ejecución.

Riesgos para niñas y adolescentes

La investigación también detectó manipulación de imágenes de adolescentes y niñas. Parte de este contenido, de acuerdo con el medio británico, podría clasificarse como material de abuso sexual infantil, pero permaneció visible en la plataforma.

Incluso Ashley St Clair, madre de uno de los hijos de Elon Musk, fue víctima de estas alteraciones. En declaraciones a The Guardian, afirmó que se sintió “horrorizada y violada” tras la publicación de imágenes suyas siendo niña. Dijo que “la estaban castigando”.

La respuesta de X

Según CNN, Musk ha manifestado reiteradamente su rechazo a lo que denomina modelos de IA “woke” y a la censura. Una fuente de xAI indicó que el empresario se ha opuesto internamente a imponer mayores restricciones a Grok.

El punto de quiebre ocurrió cuando el chatbot accedió a modificar la imagen de Renee Good, mujer asesinada por un agente en Estados Unidos. Tras ese episodio, la cuenta pública de Grok en X vio limitada su capacidad de generar imágenes, quedando solo disponible para usuarios de pago.

Sin embargo, la aplicación independiente continuó permitiendo generar imágenes sexualizadas.

“Una respuesta oficial de un portavoz de X dijo que cualquiera que generara contenido ilegal tendría sus cuentas suspendidas, poniendo la responsabilidad sobre los usuarios de no violar la norma y sobre los gobiernos locales y las agencias de aplicación de la ley de tomar medidas”, consignó The Guardian.

“El daño ya está hecho”

Para muchas de las mujeres afectadas, la reacción de la plataforma resulta insuficiente. Una de ellas afirmó: “Como víctima de este abuso, no creo que sea ni siquiera una victoria parcial. El daño y la humillación ya están hechos”.

El caso vuelve a abrir el debate sobre los límites de la inteligencia artificial, la responsabilidad de las plataformas tecnológicas y la urgencia de proteger a las personas frente a nuevas formas de violencia digital que, aunque invisibles para algunos, dejan huellas profundas en sus víctimas.