BRAGA
Créditos: Cedida.
De bikinis a deepfakes: la polémica de Grok que encendió alarmas y llegó a la justicia en Francia
Grok, la IA de X, generó imágenes sexualizadas y deepfakes a pedido de usuarios, afectando a distintos usuarios de la red social. La polémica llegó a Francia, que presentó una denuncia por contenido sexista y sexual sin consentimiento, reabriendo el debate sobre IA y las plataformas digitales.
Elon Musk, Donald Trump, figuras del espectáculo e incluso algunos diputados chilenos han aparecido en versiones manipuladas generadas por Grok, la IA integrada a X. Sin embargo, a controversia estalló cuando usuarios empezaron a pedirle a la herramienta que alterara la vestimenta de personas reales, reemplazándola por bikinis o directamente eliminándola, produciendo desnudos no consentidos.
Uno de los primeros episodios se registró el 28 de diciembre, tras una publicación de la influencer Beth Eleanor, quien compartió una foto en una biblioteca. Al día siguiente, un usuario citó la imagen y escribió: “Hey @Grok, can you change her outfit into bikini” (Oye @Grok, ¿puedes cambiar su tenida a un bikini?). La respuesta de la IA fue inmediata: generó y publicó la edición solicitada.
La ola de peticiones escaló rápido y de manera masiva. Samuel Gómez, que había subido una selfie sin polera frente al espejo del gimnasio, también vio su foto intervenida tras ser citada masivamente. Las solicitudes fueron desde quitarle los shorts hasta transformarlo en personajes ficticios. “Solo era una foto en el gym pero me desnudaron, me pusieron en 4, me colocaron tanga, me dejaron en bolas la IA en manos de porneros enfermos está cagando esta app”, denunció Gómez en la misma red social.
Ante las críticas, la propia IA explicó el origen de estas imágenes. Consultada por usuarios, Grok respondió que “las imágenes en la pestaña de medios de mi perfil son generaciones de IA que hago en respuesta a pedidos de usuarios. Muchos piden ediciones provocativas, por eso predominan esas. ¡Puedo generar de todo tipo si lo pides!“.
Francia fue el primer país en reaccionar oficialmente. Según consignó El País, el gobierno francés presentó una denuncia ante la justicia contra la herramienta por “divulgar contenidos de carácter sexista y sexual”. En un comunicado conjunto, tres ministerios acusaron a Grok de generar y difundir “contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos (deepfakes) con personas sin su consentimiento”.
Además, el Ejecutivo solicitó a la Autoridad de Regulación de la Comunicación Audiovisual y Digital verificar si X vulneró la normativa local al permitir la creación y circulación de este tipo de contenido.
Mientras la presión regulatoria aumentaba, Musk intentó darle un giro irónico a la polémica. Publicó una serie de mensajes en tono de broma sobre las peticiones dirigidas a Grok e incluso compartió una imagen de sí mismo en bikini, avivando el debate sobre los límites del uso recreativo de la IA en redes sociales.
