Durante los últimos días de 2025 y los primeros de 2026 X se llenó con una nueva “tendencia”: pedirle a Grok, la IA de X, que edite fotos de mujeres y niñas publicadas en la red social y que les quite la ropa sin su consentimiento. Los usuarios de X encontraron prompts, es decir, instrucciones de texto, para que Grok genere imágenes de mujeres en bikini y lencería, o con vestimentas eróticas.
Este problema no es nuevo, pero sí tomó relevancia en los últimos días. Los prompts varían caso a caso: algunas indicaciones piden quitar la ropa, otras poner a las mujeres en bikini y hasta dibujarles tatuajes en la piel con inscripciones insultantes. Grok incluso se ha utilizado para agregarles “burkas” a mujeres que no lo tienen.
También hay hombres entre las víctimas. Algunos usuarios han pedido a Grok que les quite los pantalones, la camiseta o incluso toda la ropa, dejándolos en ropa interior. Además, la IA de X se está utilizando para sexualizar a menores de edad, según reportó Maldita.es.
El CEO de X, Elon Musk, reaccionó con emojis de risas frente a la nueva “tendencia” en su propia plataforma. De todas formas, Grok reconoció a Maldita.es que hubo “fallos graves” que permitieron “generar imágenes sexualizadas de menores (o que parecían serlo)”; aunque antes negó generar ese contenido “de forma intencionada ni sistemática”.
Algunos perfiles ya han sido suspendidos por la red social, mientras que otros continúan disponibles al 2 de enero.
Con el pasar de los días, Grok comenzó a señalar, en algunos casos, que no puede responder al prompt pedido: “No puedo editar imágenes para quitar ropa, pero imagínala en una playa soleada con solo el viento como atuendo. ¿Qué más se te ocurre? 😏”, aseguró la IA de X en uno de los casos.
Grok ya había sido utilizado para generar imágenes violentas y sexualizadas de figuras políticas y famosas y para crear imágenes racistas, xenófobas y asociadas al nazismo de deportistas.
Existen algunos consejos de los especialistas para reducir el riesgo de que Grok utilice nuestras imágenes. Javi Cantón, profesor e investigador en la Universidad Internacional de La Rioja (UNIR), recomendó al sitio de verificación de datos español Newtral no publicar fotos y configurar los perfiles en modo privado. Para esto último, hay que seleccionar en X: “Configuración y privacidad”, “Privacidad y seguridad”, “Audiencia y etiquetado” y marcar el casillero que aparece junto a “Proteger tus publicaciones”.
También se puede deshabilitar las opciones que permiten a Grok entrenarse con tus datos o basarse en ellos para personalizar tu experiencia con la IA. Se debe acceder a “Configuración y privacidad”, “Privacidad y seguridad”, “Grok & Colaboradores externos”, (dentro del epígrafe Intercambio de datos y personalización y selecciones) y desmarcar ambas opciones (también se puede deshabilitar la que permite que Grok recuerde el historial de conversaciones).
Como usuarios, también se puede denunciar este tipo de contenido: buscar los 3 puntitos junto a la publicación, presionar ‘Denunciar’ y seleccionar el motivo correspondiente.
Según explican diversos especialistas, no existe una figura del Código Penal que castigue específicamente la creación de imágenes con inteligencia artificial.
Florencia Zerda, abogada, especialista en género y cibercrimen y fundadora de Genti, una organización que promueve el activismo contra la ciberviolencia de género, indicó a Chequeado que algunas fiscalías del país están intentando llevar adelante investigaciones por estas conductas basadas en el artículo 128 del Código Penal que castiga la tenencia, la distribución, la comercialización y la producción de material de abuso sexual infantil.
“Si la imagen no muestra abusos reales, no encuadra en el delito de tenencia o producción de pornografía infantil del artículo 128 del Código Penal, pero sí habilita acciones legales por daños y perjuicios o penales por delitos contra el honor”, señaló Horacio Azzolin, a cargo de la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI).
Una de las vías legales ya existentes para abordar estos casos es la Ley Olimpia, una normativa que incorpora el concepto de “violencia contra mujeres en entornos digitales” a la Ley 26.485 de “Protección Integral a las Mujeres”.
En el caso de adolescentes varones, Zerda indicó que “la víctima podría interponer una medida cautelar preventiva del derecho civil común para peticionar que se retire este contenido porque afecta derechos fundamentales y el interés superior de niños, niñas y adolescentes, además de estas medidas cautelares para pedir la remoción de contenido”.
Si la imagen ya se difundió, los especialistas recomiendan resguardar la evidencia digital, consultar con un perito informático o un escribano para que se constaten los mensajes o las publicaciones que se hayan hecho antes de instar una acción judicial, y siempre denunciar, si quiere la víctima.
“Aunque no haya quizás una figura legal específica recomendamos hacerlo porque quizás se crean precedentes sobre el artículo 128 del Código Penal. También se pueden hacer acciones civiles o acciones precautorias que le pueden dar un poco de tranquilidad a las personas afectadas”, sostuvo Zerda.
Para más asesoramiento, se puede acudir a la Línea 144 que brinda asistencia y orientación a las víctimas de violencia de género, acudir a la fiscalía más cercana o consultar a Género y TIC, que brinda asesoramiento jurídico y psicológico y ofrece opciones de contacto.
Desde el Ministerio Público Fiscal de la Ciudad de Buenos Aires indican, además, que se puede radicar la denuncia a través del sitio web del organismo.
Además, para evitar la circulación de la imagen adulterada, se puede utilizar Stopncii.org, una herramienta gratuita diseñada para evitar la difusión de imágenes íntimas sin consentimiento. El usuario mayor de 18 años puede subir la foto original y la modificada y así se borrará la imagen de todas partes en internet. La herramienta colabora con grandes plataformas tecnológicas como X, Meta y TikTok.
