Elon Musk desactivó el generador de imágenes con IA de Grok tras denuncias de desnudos infantiles
La plataforma X del multimillonario Elon Musk limitó a usuarios de pago el uso de su herramienta de inteligencia artificial Grok para editar imágenes tras varias denuncias de personas cuyas imágenes se vieron retocadas sin su consentimiento, entre ellas muchas fotos de mujeres en bikini o incluso desnudas. Y aún más: niños y adolescentes.
Ahora, el nombre y la información de pago del usuario estarán asociados a la imagen editada, sea del tipo que sea. "Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", señaló Musk en X.
Grok es una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que atendió peticiones de usuarios para editar imágenes de mujeres y mostrarlas en bikini o sin ropa, lo que desató una fuerte oleada de denuncias y quejas.
Según detalla EFE, desde este viernes Grok informa a los usuarios que le piden que modifique las imágenes subidas a X de que "la generación y edición de imágenes están limitadas a los suscriptores de pago", y que solo pagando podrán acceder a las funciones de edición bajo su propia responsabilidad.
La profesora de Filosofía de la Universidad británica de Cardiff, Daisy Dixon, una de las usuarias que había denunciado que había personas en la red X que utilizaban Grok para desnudarla, reaccionó al anuncio de la red social considerando que el cambio es "un parche".
"Al parecer, Grok desactivó su función de generación de imágenes. Esto supondrá una pausa en las ofensas, lo cual es positivo, pero me preocupa que se trate de un parche improvisado para ocultar un problema de más grave: el diseño de una herramienta de inteligencia artificial poco ética y difusora de la misoginia", señala Dixon en una publicación hecha esta misma mañana.
"El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos. Pero Elon Musk debe reconocerlo, estamos ante otra violación por motivos de género", añade la filósofa, quien en previas ocasiones llamaron la atención de que más de las 95% de los abusos sexuales con imágenes no consentidas en esta red van dirigidos contra las mujeres.
Numerosos gobiernos de todo el mundo, sobre todo europeos, calificaron de “repugnante” la generación de imágenes sexualizadas de niños y mujeres mediante Grok en los últimos días y anunciaron medidas y posibles sanciones.
En el caso de España, la ministra de Juventud e Infancia, Sira Riego, pidió esta semana a la Fiscalía General del Estado que investigue a X y su herramienta de IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”.
En Francia, la Fiscalía advirtió que desnudar a otros sin consentimiento se castiga con dos años de prisión y con sanciones de hasta 60 mil euros.