Los deepfakes son contenidos generados con inteligencia artificial para crear secuencias falsas pero realistas. En la Argentina, varias escuelas reportaron casos de videos falsos con contenido pornográfico, y la problemática preocupa a los adolescentes y sus familias.
Sociedad06 de enero de 2025 Chequeado.com
El uso de la inteligencia artificial para producir deepfakes con contenido sexual no consentidos está generando preocupación a nivel global y también en la Argentina. La utilización de esta tecnología para crear videos falsos con contenido pornográfico se reportó en escuelas de la Provincia de Buenos Aires, Córdoba, Chaco, Río Negro y San Juan.
A nivel mundial, la situación no es diferente, y existen miles de casos registrados en Corea del Sur, los Estados Unidos y Europa. Según el informe anual State of Deepfake 2023 de la empresa Security Hero que analiza al panorama en los Estados Unidos, la cantidad de deepfakes que simulan pornografía aumentó 464% en 2023. El 99% de este contenido falso está compuesto por mujeres.
¿Qué dice la legislación argentina sobre la creación y difusión de deepfakes con contenido sexual? ¿Cómo actuar ante la difusión de imágenes íntimas sin consentimiento? Te lo contamos en esta nota.
Se trata de un contenido generado sintéticamente con tecnología basada en inteligencia artificial (IA) con el objetivo de crear secuencias falsas pero realistas: a veces son imágenes y otras con videos con o sin voz real o clonada.
En éstas se busca modificar la apariencia física e incluso la voz de las personas y hacerles decir o hacer algo que nunca dijeron o hicieron. Se denominan deepfake por la comunicación de deep learning (aprendizaje profundo, en inglés) y fake (falso, en inglés).
“No hay una figura del Código Penal que castigue específicamente la creación de imágenes con inteligencia artificial”, explicó a Chequeado Florencia Zerda, abogada, especialista en género y cibercrimen y fundadora de Genti, una organización que promueve el activismo contra la ciberviolencia de género.
Según indicó la especialista, algunas fiscalías del país están intentando llevar adelante investigaciones por estas conductas basadas en el artículo 128 del Código Penal que castiga la tenencia, la distribución, la comercialización y la producción de material de abuso sexual infantil. “La realidad es que es difícil que se logre una condena porque allí no se habla de inteligencia artificial ni de imágenes creadas con IA. Considero que debería crearse una figura específica”, agregó Zerda.
Según explicó a Chequeado el fiscal Horacio Azzolin, a cargo de la Unidad Fiscal Especializada en Ciberdelincuencia (UFECI), desde que se incorporó la figura de abuso sexual en en el Convenio de Budapest [N. de R.: un tratado internacional creado con el objetivo de proteger a la sociedad frente a los delitos informáticos y los delitos en Internet], a principios de siglo, se discutió acerca del tipo de imágenes juzgadas: ¿debían ser imágenes reales o podían ser simuladas?.
“En ese entonces, el problema eran los dibujos. La convención dejó abierta la posibilidad para cada país y Argentina optó por sancionar la producción y tenencia de imágenes reales porque lo que protege la norma es la integridad sexual de niños y niñas”, explicó el especialista.
Esa misma discusión resurge con la inteligencia artificial. “Si la imagen no muestra abusos reales, no encuadra en el delito de tenencia o producción de pornografía infantil del artículo 128 del Código Penal, pero sí habilita acciones legales por daños y perjuicios o penales por delitos contra el honor”, señaló Azzolin.
Por el momento, una de las vías legales ya existentes para abordar estos casos es la Ley Olimpia, una normativa que incorpora el concepto de “violencia contra mujeres en entornos digitales” a la Ley 26.485 de “Protección Integral a las Mujeres”.
“Con esta ley se le da la posibilidad a las mujeres, en este caso menores de edad, que sufren estas conductas. Por ejemplo, si el material está alojado en algún link que puede ser identificable, la persona denunciante podría solicitar el retiro de este contenido, la conservación de los datos informáticos y la posterior revelación para una investigación posterior que se realice ya sea por un delito o por daños y perjuicios”, indicó Zerda y aclaró que la Ley Olimpia solo aplica a víctimas que son mujeres.
En el caso de adolescentes varones, Zerda indicó que “la víctima podría interponer una medida cautelar preventiva del derecho civil común para peticionar que se retire este contenido porque afecta derechos fundamentales y el interés superior de niños, niñas y adolescentes, además de estas medidas cautelares para pedir la remoción de contenido”.
Para Ana Correa, coordinadora del posgrado sobre violencia de género en entornos digitales de la Facultad de Derecho de la Universidad de Buenos Aires, la falta de legislación está produciendo demasiado daño a las víctimas de deepfakes sexuales.
“Si bien hay herramientas importantes para aplicar en los casos de elaboración y difusión de deepfakes de índole sexual como el actual delito de injurias y la Ley Olimpia, urge incorporar a la Educación Sexual Integral (ESI) la prevención y concientización en niños y niñas sobre esta herramienta que genera mucho malestar, dolor y consecuencias sociales y en la salud mental, tanto en las víctimas como en los perpetradores menores de edad”, sostuvo.
Existen diversos proyectos legislativos en curso para penalizar estas conductas. “Desde la organización Gentic y el grupo Ley Olimpia Argentina, presentamos con la diputada Mónica Macha (Unión por la Patria) un proyecto complementario a Ley Olimpia”, explicó Zerda. El proyecto presentado por Macha, denominado “Ley Belén”, prevé penalizar específicamente la figura de los montajes con inteligencia artificial.
También existen otros proyectos que proponen penalizar la creación y difusión de contenidos deepfake sin consentimiento, como el presentado por el diputado nacional Juan Brügge (Encuentro Federal), o el proyecto de la diputada Silvana Giudici (PRO) que propone incorporar al Código Penal penas de prisión de hasta 6 años y multas para quienes utilicen estas tecnologías sin autorización del titular de los datos con la intención de causar daño.
El 2 de diciembre último se presentó otra propuesta por parte de la diputada por Chubut Eugenia Alianiello y el diputado por Jujuy Guillermo Snopek (Unión por la Patria) para regular los delitos contra la integridad sexual. La propuesta es incorporar 2 artículos al Código Penal para proteger a niños, niñas y adolescentes de la violencia digital.
En el resto del mundo, también se están adecuando las normas para tipificar la creación y distribución del deepfake como un delito. Se destacan las legislaciones de algunos estados de los Estados Unidos, como Virginia y California, o Gales e Inglaterra que regulan el material deepfake que simula material audiovisual de contenido sexual.
En la Unión Europea, esta problemática fue contemplada en la flamante Ley de Inteligencia Artificial que se complementa con las leyes de privacidad existentes y establece un sistema de etiquetado para las tecnologías de IA pero no contempla mecanismos punibles. Por eso se está trabajando en una normativa que penaliza la creación de deepfakes sexualmente explícitos.
En Corea del Sur y en Inglaterra, se aprobaron proyectos de ley que tipifican como delito poseer y compartir imágenes y videos deepfakes sexualmente explícitos, con penas que incluyen hasta 7 años de prisión y multas. En España, se aprobó un anteproyecto que tipifica como delito las ultra falsificaciones, que incluyen la creación y distribución de vídeos, fotos o audios manipulados que parecen reales.
Con respecto a cómo actuar en caso de difusión de imágenes íntimas, sean o no deepfakes, Zerda indica que es recomendable el acompañamiento terapéutico para las víctimas: “No juzgarlas, no revictimizarlas, no cuestionar la actividad digital que tienen. Es muy común en los padres decir: ‘Bueno, ¿por qué subiste tantas fotos a tu Instagram? Ahora te las robaron’. No caer en ese tipo de cuestionamientos porque no suman nada, perturban a los y las adolescentes”.
“Aunque no haya quizás una figura legal específica recomendamos hacerlo porque quizás se crean precedentes sobre el artículo 128 del Código Penal. También se pueden hacer acciones civiles o acciones precautorias que le pueden dar un poco de tranquilidad a las personas afectadas”, sostuvo Zerda.
Para más asesoramiento, se puede acudir a la Línea 144 que brinda asistencia y orientación a las víctimas de violencia de género, acudir a la fiscalía más cercana o consultar a Género y TIC, que brinda asesoramiento jurídico y psicológico y ofrece opciones de contacto.
Desde el Ministerio Público Fiscal de la Ciudad de Buenos Aires indican, además, que se puede radicar la denuncia a través del sitio web del organismo.
Uno de los momentos más conmovedores fue cuando alumnos de las escuelas entregaron mensajes a los excombatientes. La ofrenda floral se realizó junto al monolito de Malvinas, con la participación del intendente, veteranos y familiares.
El lunes 24 de Marzo, la Municipalidad de Sunchales llevó adelante una jornada de reflexión y encuentro para mantener viva la memoria y reafirmar el compromiso con los valores democráticos.
El Juicio a las Juntas y los cientos de juicios llevados a cabo en todo el país desde 2006 sobre los crímenes de la última dictadura probaron diversos actos perpetrados entre 1976 y 1983. En muchos expedientes se probó la existencia de un plan sistemático de exterminio realizado por los comandantes de las Fuerzas Armadas.
A 49 años del golpe de Estado, la Procuraduría de Crímenes contra la Humanidad presentó un informe actualizado sobre el estado de las causas por delitos de lesa humanidad en la Argentina. Cerca de 1.200 personas fueron condenadas por crímenes de lesa humanidad desde 2006 y casi 200 resultaron absueltas.
La Municipalidad de Sunchales invita a la comunidad a participar de las actividades conmemorativas que se desarrollarán este lunes 24 de marzo, a partir de las 17:00, en Casa Steigleder.
El acto se desarrolló el jueves 20 de marzo en Casa de la Cultura, en el marco del Día Municipal del Voluntariado.
La provincia Santa Fe irá en tres oportunidades a las urnas durante el año. Lo que tenés que saber: cronograma, detalles sobre las categorías y las diferencias entre los comicios.
Mientras la justicia santafecina analiza la documentación presentada en febrero cuando se requirió la apertura del concurso, el estudio jurídico que patrocina a la mayoría de los acreedores pretende negociar en una situación de paridad con la empresa, a fin de tener garantías reales de cobro”.
A partir de las 20:30 de este miércoles 2 de abril, Libertad recibirá a Unión por la tercera fecha del Torneo de Primera División «Memo Bertoldi». Ambos llegan a este enfrentamiento con puntaje ideal y liderando la competencia.
El ministro de Economía, Pablo Olivares, detalló que el beneficio alcanza a quienes perciban un ingreso de hasta 2.5 millones de pesos y tengan gastos en remedios que superen el 5% de ese total.
Uno de los momentos más conmovedores fue cuando alumnos de las escuelas entregaron mensajes a los excombatientes. La ofrenda floral se realizó junto al monolito de Malvinas, con la participación del intendente, veteranos y familiares.