Pornografía Deepfake y Violencia de Género

Pornografía Deepfake y Violencia de Género
November 22, 2023

Por Karla Morales

La manipulación de imágenes no es algo nuevo, sin embargo, el proceso para hacerlo ha variado en gran medida en los últimos tiempos con el boom de la Inteligencia Artificial. Los grandes avances recientes y la creciente accesibilidad de esta tecnología han facilitado la creación de material sexual llamativamente realista y engañoso. Por ende, existe una creciente preocupación frente a la cantidad de material deepfake pornográfico no consentido que circula en entornos virtuales como: sitios web, redes sociales e incluso plataformas de mensajería. En ese sentido, la pornografía deepfake se ha convertido en una forma de violencia digital contra las mujeres que utiliza esta tecnología para crear vídeos pornográficos falsos de mujeres sin su consentimiento por entretenimiento, burla y/o venganza. Por ello, en este articulo analizaremos la relación que tiene el deepfake con la pornografía, y como esta se ha convertido en una herramienta para vulnerar los derechos de las mujeres.

¿Qué es el Deepfake?

El Deepfake es una técnica usada para alterar imágenes digitalmente y situar a alguien en un falso escenario. Está técnica ha ido mejorando progresivamente, por lo que cada vez se van perfeccionando estas imágenes fake o falsas haciéndose pasar por auténticas. En ese sentido, el deepfake sería aquella imagen o audio que llega hasta los extremos de la recreación de lo real, cuando la percepción convencional no puede determinar si es verdad o falaz (Cerdán, Padilla, 2019).

Lo que hace que estos videos sean tan creíbles es que los algoritmos del deepfake aprenden a base de la repetición, y esta les da la capacidad de explorar y experimentar en varias posibilidades como: la creación de rostros nuevos no preexistentes, suplantación de identidad, manipulación de atributos (color de piel, ojos, boca, nariz, color de ojos, etc.), cambios de expresión, sincronización del movimiento de los labios al momento de articular palabras y/o reproducción de movimientos corporales.

Otra característica importante, es que se sirve de mecanismos de viralización mediante el uso de redes sociales y plataformas digitales para que su difusión sea masiva. Por ende, ha tenido gran impacto y se ha colocado en la esfera discursiva de la política, la pornografía, el entretenimiento, la desinformación, y la privacidad.

El deepfake crea contenido audiovisuales hiperrealistas personalizados, porque se sostiene de narrativas visuales hipermediáticas y transmedia, es decir, se alimenta de los contenidos que suben o comparten los usuarios en plataformas digitales y redes sociales (Bañuelos, 2020). Sin embargo, ya existen casos donde personas fotografían a otras sin consentimiento, realizando actividades de su vida diaria para luego hacer uso de este contenido y crear fotografías y videos en aplicaciones de generación deepfake.

En ese sentido, es claro que el uso de estas aplicaciones cada vez es más accesible y por ende más fácil de usar, lo que contribuye a que exista más producción de contenidos hiperrealistas, y a la incapacidad de conciencia para distinguir la realidad de la fantasía. El punto clave de la cuestión está en establecer hasta dónde la falsificación atenta contra la dignidad humana y los derechos fundamentales (Bañuelos, 2020).

El ascenso de la pornografía deepfake y sus víctimas

El término deepfake se popularizó en 2017, cuando un usuario autodenominado Deepfakes, utilizó varias fotografías de actrices famosas, las cuales recortó y luego incrustó en otros videos sobre los cuerpos de varias actrices de cine pornográfico. Este material visual fue subido y viralizado en la plataforma Reddit en consecuencia, dicho usuario, en tan sólo dos meses aumentó a 15.000 su número de suscriptores, además de extender el uso de la palabra deepfake para referirse a los videos creados en IA.

En ese sentido, las personas que hacen uso de estas aplicaciones se han mostrado especialmente interesadas en la creación de material pornográfico modificado. En el deepfake no se difunden imágenes íntimas reales, pero sí creadas o figuradas, para que parezcan verosímiles, de la intimidad de sus protagonistas. (Cerdán, Padilla, 2020). Por lo tanto, ya no sólo las celebridades han sido foco de estos productos mal intencionados, sino personas de todo tipo.

Tal es el caso que, el estudio ‘State of deepfakes 2023’ de Home Security Heroes, destaca que la pornografía deepfake representa el 98% de todos los vídeos deepfake online. Además de que el 99% de las personas a las que se dirige la pornografía deepfake son mujeres. Por otro lado, su facilidad de uso y accesibilidad permite la creación de contenido hiperrealista de forma instantánea. En consecuencia, el estudio también señala que en la actualidad para crear un video pornográfico deepfake de 60 segundos tan sólo se necesita una foto nítida del rostro de la víctima y se puede realizar en apenas 25 minutos, sin ningún coste económico.

Es importante destacar que la mayoría de este material se produce sin el consentimiento de las victimas y como suelen ser escenas eróticas o pornográficas, pueden atentar contra la vida privada y la dignidad de la persona con fines de descrédito, burla, y/o lucro. Además de apuntar hacia los usos de estas representaciones sintéticas, resulta conveniente matizar su ámbito subjetivo. Esto es, definir quiénes son los sujetos activos que los utilizan y quiénes los pasivos sobre los que se ejerce la manipulación. (Simó, 2023).

Entendiendo que la pornografía tradicional está construida y pensada desde la cosificación e hipersexualización de los cuerpos de las mujeres, el deepfake pornográfico impacta y afecta directamente a las mismas, convirtiendo a estos montajes pornográficos en una de las principales formas de violencia digital hacia las mujeres y en una problemática emergente de la cual no existe regulación legal.

Deepfakes: otra forma de violencia digital contra las mujeres

Entendiendo que en el mundo offline las mujeres se enfrentan históricamente a diversas formas de violencia - regidas por un sistema cis-heteropatriarcal incrustado en lo social, económico, político y cultural - se hace difícil suponer que esto no va a suceder en el mundo online, que si bien se rige desde otras dinámicas de socialización, la problemática prevalece y se agrava en algunas ocasiones.

Según la Asociación para el Progreso de las Comunicaciones, se entiende a la violencia de género digital como actos de violencia de género cometidos, instigados o agravados en parte o totalmente por el uso de las TIC, plataformas de redes sociales y correo electrónico; y causan daño psicológico y emocional, refuerzan los prejuicios, dañan la reputación, causan pérdidas económicas y plantean barreras a la participación en la vida pública y pueden conducir a formas de violencia sexual y otras formas de violencia física (APC, 2015).

Es evidente que con el avance de las tecnologías de la comunicación, la violencia contra las mujeres ha tomado nuevas formas y se adapta a distintos contextos. En el caso específico del deepfake la tecnología se ha usado para desacreditar o chantajear a mujeres en un intento de silenciarlas o socavarlas. Por lo general, en primera instancia no existe el consentimiento para generar este tipo de contenidos, y por otra parte, aunque los cuerpos no sean suyos en los montajes, sí lo es la cara de las víctimas. Esto produce un profundo daño a su imagen en el que la identidad y conducta de una mujer pueda ser manipulada con cierta facilidad e impunidad derivada de la dificultad de identificar la falsedad y de tener que combatir la incertidumbre y la confusión que estas producciones sintéticas generan (Simó, 2023).

Por ello, es un problema emergente que ha escarbado hasta los lugares más íntimos de las vidas de las mujeres, ya que las personas que comúnmente crean y divulgan estos contenidos son compañeros de clase, amigos, hermanos, novios u exparejas. Tal es el caso, que hace poco estudiantes de un colegio de Quito utilizaron fotografías de sus compañeras para crear alrededor de 700 videos sexuales deepfake, donde se vieron perjudicadas al menos 20 estudiantes.

En otra estancia, la combinación entre deepfake y violencia de género puede resultar provechoso para hombres maltratadores que, como método de venganza, utilizan fotografías compartidas en redes sociales para controlar, intimidar, aislar y avergonzar a sus víctimas; o en el caso de mujeres políticas, periodistas u activistas utilizan está herramienta para exhibirlas como objetos de consumo y escrutinio público para centrar la atención mediática en su imagen y cuerpos, con el objetivo de dañar su imagen pública y deslegitimar sus capacidades de liderazgo, convirtiéndolas en blanco del odio en las redes sociales.

El problema de los deepfakes no es sólo que son perfectos para que parezcan verosímiles, sino que la gente se los quiere creer porque coinciden con su sesgo ideológico y los redifunde sin contrastar, porque les gustan y quieren pensar que es verdad.

Esta forma de violencia digital contra las mujeres tiene un impacto directo a su salud mental trayendo consecuencias como: la depresión, la ansiedad, autolesiones y, como ya se han visto en algunos casos, el suicidio. Asimismo, vulnera varios derechos como: la protección de datos, privacidad, la intimidad, honor y propia imagen, el acceso a la justicia, la libertad de expresión, etc. En ese sentido, la vulneración de la protección de datos adquiere especial énfasis porque existe una difusión de información que, aunque sea esencialmente falsa, utiliza datos personales reales, lo cual se agrava al momento de compartir o difundir estas creaciones deepfake a terceras personas.

Es importante tener en cuenta que la responsabilidad de esta problemática no sólo recae en los creadores de estos contenidos, sino también en las empresas tecnológicas, los medios de comunicación y las plataformas de Internet. Por ello, es necesario establecer un marco jurídico con perspectiva de género que permita develar la violencia contra niñas y mujeres en medios digitales y establecer normas que velen por la erradicación de ésta y la protección en el espacio cibernético.

Referencias bibliográficas: