Una mujer revisa su celular antes de dormir y recibe un video inesperado. En la pantalla aparece su rostro: los gestos y  expresión parecen auténticos, pero el contenido nunca pasó. Se trata de una pieza creada con inteligencia artificial que muestra cómo la violencia de género ha encontrado nuevas formas en entornos digitales. ¿Puede la tecnología ser solo una amenaza o también una herramienta para enfrentar estas experiencias? ¿Está la legislación chilena preparada para abordarlo?

Según un estudio de The Economist Intelligence Unit, el 38% de las mujeres ha vivido violencia en línea, mientras que el 85% de quienes interactúan en plataformas digitales ha sido testigo de agresiones en estos espacios.

Una de las manifestaciones más complejas y aceleradas por la tecnología son los deepfakes, contenidos audiovisuales generados con IA que imitan el rostro, voz o movimientos de una persona a partir de fotografías o videos previos. Un caso reciente ocurrió en el Colegio Saint George, donde estudiantes generaron material falso e inapropiado usando imágenes de sus compañeras menores de edad.

Home Security Heroes reveló que la pornografía deepfake representa el 98% de todos los videos deepfake en línea y que en 2023, circuló un 550% más de videos que en 2019. ¿Pero por qué es tan fácil su difusión?

Alexandra García, representante del Comité de Género del Centro Nacional de Inteligencia Artificial (CENIA), explicó que estos contenidos se generan con rapidez y a muy bajo costo, lo que facilita su propagación. Por otro lado, agregó que cualquier persona con imágenes públicas en línea está expuesta, ya sea a videos falsos o a catfish (suplantación de identidad).

Reconocer un contenido generado con IA

La especialista señala que, aunque la IA ofrece múltiples beneficios, también facilita nuevas formas de violencia digital. “Me atrevería a decir que adolescentes y menores son los más expuestos. Quizás el único consenso alcanzado por los modelos es la necesidad de restringir con absoluta firmeza cualquier contenido que involucre material de menores de edad”, plantea.

Sobre cómo identificar contenido generado con IA, comenta que “se habla de incorporar información en los píxeles como marca de agua, porque cada vez será más difícil de distinguir. Sin embargo, hasta donde sabemos, esto aún no está implementado”.

Para lidiar con ello, poco a poco han surgido iniciativas para rastrear o comprobar la autenticidad de los contenidos. Un ejemplo de esto es Alecto AI, creada por una mujer china que descubrió un video suyo circulando sin su consentimiento. A nivel local, desde CENIA, UAbierta y Women at the Table también han impulsado acciones preventivas, como el curso “Inteligencia Artificial y Derechos Humanos”, que busca democratizar el conocimiento sobre IA, especialmente en estudiantes de enseñanza media.

En ese camino, para construir un futuro en línea más responsable, García advierte que la IA ha sido desarrollada mayoritariamente por hombres, lo que ha influido en que persistan sesgos como la discriminación racial o la representación estereotipada de las mujeres. Por eso, desde su visión, incorporar a más mujeres y diversidades en el desarrollo de estas tecnologías y en general en el área STEM,  podría ser una oportunidad clave.

¿Cómo abordarlo desde la legislación chilena?

La abogada UdeC y Máster en Criminalidad de la Universidad de Cádiz, Carla Retamal, explica que hoy las víctimas deben moverse dentro de un marco jurídico disperso, donde distintas normas se aplican según el tipo de agresión y el contexto en que ocurre.

“No existe una normativa unificada, sino un conjunto disperso de herramientas legales. Por un lado, el Código Penal contempla delitos vinculados a la intimidad, como la difusión de contenido íntimo, el acoso u hostigamiento digital, también hay delitos como amenazas y el maltrato habitual que pueden aplicarse a estos casos. Por otro lado, muchas formas de violencia digital no constituyen delito, pero igualmente pueden denunciarse por diversas vías: tribunales de familia (Ley N° 20.066 de Violencia Intrafamiliar), procedimientos de tutela laboral si se dan en el trabajo, recursos de protección por afectación de honra o vida privada, y mecanismos administrativos como la Superintendencia de Educación o la Dirección del Trabajo”, sostiene.

De acuerdo a la profesional con trayectoria en causas de violencia de género y vulneración de derechos a niños, niñas y adolescentes en instituciones públicas chilenas, antes de la Ley 21.675, la protección legal frente a la difusión de imágenes íntimas era limitada: el Código Penal solo sancionaba la captación y divulgación no autorizada cuando la víctima no había consentido la grabación, sin embargo hoy, con la Ley Integral, se incorpora el artículo 161-D, que sanciona la exhibición no autorizada de registros íntimos o de contenido sexual, independientemente de cómo se obtuvieron, cubriendo así un vacío importante.

Para Retamal, la incorporación de la violencia simbólica representa un avance relevante, sobre todo porque se aplica directamente a los entornos digitales. Asimismo, la abogada destaca otras aristas pertinentes. “Se pone énfasis en la celeridad en el otorgamiento de medidas, lo que hace que el procedimiento sea más expedito, y entre las medidas se contempla la de ‘prohibir o restringir todo tipo de comunicaciones de quien ejerce violencia respecto de la víctima’”, explica.

A la espera de que vea la luz el Proyecto de Ley sobre Violencia Digital, que busca tipificar como delito la difusión, exhibición o envío de contenido íntimo sexual recibido con consentimiento; el hostigamiento por cualquier medio; el doxing o publicación de datos personales, entre otras aristas, Carla Retamal enfatiza el rol de distintos actores de la sociedad para mejorar la respuesta frente a estas situaciones.

“Creo que el principal obstáculo es la victimización secundaria, es decir, el daño adicional que sufre una persona al interactuar con el sistema de justicia u otras instituciones. La Ley N° 21.675 incorpora mecanismos relevantes de sensibilización y formación para quienes intervienen en las etapas de denuncia, investigación, sanción y reparación, reconociendo que esta preparación es clave para una atención adecuada. (…) Las normas funcionan cuando quienes las aplican entienden su rol en el cambio cultural e institucional que se busca; de lo contrario, la ley queda reducida a letra muerta.” finaliza.