Violencia Digital y Género: El Auge del «Deepfake» y la IA.
Beleguí – Lucero
Ma cuchaa lu bini / Los rostros comienzan a transformarse
Rihuini ma cacá guí ca’ / Se ven los gestos obscenos
Rini’ca’ diidxa’ ni nua’ guendaracala’dxi naí’ / Palabras cargadas de agrio deseo se escuchan
Fragmento poema Beleguí. Pineda, I. (2020). Nasiá racaladxe’ / Azul anhelo. Editorial Universidad de las Américas Puebla.
La cuarta revolución industrial ha propiciado avances tecnológicos importantes, uno de ellos ha sido sin duda la Inteligencia Artificial, que es un conjunto de tecnologías que se integran, configuran, conectan y trabajan en conjunto para “simular” el comportamiento del cerebro humano. Su base tecnológica es el Machine Learning o aprendizaje automático y el análisis de datos, con ese contexto podemos darnos una gran idea de que el funcionamiento y la manera en que estas herramientas, tecnologías y soluciones nuevas están y siguen construidas con sesgos.
Parte de esos sesgos es la poca representación de datos, evidencias o información que represente a las mujeres, personas que se identifican como mujeres y grupos poco reconocidos como pueblos indígenas e infancias, esto ha fomentado y generado nuevas formas de violencia contra las mujeres y las niñas.
El origen de la violencia digital se remonta al uso de las redes sociales, que facilitaron el ciberacoso, además la digitalización de procesos como gestión de cuentas bancarias, trámites gubernamentales, acceso a productos de consumo como préstamos rápidos, compras online, educación y creación de contenido, fomentaron formas de violentar como la extorsión, el acoso sexual, la suplantación de identidad, monitoreo y asecho, abuso sexual relacionado con la tecnología y la divulgación de contenido sexual sin consentimiento.
Aunque parezca una ironía, estas formas de violencia se materializan por personas conocidas, siendo las mujeres el grupo más afectado, y en su mayoría los causantes son exparejas o miembros de círculos cercanos que se identifican como hombres.
La violencia digital es aquella que se inicia, comete y expande a través de medios digitales, de redes sociales y plataformas: plataformas de videojuegos, dispositivos móviles en sus servicios de llamadas y mensajes, que causa daños a la dignidad, integridad y seguridad de las víctimas, y propician la violencia de género contra las mujeres, para silenciar y excluir su participación y libre acceso al ecosistema digital, impidiendo el ejercicio de sus derechos como libertad de expresión, información y no discriminación.
En la actualidad el internet es parte esencial de la estructura e interacción social, así como el desarrollo de identidad para algunas mujeres. La violencia digital propicia la violencia machista que viven mujeres y niñas en distintos espacios, ya sea, públicos, laborales y familiares. No hay una separación de violencia en línea o violencia fuera de línea, es violencia real como cualquier otra forma.
En el 2026 aproximadamente 10.6 millones de usuarias en internet mayores a 12 años han sido víctimas de violencia digital. En este espacio se producen comportamientos discriminatorios y violentos en contra de las mujeres que se encuentran normalizados y hasta incentivados por algunas instancias como la “machoesfera”, que son comunidades en línea que promueven la idea de que el control emocional, la riqueza material, la apariencia física y la dominación —especialmente sobre las mujeres— son indicadores del valor de los hombres.
La misoginia e ideas radicales buscan etiquetar a las mujeres y niñas como las creadoras, responsables o incluso el origen de muchas formas de violencia. La tecnología ha facilitado la violencia digital, y este acto vulnera y pone en riesgo a grupos que van desde mujeres jovenes y niñas, mujeres que atraviesan alguna forma de discriminación y mujeres que mantienes una vida pública y política.
Con la evolución e implementación de sistemas cada vez más sofisticados y herramientas digitales de Inteligencia artificial, que han transformado varias áreas de nuestra vida en el espacio digital, se han generado nuevos retos de seguridad y protección. Mismos resultan graves y alarmantes, ya que se usan estas herramientas de IA para crear contenido falso, y que representan violencia sexual digital, y que son conocidos como Deepfakes: imágenes, videos o audios generados y/o manipulados mediante Inteligencia Artificial con la intención de aparentar realidad.
Su uso incluye entretenimiento, animaciones o efectos visuales, creación de contenido falso, con percepción e intención sexual, abuso, violencia, entre otros. Esto facilita que personas sin conocimientos especializados y técnicos puedan crear contenido falso ultra realista o hiperrealista, que da como resultado la producción y difusión de material sensible y de abuso sexual, fraude, ciberdelincuencia, violencia contra menores, difamación y daño a la reputación, que atenta directamente contra la privacidad, dignidad y seguridad de las personas.
Las consecuencias de ser víctima de violencia digital, tienen un impacto rádical en las mujeres y niñas que la sufren. Han tenido que cambiar totalmente su estilo de vida y percepción del cuidado y la seguridad, lo que trae consecuencias en su vida diaria; pueden abandonar sus estudios, limitar su presencia en línea y sufrir problemas graves de salud mental. Esto complejiza su percepción de confianza y socialización, e incluso lleva a la víctima al riesgo de atentar contra su vida.
Los Deepfakes son formas de violencia que revictimizan, estigmatizan y ponen en riesgo la seguridad y bienestar de las mujeres y niñas en el mundo digital; ya que existe una limitada propuesta en el marco legislativo y políticas públicas que erradiquen el uso malicioso de deepfakes.
Uno de los caminos hacia un entorno digital más seguro es la alfabetización digital. Porque si seguimos navegando en un internet que fue construido con un contexto patriarcal, utilizando herramientas de IA entrenadas por algoritmos sesgados e intencionando desigualdades con el uso y recopilación de información y datos que no son neutrales, una respuesta es la alfabetización digital y la implementación de acciones en nuestros dispositivos móviles y cuentas digitales.
Si ya fuiste o eres víctima de violencia digital te digo que no estás sola, te abrazo y te doy todo mi apoyo ¡No es tu culpa!
Antes de caer en pánico busca ayuda y acércate con tu red de apoyo, cambia tus contraseñas de acceso a redes sociales o cuentas donde existan fotografías tuyas. Si se materializó un secuestro de información, no caigas en pánico y reporta tu cuenta con el fabricante o plataforma para que puedas iniciar un protocolo de recuperación; reporta el contenido dañino y violento y atiende una denuncia en las instancias públicas correspondientes citando las leyes que amparen el delito como la Ley Olimpia.

