IA, sextorsión y deepfakes: la nueva cara del machismo en redes sociales

El Palau Macaya de la Fundación ”la Caixa” ha sido el escenario del primer gran debate sobre violencia de género en el entorno digital. Bajo el título “Cómo afrontar la violencia digital de género”, la sesión —organizada junto al Observatorio de Derechos Digitales— reunió a destacados expertos para analizar el impacto devastador que tiene este tipo de agresiones en redes sociales, plataformas de mensajería y otros entornos digitales.

Amenazas, sextorsión, campañas de desprestigio y deepfakes son solo algunas de las herramientas con las que, a diario, miles de mujeres y niñas son atacadas en el entorno online. La investigadora Eleonora Espósito, experta nacional destacada de la Comisión Europea, fue contundente: “Estamos ante una extensión de la violencia machista al siglo XXI, y debe enfrentarse con la misma seriedad y urgencia que cualquier otra forma de violencia de género”.

Inteligencia Artificial: ¿aliada o amenaza?

Uno de los puntos más candentes del debate fue el papel de la Inteligencia Artificial. Tanto Espósito como el fiscal especializado en criminalidad informática, Gabriel González Fernández, coincidieron en que la IA es “un arma de doble filo”. Si bien sus algoritmos pueden servir para detectar lenguaje abusivo o eliminar contenido íntimo no consentido, también pueden usarse para crear imágenes falsas de carácter sexual, como los peligrosos deepfakes.

González subrayó que “las redes permiten cometer cualquier delito y eso es especialmente grave cuando se trata de violencia de género”, reclamando una reforma del Código Penal para limitar el acceso a redes de los agresores y adaptar la ley a los nuevos tiempos digitales.

Impacto brutal, leyes desfasadas

Los expertos no solo abordaron los daños individuales —como la pérdida de bienestar, salud mental o visibilidad profesional— sino también el efecto colectivo de estas violencias, que socavan la diversidad de voces en el espacio público digital. “Muchas mujeres hemos terminado en un búnker digital, silenciadas, eliminando nuestras cuentas o restringiendo quién puede comentar”, afirmó la activista y consultora Yolanda Domínguez.

Desde Europa, Espósito llamó la atención sobre la falta de coordinación internacional: “Cada país actúa de forma distinta y subestima el problema, lo que dificulta su persecución y el análisis de datos”. No obstante, destacó dos avances clave: la Directiva europea sobre violencia contra las mujeres y la Ley de Servicios Digitales (DSA), que por primera vez reconoce explícitamente la violencia digital de género.

Urge una respuesta política y social

Olivia Blanchard, moderadora del encuentro y directora científica del ciclo Nuestros derechos en la era digital, señaló que “el desarrollo tecnológico de los últimos 10 años ha transformado radicalmente nuestras vidas, pero también ha abierto nuevas puertas al abuso y la violencia”.

La sesión concluyó con un llamamiento unánime: consolidar avances normativos, reforzar la rendición de cuentas de plataformas tecnológicas y fomentar una cultura digital que proteja los derechos, especialmente de las mujeres.

“No puede ser que en una democracia las mujeres tengamos que limitar nuestra participación online porque hay hombres y bots que ejercen violencia sin control”, sentenció Domínguez.

Este ha sido solo el primer debate del ciclo organizado por Fundación ”la Caixa” y el Observatorio de Derechos Digitales. Las próximas sesiones abordarán cómo la digitalización afecta a ámbitos clave como la salud, el trabajo o la relación con la administración pública.