La Agencia Española de Supervisión de la Inteligencia Artificial y el Instituto de las Mujeres firman un convenio para abordar violencia digital y sesgos de género en sistemas de IA

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Ministerio de Igualdad, a través del Instituto de las Mujeres, han formalizado una colaboración para hacer frente a la violencia digital y corregir los sesgos de género presentes en los sistemas de inteligencia artificial. Para llevar a cabo este proyecto ambas instituciones han firmado un convenio y una declaración institucional sobre la protección de derechos fundamentales de la mujer y los menores.

El ministro para la Transformación Digital y de la Función Pública, Óscar López, anunció que ambas instituciones aportarán documentación y análisis técnicos a la investigación abierta por la Comisión Europea sobre el asistente de IA Grok de la plataforma X. Óscar López también denunció prácticas como la manipulación de imágenes de menores mediante IA, calificándolas como intolerables y destacando la necesidad de una mayor regulación para evitar que la IA y las redes sociales se conviertan en espacios sin control.

Por su parte, la ministra de Igualdad, Ana Redondo, destacó que avanzar en igualdad en el entorno digital es imprescindible para poder garantizar la igualdad en la vida real. Además, subrayó que España se ha convertido en un referente en protección de la igualdad y democracia analógica, por lo que también necesita avanzar en democracia digital.

En el marco de esta cooperación, la AESIA facilitará a la Comisión Europea y la Oficina de IA europea evidencias técnicas y documentales sobre el uso de sistemas de IA que permiten generar y difundir imágenes sexualizadas manipuladas sin consentimiento. En esta recopilación de documentos también participa el Instituto Nacional de Ciberseguridad (INCIBE).  Paralelamente, el Instituto de las Mujeres elaborará un informe sobre la situación de España, utilizando la experiencia de entidades públicas y privadas para preservar la protección de los derechos fundamentales.

La declaración conjunta sobre La protección de derechos fundamentales de la mujer y menos en un mundo generado por la inteligencia artificial, firmada por ambas entidades, reconoce los esfuerzos de la Unión Europea en la lucha contra la violencia digital y solicita que continúe liderándola. El texto advierte de que la producción de contenidos misóginos, sexistas y de odio en redes sociales limita la participación de mujeres, afecta a su salud mental y puede generar situaciones de acoso, violencia física e incluso la muerte.

Convenio AESIA e Instituto de la Mujer

El convenio establece un marco de colaboración para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España. AESIA e Instituto de Mujeres trabajarán en la detección, prevención y corrección de los sesgos de género en sistemas de IA. Esto ayudará a reforzar la protección de los derechos fundamentales en sistemas de alto riesgos, y asegurará que las decisiones automatizadas no provoquen discriminación. Además, se impulsarán acciones de sensibilización, formación y participación ciudadana, así como estudios e informes en el Laboratorio de Ideas de AESIA.

La iniciativa también habla de la creación de una Comisión de Seguimiento encargada de garantizar la continuidad y correcta ejecución de estas actuaciones durante todo el periodo de vigencia del acuerdo.