El ministro para la Transformación Digital y de la Función Pública, Oscar López, y la de Igualdad, Ana Redondo, firmaron este acuerdo y una declaración institucional sobre la protección de derechos fundamentales de la mujer y los menores, en el marco del acto ‘Igualdad Digital Ya’ celebrado en la sede de Transformación Digital con motivo del Día Internacional de la Mujer, 8-M.

La Aesia compartirá evidencias técnicas y documentales con la Comisión Europea y la Oficina de IA europea para contribuir de forma eficiente a sus investigaciones sobre el uso de sistemas de IA en redes sociales que permiten la creación y difusión de imágenes sexualizadas o sexualmente explícitas manipuladas sin consentimiento. En esta recopilación de documentación, colaboró el Instituto Nacional de Ciberseguridad (Incibe).

El Instituto de las Mujeres también elevará un informe sobre la situación en España, que aportará la visión y las evidencias recopiladas por actores e instituciones públicas y privadas con el fin de preservar el pleno respeto a los derechos fundamentales y los fundamentos del Estado de derecho.

Óscar López denunció los abusos en redes y en sistemas de IA. Señaló la “colaboración con Bruselas para los procedimientos que está siguiendo contra X y contra Grok” y alertó sobre prácticas gravísimas: “Aquellos que cogen vídeos de niñas los suben a Grok y le piden que las desnude” son una “manipulación de las imágenes horribles que no podemos consentir”.

Además, afirmó que “no vamos a parar” de trabajar en esto “contra quienes piden que las redes y la inteligencia artificial sigan siendo la ley de la selva”.

En su caso, Ana Redondo destacó que la igualdad es “paz, democracia y derechos humanos” y advirtió que la violencia digital se traslada fuera de las pantallas porque “se reproduce en la vida real”. Asimismo, Redondo reivindicó avanzar ahora en “democracia digital”, del mismo modo que España lo hizo en la esfera analógica.

En la declaración institucional firmada por ambas partes se reconoce la gravedad de la violencia machista en el entorno digital. El texto alerta de que la “producción de un alto contenido misógino, sexista y de discursos de odio en las redes sociales obstaculiza y desalienta la participación y el liderazgo femenino”.

Del mismo modo, subraya consecuencias graves como que estos abusos “afectan a la salud mental, silencian a las mujeres y niñas y provocan situaciones de acecho, violencia física e incluso la muerte”.

El convenio firmado establece un marco para integrar la igualdad de género en todo el ciclo de supervisión y uso de la IA en España. Ambas entidades colaborarán en la detección, prevención y corrección de sesgos de género en sistemas de IA y en reforzar la protección de derechos fundamentales en sistemas de alto riesgo.

La Aesia, por su parte, “alertará sobre sistemas de alto riesgo, compartirá documentación, organizará pruebas técnicas y formará a su personal en materia de igualdad".

Igualmente, el acuerdo impulsará acciones conjuntas para promover una cultura de IA ética y responsable, participación en el Laboratorio de Ideas de Aesia, elaboración de informes, iniciativas de participación ciudadana y eventos de debate. Todo ello será supervisado por una Comisión de Seguimiento creada para garantizar la continuidad del plan.