La Agencia Española de Supervisión de la Inteligencia Artificial colaborará con Igualdad para combatir la violencia digital

El ministro para la Transformación Digital y de la Función Pública, Óscar López, y la ministra de Igualdad, Ana Redondo, durante el acto de Igualdad Digital Ya.

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, y el Ministerio de Igualdad, a través del Instituto de las Mujeres, han puesto en marcha una colaboración para combatir la violencia digital y corregir sesgos de género en los sistemas de Inteligencia Artificial. Para ello, han firmado hoy un convenio y una declaración institucional sobre la protección de derechos fundamentales de la mujer y los menores.

"Colaboración con Bruselas para los procedimientos que está siguiendo contra X y contra Grok. Todos sabemos lo que hoy está pasando. Aquellos que cogen vídeos de niñas los suben a Grok y le piden que las desnude y a continuación tenemos un desnudo falso, una manipulación de las imágenes horribles que no podemos consentir. No vamos a parar en contra de quienes piden que las redes y la inteligencia artificial sigan siendo la ley de la selva", ha asegurado el ministro para la Transformación Digital y de la Función Pública, Óscar López, en el acto Igualdad Digital Ya celebrado en la sede de su departamento con motivo del 8 de marzo, Día Internacional de la Mujer.

"La igualdad es paz, democracia y derechos humanos; avanzar en igualdad es avanzar en el respeto. España es un referente en protección de la igualdad, mujeres y feminismo. La violencia que se genera en lo digital se reproduce en la vida real. Si hemos avanzado en democracia analógica, tenemos que avanzar en democracia digital", ha dicho la ministra de Igualdad, Ana Redondo, durante su participación en el evento.

La AESIA compartirá evidencias técnicas y documentales con la Comisión Europea y la Oficina de IA europea para contribuir de forma eficiente a sus investigaciones sobre el uso de sistemas de inteligencia artificial en redes sociales que permiten la creación y difusión de imágenes sexualizadas o sexualmente explícitas manipuladas sin consentimiento. En esta recopilación de documentación, ha colaborado el Instituto Nacional de Ciberseguridad (INCIBE).

El Instituto de las Mujeres también elevará un informe sobre la situación en España, que aportará la visión y las evidencias recopiladas por actores e instituciones públicas y privadas con el fin de preservar el pleno respeto a los derechos fundamentales y los fundamentos de nuestro Estado de Derecho.

En la declaración suscrita sobre La protección de derechos fundamentales de la mujer y menores en un mundo generado por la inteligencia artificial, la AESIA y el Instituto de la Mujer reconocen los esfuerzos de la Unión Europea y solicitan que siga liderando la lucha contra la violencia digital a la que se enfrentan mujeres y niñas en la red. "La producción de un alto contenido misógino, sexista y de discursos de odio en las redes sociales obstaculiza y desalienta la participación y el liderazgo femenino, afectando gravemente a la calidad de nuestra democracia y a la igualdad de género. Estos abusos superan la esfera digital, afectando a la salud mental, silenciando a las mujeres y niñas para poder expresarse con libertad y provocando situaciones de acecho, violencia física e incluso la muerte", reza el texto.

En cuanto al convenio suscrito por ambas entidades, establece un marco de colaboración que servirá para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España. Ambas entidades cooperarán en la detección, prevención y corrección de los sesgos de género en sistemas de IA.

Esta coordinación permitirá reforzar la protección de los derechos fundamentales en el despliegue de sistemas de alto riesgo, así como asegurar que las decisiones automatizadas no generen discriminación. Por su parte, la AESIA alertará sobre sistemas de alto riesgo, compartirá documentación, organizará pruebas técnicas y formará a su personal en materia de igualdad.

El acuerdo prevé acciones coordinadas para promover una cultura de IA ética y responsable y alineada con el principio de igualdad. Para ello, ambas partes impulsarán de forma coordinada acciones de sensibilización y formación, así como su participación conjunta en el Laboratorio de Ideas de AESIA para la elaboración de estudios e informes específicos, el diseño de acciones de participación ciudadana orientadas al diálogo, así como en eventos y talleres de discusión.

La iniciativa también contempla la creación de una Comisión de Seguimiento que garantizará la planificación y continuidad de estas actuaciones durante la vigencia del acuerdo.