El Gobierno español lo propuso el pasado mes de enero tras la polémica generada por los desnudos de mujeres y menores creados por Grok, el asistente virtual de la red social X, y que ya a mediados de marzo logró el apoyo de la Unión para ser incluida en la reforma de la Ley Europea de Inteligencia Artificial.

El acuerdo para hacer realidad la prohibición se alcanzó este jueves en la negociación tripartita entre representantes del Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, donde se dio el visto bueno a la enmienda a la ley de IA planteada por el Ejecutivo español con el respaldo de Francia.

La enmienda propone incorporar dos prácticas prohibidas de Inteligencia Artificial en la UE. Por un lado, aquellas capaces de generar o manipular imágenes, vídeos o audios realistas (‘deepfakes’) de partes íntimas o que identifiquen a personas en actividades sexuales sin consentimiento expreso del afectado. Y, por otro, aquellas capaces de generar o manipular pornografía infantil.

“España sigue liderando el despliegue de un modelo europeo propio de IA, que ha de caracterizarse por ser el más confiable de todos. Celebramos este acuerdo en la UE, que sigue la línea de las iniciativas aprobadas por el Gobierno de España en los últimos meses, en especial la Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, en tramitación actualmente en el Congreso de los Diputados”, celebró este jueves en un comunicado el ministro para la Transformación Digital y de la Función Pública, Óscar López.

La ley española de protección al menor es una norma pionera en Europa, ya que prevé la reforma del Código Penal para penalizar tanto los ‘deepfakes’ de contenido sexual como el 'grooming' (el engaño 'online' a menores), que será considerado agravante para ciertos delitos sexuales. Además, responde al compromiso del Gobierno de proteger a niñas, niños y adolescentes en el ámbito digital, garantizando su derecho a la intimidad, al honor y a la propia imagen, así como la protección de sus datos personales o el acceso a contenidos adecuados para su edad.

SIMPLIFICACIÓN

Entre los Veintisiete ha habido un fuerte debate en cuanto a la posición del Parlamento de trasladar las obligaciones del Reglamento de IA a las normas sectoriales ya existentes, como productos sanitarios, juguetes, ascensores o máquinas, entre otros. España ha mantenido una posición firme en contra, pues esto supone una desregulación y una fragmentación del mercado interior. Finalmente, se transfiere únicamente la legislación de maquinaria industrial con un conjunto de mecanismos de salvaguarda, asegurando que los requisitos específicos de la IA son incorporados.

También se ha conseguido, en línea con la posición española, mantener un registro simplificado para los sistemas que, en el ámbito del Anexo III del Reglamento, no se consideran de alto riesgo por no suponer una amenaza directa de la seguridad, salud o derechos fundamentales de las personas físicas, facilitando así el control por parte de las autoridades de supervisión.

Finalmente, se ha mantenido y aclarado la obligación de alfabetización de IA a proveedores y responsables del despliegue con el apoyo de las Administraciones Públicas, en aras de fomentar un clima de confianza y conocimiento alrededor del desarrollo y uso de la IA, y se fomenta la cooperación activa entre la oficina de IA y las autoridades nacionales.

El acuerdo político deberá ser ratificado formalmente por el pleno del Parlamento y de los ministros en el Consejo, lo cual se espera que ocurra antes del receso de verano.