Así lo reivindicó la federación en un comunicado en el que subrayó que el texto del Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial mantiene “varios elementos” que había “valorado positivamente” en el anteproyecto y había pedido “conservar”.

En concreto, se refirió a la creación de una Comisión mixta de coordinación entre autoridades de vigilancia presidida por la Agencia Española de Supervisión de Inteligencia Artificial (Aesia), las medidas cautelares de retirada o desconexión de sistemas que supongan un riesgo inaceptable, la obligación de indemnizar los daños y perjuicios causados y el sistema de multas coercitivas para forzar el cumplimiento.

El proyecto incorpora, además, una “conexión expresa”, según la entidad, con la Ley 15/2022 de igualdad de trato y no discriminación y un nuevo régimen de protección para las personas que informen de infracciones, dos elementos que, a su juicio, “apuntan en la dirección correcta, aunque con un alcance todavía limitado”.

ESPECIAL PREOCUPACIÓN

No obstante, la federación considera que la “gran mayoría” de propuestas no han sido reflejadas en el texto y ve con “especial preocupación”, en primer lugar, que el anteproyecto sometido a consulta pública dedicaba un capítulo a desarrollar, a nivel español, el procedimiento de autorización judicial para usar sistemas de reconocimiento biométrico remoto en tiempo real en espacios públicos.

Si bien CECU e IA Ciudadana se posicionan en contra de la utilización de dicha tecnología y habían pedido reforzar ese procedimiento, las organizaciones valoraban “positivamente” que se “limitara” a una autorización de carácter judicial y no meramente administrativa.

“Sin embargo, en el proyecto que ha llegado al Congreso, ese desarrollo nacional ha desaparecido. Por lo que, de momento, España ha renunciado a establecer una capa de garantías adicionales de protección de los derechos fundamentales en este punto tan delicado”, advirtió.

TRANSPARENCIA ALGORÍTMICA

En cuanto a transparencia algorítmica y la participación de la sociedad civil, dos demandas tanto de CECU como del resto de las organizaciones de la coalición IA Ciudadana, la federación indicó que la base de datos pública que exige el Reglamento de IA, “pese a ser un avance, tiene carencias estructurales”.

Entre ellas, mencionó que solo cubre sistemas catalogados como "de alto riesgo", dejando fuera sistemas basados en reglas simples que también pueden tener un “impacto grave” sobre las personas; deja los algoritmos usados por policía, control de fronteras e inmigración en un área de acceso restringido, “precisamente los ámbitos donde más control ciudadano se necesita” y, además, “solo se aplicará a sistemas nuevos, no a los que ya están en funcionamiento”.

Por eso, desde IA Ciudadana, se pedía ir “más allá” con un registro central de algoritmos, público y obligatorio, que, según CECU, “cubriera estas lagunas y contara con participación de la sociedad civil en su diseño”.

“El proyecto de ley no recoge esta propuesta, sino que incorpora un inventario que finalmente se limita al sector público estatal y mantiene numerosas excepciones. Tampoco se ha incorporado ningún mecanismo de participación de la sociedad civil en la gobernanza de la IA, ya sea en Aesia, en la Comisión mixta de autoridades de vigilancia o en los entornos de pruebas regulatorias”, abundó.

ESENCIAL

Por último, hizo hincapié en que el proyecto tampoco recoge otras peticiones que CECU estimaba “esenciales” para una supervisión “efectiva”, como que la Agencia pudiera investigar sistemas de IA aunque no estuvieran catalogados como de alto riesgo cuando hubiera indicios de perjuicios graves y el principio de prevención como criterio rector de las inspecciones.

En este contexto, la responsable de derechos digitales de CECU, Anabel Arias, sostuvo que la federación “valora que se hayan mantenido salvaguardas importantes”, pero sigue “insistiendo en que la transparencia algorítmica y la participación ciudadana no son un capricho, sino una condición para que la ciudadanía pueda confiar en estos sistemas”.

“Asimismo, nos preocupa la eliminación de las garantías adicionales que pretendía establecer España en materia de reconocimiento biométrico y confiamos en que la tramitación parlamentaria busque reincorporar y ampliar las protecciones a los derechos fundamentales frente a esta tecnología”, prosiguió.

Por último, admitió que a CECU también le “preocupa” la Ómnibus de IA, que ha sido aprobada esta semana por el Parlamento Europeo, que, a su entender, “no sólo retrasa la aplicación de las obligaciones del Reglamento de IA para los sistemas de alto riesgo, sino que, además, debilita la transparencia al reducir la información exigida en la base de datos Europa”.