El Cermi "valora de forma positiva la iniciativa europea de avanzar hacia un marco regulador más claro y eficaz que impulse la innovación y el funcionamiento del mercado interior", siempre que dicha simplificación normativa "no se traduzca en una merma de la protección de los derechos fundamentales".

En particular, esta organización destaca como avances relevantes: la creación de una base jurídica que permita el tratamiento excepcional de datos sensibles (incluidos los relativos a la discapacidad) para detectar y corregir sesgos algorítmicos. También "el refuerzo de la rendición de cuentas mediante el acceso de los organismos de protección de derechos fundamentales a la documentación técnica de los sistemas de IA en formatos accesibles".

No obstante, el Cermi advirtió de que el enfoque de simplificación propuesto "entraña riesgos significativos para los derechos de las personas con discapacidad si no se incorporan salvaguardas jurídicas claras y exigibles". En este sentido, el comité subrayó "la ausencia de una referencia expresa y operativa a la Convención Internacional sobre los Derechos de las Personas con Discapacidad de Naciones Unidas, instrumento jurídicamente vinculante para la UE y marco de referencia obligado en cualquier regulación que afecte a este grupo social".

Entre las principales preocupaciones planteadas por el CERMI figura el riesgo de que la documentación técnica simplificada para pymes y empresas de mediana capitalización "debilite las evaluaciones de impacto en los derechos fundamentales y dificulte la verificación del cumplimiento de los requisitos de accesibilidad universal y diseño para todas las personas". Asimismo, alertó sobre "la pérdida de transparencia derivada de la supresión del registro obligatorio en la base de datos europea de determinados sistemas de IA", lo que podría generar "cajas negras" regulatorias incompatibles con el control social y la prevención de la discriminación.

SUPERVISIÓN HUMANA EFECTIVA

El Cermi también reclamó una gobernanza de la IA "verdaderamente participativa, que garantice la implicación estructurada de las organizaciones representativas de las personas con discapacidad en la supervisión de los sistemas de esta tecnología generativa, especialmente en aquellos de uso general integrados en grandes plataformas digitales". Igualmente, defendió "el mantenimiento de una supervisión humana efectiva en las decisiones automatizadas y el carácter obligatorio de la alfabetización en IA del personal que diseña, despliega y utiliza estos sistemas".

A través de un conjunto de alegaciones concretas al articulado, el Cermi propuso "reforzar la accesibilidad universal, la no discriminación, la transparencia, la calidad y representatividad de los datos (incluida su diferenciación por sexo y discapacidad), así como una vigilancia poscomercialización armonizada a escala europea". Todo ello con el objetivo de "garantizar que la IA e la UE sea "una palanca de inclusión y no una nueva fuente de exclusión para las personas con discapacidad".

Para el Cermi, "la innovación tecnológica y la competitividad europea solo son legítimas si avanzan de la mano de los derechos humanos y aseguran que ningún progreso digital deje atrás a las personas con discapacidad".