La directora ejecutiva del Cermi Estatal, Pilar Villarino, trasladó esta petición durante su intervención en la mesa ‘Inteligencia Artificial: derechos, garantías y regulación’, celebrada en Zamora en el marco del Foro Nacional sobre Inteligencia Artificial y Accesibilidad Universal, que aborda el uso de estas tecnologías para favorecer la inclusión y la accesibilidad en los municipios.

El movimiento asociativo de la discapacidad defendió que las corporaciones locales deben mantener en todo momento el control de las decisiones y ejercerlo contando con las personas cuyos derechos puedan verse afectados. En este sentido, situó la Convención Internacional sobre los Derechos de las Personas con Discapacidad como “referencia para incorporar la IA a los servicios públicos”.

Asimismo, advirtió de que los aplazamientos en la aplicación del Reglamento europeo de inteligencia artificial no suspenden las obligaciones derivadas de la Convención, que vincula a España desde su ratificación, ni las que establece el artículo 49 de la Constitución tras su reforma.

Por ello, la entidad consideró que las garantías que propone pueden aplicarse ya y reclamó que las administraciones “determinen quién revisará las decisiones generadas o apoyadas por sistemas de IA”, con qué información contará y qué autoridad tendrá para modificar sus resultados y proporcionar los ajustes que necesite cada persona.

Como ejemplo, señaló que una propuesta automatizada para reducir las horas de ayuda a domicilio “debería poder contrastarse con las necesidades de la persona afectada”, las barreras existentes en su entorno y sus propias preferencias. A juicio del Cermi, la tecnología debe servir para “ampliar la autonomía y las posibilidades de decidir y participar”, y no para “sustituirlas”.

La plataforma reclamó además que los contratos de tecnología o de servicios que incorporen IA incluyan requisitos de accesibilidad, auditoría y corrección, así como formación específica para el personal encargado de revisar las decisiones.

También alertó de que estos sistemas pueden convertir desigualdades históricas en criterios aparentemente objetivos, con efectos específicos sobre las mujeres con discapacidad. Por ello, pidió analizar conjuntamente género y discapacidad y comprobar los resultados reales de los sistemas una vez implantados.

En paralelo, el Cermi defendió que las personas con discapacidad y sus organizaciones representativas “participen desde la definición del problema” que se pretende resolver “hasta la supervisión del funcionamiento de la IA”. Para ello, reclamó que dispongan de información accesible, tiempo y recursos suficientes, y que quede constancia de sus aportaciones y de las modificaciones introducidas como consecuencia de ellas.

La plataforma representativa de la discapacidad subrayó especialmente la necesidad de “contar con las mujeres con discapacidad” y de “establecer canales seguros y accesibles frente a situaciones de violencia”, especialmente cuando la persona que presta apoyo para utilizar un dispositivo pueda formar parte del entorno de riesgo.