En el escenario actual de desarrollo exponencial de aplicaciones de Inteligencia Artificial (IA), desde el Cermi se ha considerado "crítico y necesario" elaborar una metodología propia que pueda servir de orientación para la auditoría de muchas de estas aplicaciones algorítmicas, desde la perspectiva fundamental de los derechos humanos y de la protección de las personas con discapacidad.

"En una era en la que las tecnologías basadas en algoritmos están profundamente integradas en la infraestructura social, económica y política de nuestras sociedades, resulta imperativo garantizar que estas tecnologías operen de manera transparente, justa y responsable", explicó la entidad.

Asimismo, indicó que "la creciente dependencia de los algoritmos, en especial aquellos que tienen un impacto social significativo, requiere una supervisión y revisión sistemáticas para asegurar que sus operaciones y resultados sean comprensibles, equitativos y libres de prejuicios no intencionados".

La guía ofrece una metodología "robusta" para abordar estas preocupaciones, diseñada específicamente para algoritmos con un claro impacto social, independientemente de las tecnologías en las que se implanten. La metodología propuesta permite abordar y superar posibles deficiencias en los procedimientos actuales, fortaleciendo las medidas de responsabilidad y asegurando una adecuada rendición de cuentas por parte de todas aquellas personas involucradas en el ciclo de vida del algoritmo.

En este sentido, el Cermi destaca que, al llevar a cabo un proceso de auditoría, todas las partes involucradas no sólo estarán contribuyendo a la integridad y confiabilidad de sus soluciones basadas en algoritmos, sino que también estarán reafirmando su compromiso con una tecnología que es respetuosa, justa y beneficiosa para toda la sociedad.

La guía, en primer lugar, contextualiza la necesidad de contar con unos principios orientadores para los sistemas de inteligencia artificial, describe brevemente el marco normativo actual y particulariza estos principios para el caso del Cermi. A continuación, explica el concepto de auditoría algorítmica y justifica su necesidad, enumerando los diferentes tipos de auditoría en función de su alcance. En la siguiente sección se describen las fases de la auditoría y se especifica el análisis cuantitativo y cualitativo.

Por último, incluye unas breves conclusiones, un listado de referencias y algunos apéndices con recursos valiosos para entender el panorama regulatorio y proporcionar herramientas prácticas, como la lista de comprobación de criterios de auditabilidad y el modelo CRISP-DM, que pueden ser útiles en el proceso de auditoría.

Esta guía es un producto enmarcado en la iniciativa 'MetaDiverso–Cermi Discapacidad', desarrollada por la entidad con la ayuda pública obtenida del Ministerio de Derechos Sociales, Consumo y Agenda 2030 para la modernización de las entidades del Tercer Sector.