El CGPJ informó de que esta instrucción tiene como objetivo dotar a jueces y magistrados de un marco de actuación claro, homogéneo y coherente con la normativa nacional y europea.

Estas disposiciones sobre la IA para magistrados serán publicadas en el Boletín Oficial del Estado y se entiende que respetan en todo momento la independencia de estos profesionales y el ejercicio de sus funciones jurisdiccionales.

El texto advierte de la necesidad de establecer criterios, pautas de uso y principios para la utilización de los sistemas de inteligencia artificial por jueces y magistrados en el ejercicio de la actividad jurisdiccional, especialmente los de IA generativa, cuyo empleo puede vulnerar los derechos y libertades de las personas.

La instrucción determina que el uso de estos sistemas deberá hacerse de acuerdo con las previsiones contenidas en la Ley Orgánica del Poder Judicial, en las leyes procesales y otras normas de aplicación, así como con la política de utilización de la inteligencia artificial en la Administración de Justicia aprobada por el Comité Técnico Estatal de la Administración Judicial Electrónica.

PRINCIPIOS FUNDAMENTALES

El documento establece el principio de control humano efectivo, que implica el constante "control humano, real, consciente y efectivo" por parte de jueces y magistrados de los sistemas de IA, que no podrán operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y aplicación del Derecho.

Entre otros principios, figura el de "no sustitución de los jueces y magistrados", que prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional, así como los de responsabilidad judicial, independencia judicial, respeto de los derechos fundamentales y principios de confidencialidad y seguridad.

El texto incluye también el principio de prevención de sesgos algorítmicos, definidos como la desviación sistemática en los resultados generados por la IA a partir de los datos, modelos o procesos utilizados, pudiendo producir efectos arbitrarios o discriminatorios en las resoluciones judiciales.

Los miembros de la carrera judicial solo podrán utilizar las aplicaciones de inteligencia artificial, incluidas las herramientas de IA generativa, que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces.

USOS PERMITIDOS Y PROHIBIDOS

La instrucción considera usos permitidos la búsqueda y localización de información jurídica; la recuperación de antecedentes procesales; el análisis, clasificación y estructuración de información, documentos y datos con fines de organización, comprensión o apoyo al estudio del asunto, así como la elaboración de esquemas, resúmenes o borradores de trabajo interno.

Jueces y magistrados solo podrán utilizar borradores de resoluciones judiciales o procesales generados por sistemas de IA facilitados por las administraciones competentes en materia de Justicia o por el CGPJ como instrumentos de apoyo o asistencia, pero siempre con una revisión y validación personal completa y crítica.

Las herramientas de IA autorizadas no podrán usarse cuando implique sustitución, automatización o delegación de la toma de decisiones judiciales, valoración de hechos o pruebas o interpretación y aplicación del derecho, ni tampoco podrán incorporarse a las resoluciones judiciales contenidos generados por IA sin previa valoración crítica, completa y personal.

Los sistemas de IA tampoco podrán ser utilizados por los miembros de la carrera judicial para el tratamiento de datos personales especialmente protegidos o de información sujeta a deberes reforzados de confidencialidad, ni con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos.