El Pleno del Consejo General del Poder Judicial (CGPJ) ha dado un paso histórico al aprobar la primera instrucción que regula el uso de la Inteligencia Artificial (IA) dentro de la Carrera Judicial. El objetivo es claro: evitar que la automatización vulnere derechos fundamentales y asegurar que la última palabra siempre la tenga un humano.
La nueva normativa establece que la IA nunca podrá operar de forma autónoma para tomar decisiones judiciales, valorar hechos o interpretar el Derecho. El CGPJ es tajante: se prohíbe la sustitución de jueces por algoritmos. Bajo el principio de «control humano efectivo», los magistrados deben supervisar de manera «real, consciente y crítica» cualquier resultado generado por estas herramientas.
Usos permitidos y borradores de sentencias
La instrucción diferencia claramente qué pueden y qué no pueden hacer los jueces con la IA generativa:
- Permitido: Búsqueda de información jurídica, estructuración de datos, resúmenes de antecedentes procesales y elaboración de borradores de trabajo interno.
- Bajo lupa: Los jueces podrán usar borradores de resoluciones generados por IA, pero solo como apoyo. La redacción final y la responsabilidad jurídica recaen exclusivamente sobre el magistrado, quien debe validar personalmente cada línea.
Freno a los sesgos y protección de datos
Uno de los puntos más sensibles de la instrucción es la prevención del «sesgo algorítmico». El Poder Judicial quiere evitar que los datos usados por la IA produzcan efectos discriminatorios. Además, queda terminantemente prohibido usar la IA para el tratamiento de datos personales protegidos o para realizar «perfilado de personas» y predicción de comportamientos.
Solo se podrán utilizar aplicaciones facilitadas por las administraciones competentes que hayan pasado el filtro del CGPJ, cerrando así la puerta al uso de herramientas comerciales abiertas para fines jurisdiccionales.
