En un mundo cada vez más interconectado y digitalizado, la Administración de Justicia no se quiere quedar atrás, consciente de la necesidad de aprovechar cualquier ventaja para mejorar el servicio público de justicia. En ese contexto, en el mes de diciembre de 2023 el Consejo de Ministros aprobaba el Real Decreto Ley 6/2023 de medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de Justicia, función pública, régimen local y mecenazgo, cuyas medidas de eficiencia digital parten del principio general de orientación al dato en los sistemas de información y comunicación que se utilicen en la Administración de Justicia, asegurando la entrada de la información en forma de metadatos de manera que favorezca la aplicación de técnicas de inteligencia artificial que, entre otros fines, sirvan de apoyo a la función jurisdiccional y tramitación de procedimientos judiciales -art. 35 RDL 6/2023-.
En este artículo nos queremos centrar en lo que muchos identificarían como la antesala de los “jueces robot” y que el Capítulo VII del Título III del Libro Primero, denomina “actuaciones automatizadas, proactivas y asistidas” y es que por medio de los arts. 56 a 58, el RDL 6/2023 contempla por primera vez la intervención de la inteligencia artificial en la producción de resoluciones judiciales y procesales:
Respecto a las actuaciones automatizadas y proactivas, la ley establece que los sistemas de la Administración de Justicia asegurarán que se puedan identificar como tales, trazar y justificar, se puedan elaborar de forma no automatizada y se puedan deshabilitar, revertir o dejar sin efecto las actuaciones automatizadas ya producidas.
Asimismo, y respecto de las actuaciones asistidas el apartado segundo del art. 57 prevé expresamente que en ningún caso el borrador documental que se genere constituirá por sí una resolución judicial o procesal, sin validación de la autoridad competente, y los sistemas de la Administración de Justicia asegurarán que el borrador documental sólo se genere a voluntad del usuario y pueda ser libre y enteramente modificado por éste. Además, en su apartado tercero expresamente se contempla que la constitución de resolución judicial o procesal requerirá siempre la validación del texto definitivo, por el juez o jueza, magistrado o magistrada, fiscal o letrado o letrada de la Administración de Justicia, en el ámbito de sus respectivas competencias y bajo su responsabilidad, así como la identificación, autenticación o firma electrónica que en cada caso prevea la ley, además de los requisitos que las leyes procesales establezcan.
Respecto a todas ellas, el art. 58 prevé que el Comité técnico estatal de la Administración judicial electrónica podrá definir las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, la auditoría del sistema de información y de su código fuente. Además prevé expresamente que los criterios de decisión serán públicos y objetivos, dejando constancia de las decisiones tomadas en cada momento.
Y es que no debemos olvidar que, atendiendo al Reglamento de Inteligencia Artificial aprobado por el Parlamento Europeo, el pasado día 13 de marzo de 2024, los sistemas de inteligencia artificial con implicaciones relacionadas principalmente con los derechos fundamentales, son considerados de alto riesgo, y especialmente aquellos relacionados con la aplicación de la ley que conlleven la evaluación de riesgos de comisión o reincidencia de delitos, el uso de polígrafos y herramientas similares, la valoración de la fiabilidad de las pruebas, la predicción de delitos basada en perfiles personales según la Directiva (UE) 2016/680, y la elaboración de perfiles en el contexto de investigaciones penales. Así como aquellos destinados a ser utilizados por una autoridad judicial o en su nombre para interpretar hechos o la ley, así como para aplicar la ley a un conjunto concreto de hechos.
La realidad es que estamos asistiendo a un cambio paradigmático en nuestro sistema judicial. La digitalización promete una justicia más rápida, accesible y eficiente. La integración de sistemas de IA en la toma de decisiones judiciales se presenta como una herramienta potencialmente revolucionaria, capaz de complementar y mejorar el proceso judicial, pero debido a los riesgos asociados, especialmente en lo que respecta a la afectación de derechos fundamentales, tales como el derecho a la tutela judicial efectiva, el derecho a la protección de datos y el derecho a la igualdad y no discriminación, resulta esencial implementar altos estándares de seguridad y transparencia.
En nuestra opinión resulta crucial que cualquier desviación durante el proceso de toma de decisiones sea fácilmente detectable y que las soluciones proporcionadas por estos sistemas sean explicables, auditables y transparentes. Entendemos que la administración deberá garantizar que en la creación, implementación y provisión de sistemas de inteligencia artificial y aplicaciones para funciones judiciales, no se producen interferencias que puedan influir, directa o indirectamente, en las decisiones judiciales. Se debe respetar la independencia y función constitucional del Poder Judicial, evitando cualquier tipo de injerencia en su labor.
Y tú, ¿qué opinas?
Artículo elaborado por Mónica Redorta, directora de NewLaw de PwC España, Isabel Arjona, manager de NewLaw de PwC España, y Francisco Aparicio, associate de NewLaw de PwC España.
