I. Real Decreto 817/2023, de 8 de noviembre, líneas de implementación de sistemas de IA en la Administración de Justicia
Entre las aéreas donde la implementación de sistemas de Inteligencia Artificial (en adelante IA) son considerados de alto riesgo, se encuentran los asuntos relacionados con la aplicación de la Ley, y que el RD 817/2923 (2) recoge en el Anexo II apartado 6, más específicamente los sistemas de IA destinados a ser utilizados por las autoridades encargadas de la aplicación de aquélla o en su nombre con los siguientes fines:
- • Para evaluar el riesgo de que una persona física cometa una infracción o reincida o el riesgo de que una persona física se convierta en posible víctima de infracciones penales.
- • Como polígrafos y herramientas similares, o para detectar el estado emocional de una persona física.
- • Para evaluar la fiabilidad de las pruebas durante la investigación o el enjuiciamiento de infracciones penales.
- • Para predecir la comisión o reiteración de una infracción penal real o potencial a partir de la elaboración de perfiles de personas físicas mencionada en el artículo 3, punto 4, de la Directiva (UE) 2016/680 (LA LEY 6638/2016), o para evaluar rasgos y características de la personalidad o comportamientos delictivos pasados de personas físicas o grupos.
- • Para elaborar perfiles de personas físicas, como se menciona en el artículo 3, punto 4, de la Directiva (UE) 2016/680 (LA LEY 6638/2016), durante la detección, la investigación o el enjuiciamiento de infracciones penales
En el apartado octavo, relativo a la actividad jurisdiccional y procesos democráticos, categoriza igualmente de alto riesgo a los Sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para interpretar hechos o la Ley y a aplicar la Ley a un conjunto concreto de hechos. Sin embargo, puntualiza que para que se incardine en dicha calificación se exige que se cumplan los requisitos establecidos en las definiciones que otorga la norma, en concreto, el indicado en el art. 3 apartado 4. c), que respecto a los anteriormente referidos exige que la respuesta del sistema sea relevante respecto a la acción o decisión a tomar.
A falta de otra indicación, puede emplearse como parámetro interpretativo de qué es lo que ha de entenderse por relevancia en la acción o decisión a tomar, la referencia que efectúa la propia disposición en cuanto a la posible afectación, por creación de riesgo significativo, a la salud, los derechos de las personas trabajadoras en el ámbito laboral o la seguridad o los derechos fundamentales.
Al margen de los peligros que reconoce en cuanto a la potencial injerencia en los derechos referidos, es evidente que el derecho a la tutela judicial efectiva como derecho constitucionalmente reconocido en el art. 24 CE (LA LEY 2500/1978) en su faceta de derecho al juez ordinario predeterminado por la ley o a un proceso público con todas las garantías, o el derecho a la protección de datos de carácter personal (art. 8 Carta de los Derechos Fundamentales de la Unión Europea (LA LEY 12415/2007)) son derechos fundamentales que se pueden ver afectados con la utilización del sistema de IA, y el uso de estos en cualquier fase del proceso, ha de ajustarse a los criterios éticos que tanto la Unión Europea como distintos organismos internacionales reclaman para evitar el impacto negativo que pudiera ocasionar en el Estado de Derecho (3)
El Real Decreto-ley 6/2023, de 19 de diciembre (LA LEY 34493/2023), por el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia (LA LEY 9394/2021) en materia de servicio público de justicia, función pública, régimen local y mecenazgo (4) en su art. 7 impone el uso de medios e instrumentos informáticos por la Administración de Justicia, que cumplan con los requisitos de interoperabilidad, seguridad, técnicos, y funcionales fijados por el Comité técnico estatal de la Administración judicial electrónica, convirtiendo a las instrucciones emitidas por el Consejo General del Poder Judicial, de modo general o singular, relativas a su uso, de obligado cumplimiento para la/os jueces. Partiendo del principio general de orientación al dato (art. 35) en los sistemas que se utilicen en la Administración de Justicia, se asegura la entrada de la información en forma de metadatos de manera que favorezca la aplicación de técnicas de IA que, ente otros fines, sirvan de apoyo a la función jurisdiccional y tramitación de procedimientos judiciales (art. 35.k.).
Esta disposición que regula en lo que al presente concierne, el uso de sistemas de IA en distintas fases del proceso judicial, como luego veremos, incide en la gestión del dato para facilitar la producción de actuaciones automatizadas, asistidas y proactivas, y entre otras exigencias, impone la trazabilidad y disponibilidad de la información que utilicen los sistemas que soporten las sedes judiciales electrónicas (art. 8.10.), pretendiendo con ello dotar a los que se empleen en la Administración de Justicia de la visibilidad precisa para atender a las exigencias de Carta Ética Europea sobre el uso de IA en sistemas judiciales (5) , donde el principio de transparencia, es identificado como acceso al proceso de diseño completo que incluye: el diseño y la cadena operativa, como el proceso de selección, la calidad y organización de los datos que influyen directamente en la fase de aprendizaje, con código fuente abierto; también se dota al sistema de la precisa justificación que permite la explicabilidad del mismo mediante un lenguaje sencillo al comunicar las herramientas que se han desarrollado, el rendimiento y los riesgos de error, introduciendo igualmente indicadores de gestión, a los que luego nos referiremos, que permiten medir si se están cumpliendo los objetivos del sistema.
Volviendo al RD 817/2023 (LA LEY 29419/2023), prevista la utilización por parte de las entidades públicas de sistemas de IA elaborados por proveedores privados, impone que se haya de contar con la participación del usuario del mismo —entendiendo como tal la Administración usuaria— que colaborará implantando las medidas especificadas en las guías que el órgano competente proporcione para el seguimiento tras la puesta en marcha del sistema de IA (art. 28.2); participando en la declaración de cumplimiento ( conforme al artículo 19), en actividades de seguimiento tras la puesta en marcha en coordinación con el proveedor IA participante (sobre la base del artículo 21), y en la aportación de conocimiento para la elaboración de guías u otros documentos de conclusiones sobre el entorno controlado de pruebas.
El desarrollo de las pruebas ha de cumplir con unos requisitos de los que se destaca, por la relevancia que adquiere cuando sean empleados en Justicia, las exigencias en la implementación del sistema de IA que implique entrenamiento con datos, debiendo de contar con la garantía que el desarrollo se realiza sobre conjuntos de datos de entrenamiento, validación y pruebas que cumplan los criterios de calidad especificados sobre la base de las indicaciones proporcionadas por el órgano competente (art. 11.b.). Se añade que debe permitir técnicamente el registro automático de eventos (logs) a lo largo del ciclo de vida del sistema (art. 11.d.), asegurando en su diseño y desarrollo que la operación que realice es suficientemente transparente para los usuarios del sistema a efectos de interpretar los resultados de este y evitando generar sesgos discriminatorios para un uso adecuado del mismo (art. 11.e.), con instrucciones de uso que incluyan información sobre las características y prestaciones del sistema.
Esa información se requiere que sea concisa, completa, correcta, actualizada, clara, relevante, accesible y comprensible para los usuarios del sistema (art. 11.f.), y su diseño y desarrollo, extremo este relevante, debe permitir ser supervisados por personas físicas durante los periodos en que esté en uso. Contendrá interfaces humano-máquina apropiadas a tal efecto. En caso de que por las características del sistema de IA dicha supervisión no pueda ocurrir en tiempo real, deberá quedar recogido en las comunicaciones relacionadas con la transparencia del sistema (art. 11.g.) de modo que podrá identificarse, de ser preciso, la fase donde se ha podido producir una desviación o disfunción del mismo.
Estos sistemas son extremadamente sensibles al ciberataque (6) , de ahí la previsión contenida en el art. 11. h), que exige que los sistemas de IA habrán sido o serán diseñados y desarrollados de manera que consigan, teniendo en cuenta su finalidad prevista, un nivel adecuado de precisión, solidez y ciberseguridad. Estas dimensiones deberán funcionar de manera consistente a lo largo de su ciclo de vida, resultando imprescindible para poder ser empleados en Justicia dada la extremada delicadeza de los datos introducidos.
Es especialmente trascendente para el uso de los sistemas de IA en Administración de Justicia que para la valoración de la solicitud del proveedor del servicio de IA en dicho entorno se haya tenido en cuenta, entre otros, el grado de explicabilidad y transparencia del algoritmo incluido en el sistema de IA presentado (art. 8.c), ya que con ello se puede evitar que se empleen en sistemas de IA en Justicia que contengan algoritmos de «caja negra» de difícil explicación tanto del proceso de toma de decisión o del propio resultado, añadiendo que el requisito de contener un registro obligatorio de los que denomina logs en la vida del sistema, permitirá conocer los hitos, fallos, desviaciones, decisiones del sistema que permitan justificar la que adopte el mismo y, por ende, la toma del control por parte de la persona física que haya de utilizarlo.
De emplearse esos sistemas de IA elaborados del modo previsto en decisiones jurisdiccionales, el conocimiento de la trazabilidad del proceso que lleva a la solución o conclusión que adopta el sistema, permitirá salvar los inconvenientes indicados en su utilización ya que la posibilidad de conocer, bien en tiempo real el proceso de toma de decisión, o bien a posteriori, permitirá justificar la adoptada o conocer si se ha producido algún tipo de desviación al prever controles periódicos mediante la realización de auditorías por expertos respecto de los métodos de procesamiento, o la revisión periódica de aquellos por las autoridades.
El derecho a la tutela judicial efectiva quedaría preservado pues el ciudadano contaría con la garantía que la decisión adoptada seguía un proceso totalmente controlado por los desarrolladores y los auditores y dirigido por la/el juez que, en cada fase del mismo, podría ser controlado bien de oficio o bien a instancia del interesado, y en su caso, detectar, rectificar o anular las decisiones adoptadas en base a los resultados ofrecidos si presenta desviaciones el funcionamiento del sistema de IA empleado en la toma de decisión.
Igualmente, las garantías procedimentales estarían bajo la salvaguarda de la transparencia del sistema de IA empleado en las decisiones de mero impulso procesal que implican actuaciones que pueden ser realizadas mediante sistema clasificado como modelo fundacional (7) , al poder ser empleado como modelo adaptable a una amplia gama de tareas, ya que la explicabilidad (8) del sistema vendrá determinado tanto por el conocimiento del proceso, como por el modo en que se ha llevado a cabo el tratamiento de los datos, ya que se prevé la incorporación en la Administración de Justicia del concepto de dato abierto, de modo que la información de los empleados se pone a disposición de la ciudadanía que pueden ser empleados o reutilizados sin precisar autorización, lógicamente con el límite del respeto a la protección de los que sean de carácter personal.
Este principio de orientación al dato, conforme al art. 35, prevé la introducción y tratamiento de la información en forma de metadato (9) , formato este que, al describir las características de los datos, como el contenido, calidad, información y otras circunstancias o atributos de los empleados, permite la clasificación de los mismos, para, entre otros propósitos, facilitar, la búsqueda y análisis de datos y documentos para fines jurisdiccionales y organizativos (art. 35.c.) y/o la aplicación de técnicas de IA para apoyo a la función jurisdiccional y a la tramitación de los procesos judiciales (art. 35.k.) (10) .
II. Actuaciones automatizadas, proactivas y asistidas
Con el propósito, expresamente indicado en la introducción de la norma, de dotar de eficacia (11) a la Administración de Justicia, y, a la par conseguir una mejora de la eficiencia de los procesos judiciales, se implementa en la tramitación de estos, las que denomina actuaciones automatizadas, proactivas y asistidas.
Diferencia unas de otras según la intervención humana en el proceso, y en concreto la calificación de la tarea a realizar a saber: si prevé que puede ser realizada de modo automático o automatizable, en este caso porque exige algún tipo de intervención digital, o si exige el impulso, intervención y validación de persona física siendo generada por sistemas de IA. Estas últimas son las que denomina actuaciones asistidas, y están previstas para ser empleadas en decisiones jurisdiccionales como borrador o proyecto de resolución, sin que puedan calificarse como resoluciones si no han sido validadas por la/el juez.
1. Actuaciones automatizadas
Son actuaciones automatizadas aquellas de naturaleza procesal producidas por un sistema de información adecuadamente programado sin necesidad de intervención humana en cada caso singular (art. 56). Y continúa indicando el precepto, que están integradas por las actuaciones de trámite o resolutorias simples, que no requieren interpretación jurídica. Estas actuaciones son facilitadas a través de la orientación al dato, ya que permite la realización de modo mecánico actos que previamente requieren la lectura del documento, su procesamiento y la ejecución de tarea con base a dicha información, y ejemplifica como tales el cálculo de plazos con base a fechas que aparecen como datos o las comprobaciones automáticas de situación concursal de una empresa, en base a NIF y tipo de proceso judicial.
Indica, con una enumeración abierta a otras que puedan ser identificadas como tales, como tales en el proceso, las que relaciona en la norma y que son el numerado o paginado de los expedientes, la remisión de asuntos al archivo cuando se den las condiciones procesales para ello, la generación de copias y certificados, la generación de libros, la comprobación de representaciones y la declaración de firmeza, de acuerdo con la ley procesal.
De estos actos que la norma considera que no exigen interpretación, se ha de destacar que incluya como tales la comprobación de representaciones. Y se destaca porque, entiende el legislador que estos actos se han de producir de modo automático sin intervención alguna de, en este caso, quien tiene atribuida legalmente la facultad de otorgar apoderamiento en el proceso o de valorar el presentado, ya que la modificación del art. 24 LEC (LA LEY 58/2000) operada por la misma norma, elimina la aportación al proceso del documento donde conste la representación, sustituyendo aquella por la acreditación de la misma mediante la consulta automatizada orientada al dato que confirme la inscripción de esta en el Registro Electrónico de Apoderamientos Judiciales o mediante la certificación de dicha inscripción.
Ello deriva de la utilización de los datos incluidos en el Registro Electrónico de Apoderamientos Judiciales (12) en el que obligatoriamente se han de inscribir los que se efectúen personal o electrónicamente, que permite comprobar válidamente la representación que ostentan quienes actúen ante la Administración de Justicia en nombre de un tercero dada la posibilidad de consultar a otros registros administrativos similares — registro mercantil, de la propiedad y protocolos notariales—.
Atribuye a su vez al Comité técnico estatal de la Administración judicial electrónica la decisión sobre los efectos del apoderamiento ante los órganos judiciales y oficinas judiciales, inscrito en el referido Registro Electrónico en los casos, con los requisitos y con los límites que se determinen por dicho organismo administrativo. Y es este mismo organismo el que determina en qué procedimientos puede efectuarse la inscripción directamente del apoderamiento conferido a favor de los representantes procesales, valorando su cuantía o trascendencia, de modo que es el Comité técnico estatal de la Administración judicial electrónica quien decide la forma de otorgar representación a los efectos de la intervención en el proceso (13) .
Lo anterior supone que, salvo que la actuación automatizada a la que se refiere la norma, se limite a indicar si el apoderamiento está o no inscrito para valorar si es suficiente a los efectos de la representación que dice ostentar, la actuación de validar el apoderamiento que quien se presenta como tal, como parece deducirse de la nueva redacción del art. 24.3 LEC (LA LEY 58/2000) (14) , contiene una decisión de carácter procesal que puede implicar la limitación de la decisión jurisdiccional de resolver sobre la excepción de falta de representación que pudiera adolecer el presentado ex art. 418 LEC. (LA LEY 58/2000)
2. Actuaciones proactivas
- • Como subgénero dentro de las actuaciones automatizadas establece un tipo de las que denomina proactivas, que considera como tales a aquellas que presentan las siguientes características:
- • Son auto-iniciadas por los sistemas de información sin intervención humana.
- • Se nutren y aprovechan la información incorporada en un expediente o procedimiento de una Administración Pública con un fin predeterminado.
- • Generan avisos o efectos directos a otros fines distintos, en el mismo o en otros expedientes, de la misma o de otra Administración Pública.
Finalidades estas, que reseña, deben ser, en todo caso, conformes con la ley.
Este tipo de actuaciones, derivadas de la interconexión de los sistemas de las distintas Administraciones Públicas, permiten, con los datos recogidos en aquellas e introducidos en cada una de ellas para cualquier finalidad (laboral, fiscal, obtención de ayudas, subvenciones, renovación de documentación, salud, etc.) que puedan ser aprovechados por los sistemas que se utilicen en la Administración de Justicia, para generar avisos o efectos, sin intervención manual alguna. Cita como ejemplo la emisión de notificaciones o avisos automáticos.
Este tipo de avisos entre Administraciones deberán respetar el derecho a la protección de los datos de carácter personal que no puedan ser objeto de tratamiento y utilización por la Administración que introdujo el mismo, dada la finalidad para la que fue otorgado, de modo que, determinados datos tendrán un recorrido unidireccional, esto es, podrán ser empleados por la Administración de Justicia para sus fines, pero no podrán ser utilizados los que se incluyan para su tratamiento en el proceso judicial, en las aplicaciones de otras Administraciones si se recopilaron con aquella finalidad.
La protección de datos en el uso de los medios tecnológicos e informáticos traten datos personales que vayan a ser incorporados a un proceso judicial o expediente fiscal para fines jurisdiccionales se ajustarán a la normativa prevista en los artículos 236 bis (LA LEY 1694/1985) a 236 décies de la Ley Orgánica 6/1985, de 1 de julio (LA LEY 1694/1985); en el artículo 2, párrafos 4 y 5, de la Ley Orgánica 3/2018, de 5 de diciembre (LA LEY 19303/2018), y en el artículo 2.2 de la Ley Orgánica 7/2021, de 26 de mayo (LA LEY 11831/2021).(art. 99), estableciendo la obligación de adecuarlas resoluciones procesales y judiciales a un formato normalizado acordado en el seno del Comité técnico estatal de la Administración judicial electrónica(art. 100) buscando con ello la anonimización, seudonimización y disociación de los datos de carácter personal.
3. Actuaciones asistidas
- • Se considera actuación asistida aquella para la que el sistema de información de la Administración de Justicia genera un borrador total o parcial de documento complejo basado en datos, que puede ser producido por algoritmos, y puede constituir fundamento o apoyo de una resolución judicial o procesal. Fija dos requisitos para su utilización:
- • No puede ser generado de modo automático ya que requiere que el proceso sea iniciado solamente a instancia del usuario. También prevé que pueda ser modificado total o parcialmente a voluntad del mismo.
Para que pueda constituir una resolución judicial es condición indispensable que el texto definitivo sea validado por el/la juez que la haya generado, efectuando mención el artículo que la regula, a la responsabilidad que asume el usuario del sistema cuando valida la resolución. La validación es el último paso de la elaboración de la decisión, preciso para acreditar que ha sido elaborado bajo el control del usuario tanto por su inicio como por la asunción de la totalidad del texto. Dicho paso previo es elemento indispensable para proceder a suscribir el contenido mediante la firma electrónica.
Se ofrece con ello la posibilidad de usar sistemas de IA generativa en la elaboración de proyectos de resolución o resoluciones de naturaleza procesal o jurisdiccional mediante sistemas de IA que habrán de estar dotados de un código fuente abierto ( lo que proporciona el suficiente acceso para que se pueda técnicamente acceder al conocimiento del funcionamiento de la IA) y permitir la accesibilidad de los datos empleados para alcanzar la conclusión que presenta. Está premisa es fundamental para que juez/a pueda emplear éticamente dichos sistemas, ya que le permite conocer los datos tomados en consideración para obtener el resultado así como el procesamiento de los mismos, de modo que toda la cadena de toma de decisión pueda ser explicable. Hay sistemas que permiten dicha visualización y son los que garantizarían la claridad en el proceso al permitir observar el árbol de toma de decisiones (15) . Igualmente permitiría que quedase justificada por hallar su fundamento jurídico la decisión.
Podemos pensar en la posible elaboración de un borrador de auto en el que tras incluir los hechos relevantes de la litis emplease resoluciones anteriores del mismo juez así como jurisprudencia dictada en supuestos similares, siempre que permita ofrecer dos o tres soluciones de no haber criterio uniforme, siempre que permita conocer las distintas posibilidades que se le ofrecen. Entrando en vigor en breve la novedosa regulación ex art. 438 bis LEC (LA LEY 58/2000), del denominado pleito testigo, se podría emplear, por la limitación en cuanto a las pretensiones que pueden ser objeto de este (16) , en el borrador de auto acordando la suspensión del curso de las actuaciones hasta que se dicte sentencia firme en el procedimiento identificado como testigo, o bien, en el proyecto de sentencia estimando íntegramente la parte de la demanda que coincida sustancialmente con aquello que fue resuelto en el procedimiento testigo, cuando el tribunal hubiera expresado en la providencia que hubiera declarado la innecesaria continuación del procedimiento.
Ahora bien, podríamos plantearnos si, las decisiones no automatizadas pueden ser tomadas con base a resultados obtenidos mediante el empleo de estos sistemas de IA en el proyecto, como por ejemplo el resumen de demandas, contestaciones recursos y documentación aportada al proceso, para identificar los datos relevantes que se someten al debate. La utilización exponencial del sistema introduciendo copias completas de resoluciones o de documentos, por la extensión de estos, como herramienta, sería de gran utilidad agilizando el proceso de identificación de los hechos significativos del proceso.
Sin embargo la fijación de hechos sobre los que ha de versar la resolución en modo alguno pueden ser identificados exclusivamente por la IA, ya que al carecer esta de contexto, pudiera desconocer la relevancia de los datos aportados en la toma de decisión, la ausencia de otros, los matices de los elementos que pudieran parecer accesorios, y la percepción de aquellos que con un análisis superficial inicialmente no se muestren significativos, pero que finalmente pudieran resultar esclarecedores en orden a la toma de decisión.
Si se emplea como un primer cribado de información, para posteriormente ser supervisado judicialmente, con contradicción de las partes, identificando los que no fueron localizados por el sistema, evidentemente su uso optimizará la gestión del tiempo.
4. Requisitos comunes de las actuaciones automatizadas, proactivas y asistidas
Hasta aquí, en lo regulado se prevé el uso de tecnología empleando exclusivamente sistemas de IA (decisiones asistidas), o bien simplemente la utilización de ingente cantidad de datos a través de la interoperabilidad entre administraciones públicas mediante la recopilación y tratamiento de aquellos como metadatos, lo que implica un conocimiento completo de los que son registrados en las distintas administraciones, mediante sistemas, aplicaciones elaboradas ad hoc o reutilizadas con otros fines (17) .
A tal fin, se constituye el Comité técnico estatal de la Administración judicial electrónica, al que se le atribuye la labor de definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, la auditoría del sistema de información y de su código fuente, entre otras funciones que posteriormente indicaremos. La norma asigna al Comité la obligación de adoptar criterios y decisiones de público conocimiento, que han de ser objetivos, o al menos objetivables de modo que puedan permitir al ciudadano, usuario de la Administración de Justicia, conocer, no solo como se han tratado sus datos sino como han sido empleados por el sistema que ofrece una solución a su litis.
La referencia que realiza la norma a la inclusión en los sistemas de indicadores de gestión (18) , que evalúan el desempeño de los procesos mediante el empleo de métricas clave permitiendo señalar las desviaciones para adoptar medidas preventivas o correctivas, permitirá detectar el éxito del sistema de IA y, en su caso, mejorar los tiempos de respuesta o la calidad de la misma si el indicador de gestión está orientado a ello. La competencia para la inclusión de aquellos, se atribuye a la Comisión Nacional de Estadística Judicial, en el ámbito de las competencias que tiene atribuidas ex. art. 461 de la Ley Orgánica 6/1985, de 1 de julio (LA LEY 1694/1985), y al Comité técnico estatal de la Administración judicial electrónica.
III. El Comité técnico estatal de la Administración judicial electrónica
El Comité técnico estatal de la Administración judicial electrónica se configura como un órgano administrativo compuesto por representantes del Consejo General del Poder Judicial, del Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, de la Fiscalía General del Estado y de las Comunidades Autónomas con competencias en materias de Administración de Justicia.
Está copresidido por un representante del Consejo General del Poder Judicial y otro del Ministerio de la Presidencia, Justicia y Relaciones con las Cortes. Este organismo es el que impone el uso a los órganos y oficinas judiciales de los medios técnicos, electrónicos e informáticos que cumplan los esquemas nacionales de interoperabilidad y seguridad, así como con la normativa técnica, instrucciones técnicas de seguridad, requisitos funcionales fijados por el mismo. Sin embargo, como indica el propio art. 7.3, las instrucciones de contenido general o singular relativas al uso de las tecnologías que el Consejo General del Poder Judicial dirijan a los jueces y magistrados, respectivamente, serán de obligado cumplimiento.
Sus funciones genéricamente recogidas en el art. 85, son indicadas a lo largo del articulado, y se destacan por su afectación indirecta a la función jurisdiccional, las siguientes: Le corresponde, definir y validar la funcionalidad y seguridad de los programas y aplicaciones que se pretendan utilizar el ámbito de la Administración de Justicia, con carácter previo a su implantación; establecer las condiciones de accesibilidad de los servicios desde la Carpeta Justicia (art. 9); el Punto de Acceso General de la Administración de Justicia, que será gestionado por el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, será conforme a los acuerdos que se adopten en el Comité (art. 12); informar de los requisitos que deberá cumplir la Carpeta Justicia en el ámbito de todo el territorio del Estado (art. 13); la definición de otros perfiles para el acceso, o la consulta limitada, al estado del procedimiento o a otras informaciones y documentos por quienes, sin ser parte, justifiquen interés legítimo y directo (art. 17.2); la fijación de los términos de los servicios de cita previa (art. 18.2); determinar el nivel de firma aplicable en cada una de las actuaciones en el ámbito de la Administración de Justicia (art. 20.1); la determinación de las condiciones del sistema de información para la identificación y firma no criptográfica en el uso de videoconferencia y de retransmisión (art. 23.1, art. 60.7, in fine, art. 66); los Códigos Seguros de Verificación se codificarán de conformidad con los términos que se definan en el marco del Comité (art. 26.2); en el intercambio electrónico de datos, determinará las condiciones y garantías por las que se regirán, que al menos comprenderán la relación de emisores y receptores autorizados y la naturaleza de los datos a intercambiar (art. 30.2); elaborar un formulario normalizado debidamente cumplimentado que habrá de acompañar al escrito iniciador del procedimiento deberá ir acompañado (art. 33.3); en el intercambio de datos (35 a 37); la definición de los términos en los que se ha realizar la digitalización de los documentos presentados en papel (art. 40.b); la determinación de la normativa técnica para la presentación e intercambio de escritos por medios electrónicos (art. 42, art. 45 y art. 48); la definición del modo de realizar comunicaciones y actos de comunicación (art. 52); la identificación de actuaciones automatizadas (art. 56); la realización de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, la auditoría del sistema de información y de su código fuente (art. 58); fijar los requisitos de los puntos de acceso seguros los dispositivos y sistemas de información (art. 62); establecer las condiciones de funcionamiento del Registro Electrónico Común de la Administración de Justicia (art. 73); la fijación de los requisitos para que surtan efectos los apoderamientos inscritos en el Registro Electrónico de Apoderamientos de la Administración General del Estado y la inscripción por los apoderados en los procedimientos que determine (art. 75, art. 76); las condiciones de inscripción de la habilitación del personal para la realización de trámites (art. 78); la definición de los términos del portal de datos (art. 81); aprobación del Esquema Judicial de Interoperabilidad y Seguridad (art. 88, art. 89); la elaboración y actualización de la política de seguridad de la información de la Administración de Justicia (art. 93); y por último, las resoluciones procesales y judiciales deberán adecuarse a un formato normalizado acordado por el Comité, para la realización automatizada de la anonimización, seudonimización y disociación de los datos de carácter personal (art. 100).
Estas funciones, en lo que afecta directamente al proceso han conllevado una modificación de la LEC, en lo relativo a la presentación de documentos, ya que conforme al 267, la presentación de documentos públicos, se puede formalizar en soporte electrónico a través de imagen digitalizada conforme a la normativa técnica del Comité, y los privados, conforme al art. 268.1, podrán ser también presentados mediante imágenes digitalizadas conforme a la normativa técnica del Comité.
Por último indicar que corresponde al referido Comité, impulsar y coordinar la elaboración y ejecución de las iniciativas de actuación y planes conjuntos, acuerdos y convenios, en aras a lograr la transformación digital de la Administración de Justicia, previniendo la norma una Conferencia Sectorial de Justicia, en la que se coordinarán en el ejercicio de sus funciones fijando un marco de colaboración constante entre la Administración General del Estado y sus organismos y entidades de Derecho Público vinculadas o dependientes, y el Comité técnico estatal de la Administración judicial electrónica, que se articulará a través del Comité de Dirección para la Digitalización de la Administración u órgano equivalente. Completa el organigrama la constitución de un Consejo Consultivo para la Transformación Digital de la Administración de Justicia, para que la iniciativa, diseño, desarrollo y producción de sistemas se lleven a cabo en colaboración con el sector privado y los colectivos principalmente afectados, con sus pares en consejos territoriales en comunidades con competencias transferidas (art. 87).
IV. Conclusión
— La utilización de sistemas de IA en el proceso de toma de decisiones es una herramienta eficaz que contribuye, como auxiliar, en la labor jurisdiccional siempre y cuando, por los altos riesgos que potencialmente es capaz de causar, al generar resoluciones basadas en el resultado que ofrece y que pueden afectar a derechos fundamentales, en su implementación, se hayan adoptado los más altos estándares de seguridad para garantizar que el desarrollo del sistema de IA se haya producido con pleno respeto a los derechos fundamentales y sin sesgo discriminatorio alguno.
— Es preciso igualmente que sean fácilmente detectables las desviaciones del sistema durante el proceso de toma de decisión, siendo indispensable que las soluciones que ofrece sean explicables y totalmente transparentes y que, en definitiva, quede garantizada la equidad y ética de la decisión.
— Por último, la administración encargada de crear, implementar o dotar de los sistemas de IA y aplicaciones para el desempeño de la labor jurisdiccional, debe evitar cualquier tipo de injerencia en la misma evitando la toma de cualquier decisión que afecte directa o indirectamente a la función constitucionalmente asignada al Poder Judicial.