Maria Lorena Florez Rojas[1]

Lucía Camacho Gutiérrez[2]

Introducción

El curso “Inteligencia Artificial para la Administración de Justicia: Fundamentos, Aplicaciones y Buenas Prácticas” que fue el resultado de una fructífera colaboración entre el Consejo Superior de la Judicatura, a través de la Escuela Judicial Rodrigo Lara Bonilla Gracias a la invitación y coordinación de Juan David Gutiérrez, fuimos parte integrante de los más de 38 docentes que tuvo el curso. Esta experiencia nos proporcionó una oportunidad única de interactuar con más 1.400 servidores judiciales de la Rama Judicial, tanto quienes desempeñan tareas en la prestación del servicio público de justicia, como quienes ejercen tareas administrativas en la administración de justicia.

Tanto jueces, magistrados y servidores judiciales, de distintos despachos distribuidos en distintas partes del país aportaron en clase sus visiones sobre cuáles son los problemas y retos que la justicia debe enfrentar en el camino hacia la transformación tecnológica y el uso, a futuro, de la Inteligencia Artificial (IA).

En dichas sesiones sincrónicas dedicamos más de 60 horas para explorar los riesgos y retos éticos de la IA, las funcionalidades de estos sistemas para la justicia, las evaluaciones de impacto y auditorías algorítmicas, entre otros. Al final del curso, las docentes aprendimos que la discusión sobre la implementación de la IA en la justicia colombiana pasa por prestar atención a otras necesidades y deudas todavía pendientes, y por avanzar en la discusión sobre el uso y despliegue de sistemas de IA con la participación abierta y diversa de todas las partes interesadas.

Por último, queremos expresar nuestro agradecimiento a todos los participantes por su apertura en estas discusiones. En cada sección de este blog se presentarán de forma anónima algunas intervenciones que fueron hechas por los participantes en estas sesiones. Aquí presentamos algunas de las necesidades identificadas comúnmente en los grupos de estudiantes a los que dimos clases. Al final, presentamos recomendaciones sobre lo que creemos que debería ser parte de la discusión sobre la transformación tecnológica de la Rama Judicial.

La brecha digital, clave en las discusiones sobre IA en la justicia

La desigualdad digital también toca a la puerta de la Rama judicial, especialmente ahora que la virtualidad se ha mantenido cómo un común denominador para parte de las actividades judiciales y administrativas de la justicia.  Sin embargo, las discusiones sobre eventual uso y despliegue de sistemas de IA suelen dejar de lado esta discusión que conviene tener en mente.

En diversas sesiones, estudiantes que trabajan en despachos alejados de los centros urbanos comentaron que sus condiciones de acceso a dispositivos digitales y acceso a internet no era el mejor, y temen que esta desigualdad se reproduzca cuando la IA se masifique a futuro en la Rama. A la fecha sabemos muy poco sobre las condiciones de acceso y uso de tecnologías digitales, así como los niveles de alfabetización digital de los servidores judiciales que ejercen distintas tareas.

“Internet sin intermitencias. Tenemos muchas herramientas y no están interconectadas, y hay que hacer demasiados procesos – procedimientos para actualizar los expedientes digitales”

Aparejado a la falta de información estadística reciente que permita comprender el estado de la brecha digital en este sector público, observamos cómo iniciativas individuales, como el uso de sistemas de IA (en especial, LLMs como ChatGPT) para respaldar decisiones judiciales –en Cartagena, Santa Marta y Pereira– resaltan la urgencia de mantener y fortalecer los esfuerzos de sensibilización y alfabetización en el uso generalizado de las tecnologías digitales. Esto incluye herramientas de IA de acceso público y gratuito, para que podamos explorar de cerca las implicaciones derivadas de su uso en la motivación de las decisiones judiciales.

Interoperabilidad: Un Desafío Fundamental

La interoperabilidad es un asunto crítico en los múltiples sistemas de información que maneja la Rama Judicial. La justicia en Colombia tiene varios sistemas de información para la administración de procesos judiciales y su posterior consulta por litigantes, las partes y terceros interesados. En ocasiones, dependiendo la jurisdicción, el número de sistemas de información puede aumentar de manera considerable.

“Clasificación de expedientes, creación de reglas de correos, interoperabilidad”

Cualquiera que sea el nombre de estos sistemas (TYBA, SAMAI, Siglo XXI, SPOA, incluso Drive, etc.) la tarea de cargar información sobre las novedades en los procesos judiciales continúa siendo una labor en extremo artesanal, demandante en términos de tiempo en un entorno donde la celeridad judicial es una preocupación compartida. Varios servidores judiciales expresaron su frustración al tener que realizar múltiples veces de la manera manual lo que, en principio, debería ser un proceso automatizado y unificado.

Pero no solo es una tarea manual exigente, sino que los sistemas no son interoperables. La misma información debe ser cargada una y otra vez en distintos sistemas que, además, fueron diseñados con lógicas distintas, lo que impide o dificulta al menos por ahora que se comuniquen entre sí para compartir información. Esta falta de interoperabilidad no solo ralentiza los procesos judiciales, sino que también dificulta la colaboración eficaz entre los diferentes actores del sistema judicial. Esto, desde luego, genera la sensación casi generalizada de que el uso de sistemas de IA, antes que impactar en la confección de las decisiones judiciales, debería mejorar sustancialmente la manera en cómo la justicia informa sobre las actuaciones judiciales y asegura su consulta y trazabilidad.

“Mejorar las comunicaciones entre la oficina judicial y los juzgados laborales para establecer la multiplicidad de procesos por demandante en procesos ordinarios contra empresas estatales”

En este eje, hay otras deudas pendientes, como la implementación del expediente digital –que nacen siendo virtuales –y electrónico– nacen en papel y luego se digitalizan– aún enfrentan obstáculos en su adopción y uso efectivo en la práctica judicial. Del mismo modo, la transición de documentos en formato papel a formatos electrónicos sigue siendo un desafío en muchos contextos, lo que afecta la eficiencia y la agilidad en los procesos judiciales. Asimismo, es necesario realizar una mejora sustantiva de los sistemas de consulta para que sean verdaderamente amigables y accesibles para los usuarios, garantizando que la información relevante sea fácilmente accesible y comprensible para todas las partes involucradas en el sistema judicial. Estas iniciativas son fundamentales para avanzar hacia una justicia más eficiente, transparente y accesible para todos.

“aquí el problema no solo es aceptación es más bien un tema de Educación, de credibilidad, responsabilidad y de recursos.”

Implementación de la IA: las personas deben estar en el centro

Otro aspecto destacado fue la necesidad de adoptar un enfoque ágil y responsable en la implementación de tecnologías de IA. Los participantes enfatizaron la importancia de diferenciar entre las tareas automatizables que no requieren de la supervisión humana –y que permitan a las personas dedicar tiempo a otras tareas más relevantes–, y aquellas otras donde el componente humano no debería ser negociable, como la confección de las decisiones judiciales, entre otras.

Sin embargo, la discusión sobre el uso de IA en la Rama trajo aparejadas preocupaciones sobre el posible reemplazo o sustitución del factor humano. Es indiscutible que la pregunta por la implementación de la IA en la justicia es también una sobre el futuro del trabajo en un sector crítico para la satisfacción de los derechos de las personas.

Entendemos que, por ahora, el estado del arte tecnológico debería centrar la discusión no en el eventual reemplazo o sustitución del factor humano, sino en la potenciación del mismo a través del uso de tecnologías digitales que respondan a necesidades claramente identificadas. En algunas clases se discutió, por ejemplo, la utilidad de modelos de IA para revisar requisitos de admisión de demandas o memoriales, así como la adopción de prácticas de entidades que han implementado sistemas de automatización o digitalización que pueden llegar a ser útiles en el contexto colombiano, como el proceso de verificación de información en los procesos de restitución de tierras.

“Mas experimentación, utilizar a personas que hayan tenido resultados positivos, sin aplicar la tecnología, es decir, colaboración y participación”

Sin embargo, en el despliegue de la IA en la Rama debería existir acuerdos esenciales sobre qué tareas y funciones deberían reposar en manos de las personas, y en cuáles convendría adoptar el uso de sistemas de IA para auxiliar a servidores de la justicia. Estos acuerdos, desde luego, deberían ser fruto del consenso entre todos los usuarios de la Rama, no solo servidores judiciales, sino también la ciudadanía, litigantes, sociedad civil, entre otros.

Capacitación y Conciencia Ética

Además, se hizo hincapié en la necesidad de capacitar a todos los miembros del sistema judicial en el uso ético y responsable de la tecnología, incluyendo litigantes, ciudadanos y otros tomadores de decisiones y partes interesadas en la transformación digital de la Rama. Se destacaron las posibles consecuencias en términos de privacidad, veracidad y confiabilidad de los datos, así como el requisito de tener un “humano en el bucle” para supervisar y monitorear la implementación de sistemas de IA.

“El objetivo sería lograr diseñar procedimientos para agilizar esas decisiones, sin sacrificar la calidad”

Los participantes expresaron interés en herramientas y recursos accesibles para la redacción legal, la revisión automática de requisitos formales en la presentación de casos, la anonimización de documentos; pero resaltaron la importancia de un cambio estructural a nivel organizacional sobre las diversas consideraciones éticas y legales en todas las etapas del proceso de implementación de los sistemas de IA.

Enfoque en el Usuario y Reconocimiento de Limitaciones

Finalmente, se destacó la importancia de adoptar un enfoque centrado en el usuario final y de reconocer las múltiples partes interesadas involucradas en el proceso de implementación de tecnologías de IA o de cualquier tecnología. Es fundamental identificar quiénes son estos usuarios y cómo se ven afectados por el uso de estas herramientas tecnológicas. todos juegan un papel crucial en el ciclo de adopción de estas tecnologías en el ámbito judicial.

Sin embargo, también es crucial reconocer la diversidad de partes interesadas, que incluyen a los litigantes y la sociedad civil. Estos actores, al igual que los ciudadanos y los magistrados, utilizan estas herramientas en el contexto judicial. Por lo tanto, es imprescindible garantizar la transparencia y el acceso a la información pública como principios rectores en el uso e implementación de la IA en el sistema judicial.

Son necesarias reglas claras en canto al tipo de actividades que pueden encuadrar en la IA, la forma ética y responsable de usarlas y la supervisión constante de los resultados.

Así, es imperativo que la Rama Judicial esté preparada para identificar y abordar las necesidades y preocupaciones de estos usuarios. Los estudiantes expresaron su inquietud acerca del potencial aumento de los casos judiciales en los que se emplean sistemas de IA, como ChatGPT, para tomar decisiones sustanciales en los casos judiciales. Se compartió la preocupación respecto a estos usos que evidencian una aplicación precipitada de dicha herramienta, así como la falta de divulgación pública sobre su uso por parte de otros jueces. Además, varias voces resaltaron la necesidad de que el Consejo Superior de la Judicatura, entidad reguladora del sector, emita directrices al respecto.

Recomendaciones

Diagnosticar, Evaluar, priorizar y actuar. A lo largo de los diversos módulos del curso fuimos enfáticas en señalar que la Rama debía realizar una revisión exhaustiva de los recursos disponibles, tanto humanos, presupuestales, como tecnológicos para avanzar en los planes de transformación tecnológica donde la IA es un ingrediente más de una política pública que debería ser ambiciosa pero comprehensiva.

Por ejemplo, urge entender qué tipo de tecnologías –con y sin IA- ya funcionan en la justicia, identificar para qué sirven y cómo se usan es fundamental para tomar la decisión de adoptar o crear herramientas que sean útiles y respondan a necesidades reales; pero incluso esta evaluación se precisa para evaluar las necesidades en materia de interoperabilidad de los sistemas de información y su accesibilidad por los usuarios.

“Los cuellos de botella se deben identificar, (…) las necesidades de los procesos de gestión son muy diversos y parte de la priorización debe pasar por establecer qué se requiere solucionar en el corto plazo, o en el mediano o en el largo plazo. Es necesario priorizar según los cuellos de botella que más impactan el servicio”

También, urge profundizar en la evaluación, diagnóstico y jerarquización de las necesidades de la Rama en materia de transformación tecnológica. Se precisa priorizar en función de su importancia, relevancia, temporalidad e impacto las acciones más urgentes: el expediente digital y electrónico, así como la unificación e interoperabilidad de los sistemas de consulta judicial deberían ocupar los primeros lugares en la lista de lo que debe ser resuelto en el futuro inmediato.

Asimismo, creemos que hay que articular los procesos de implementación de tecnologías con los de capacitación y alfabetización digital, de manera armónica, repetida y sostenida. Numerosos participantes manifestaron que, en la realidad, primero se adopta una nueva herramienta y las capacitaciones llegan después, de ser así, esto debería cambiar.

Además, el proceso de transformación tecnológica de la Rama debe poder ser participativo, transparente, abierto. Las discusiones sobre el contenido de las políticas públicas deben dar paso a las voces que, con razón, apuntan a la brecha digital en la Rama como un problema que urge diagnosticar para resolver. Además, conviene no dejar de lado las experiencias aprendidas en pandemia: litigantes sin acceso a los expedientes, notificaciones perdidas en la bandeja de spam de los correos electrónicos, partes procesales sin acceso a internet o dispositivos digitales con los cuales conectarse a las audiencias. Este también es un problema de la justicia desde que se decidió mantener la virtualidad parcial de dicho servicio público una vez concluida la pandemia.

Pero la transparencia es clave no solo en el proceso de discusión de los planes de transformación tecnológica de la Rama Judicial, sino en la implementación de los sistemas de IA y su ciclo, especialmente cuando se aplican en la resolución de casos judiciales. Así, se requiere con urgencia la creación de lineamientos y directrices que orienten el uso de herramientas de predicción de texto, que son hoy por hoy los sistemas de IA más fácilmente accesibles por los servidores judiciales. Es fundamental que su aplicación en la labor judicial sea sometida a evaluación y revisión, con el objetivo de asegurar garantías esenciales como la rendición de cuentas y la transparencia de la actividad judicial, así como el derecho de los ciudadanos a recibir explicaciones sobre el contenido de las decisiones judiciales, y el derecho a apelar su contenido.

Si bien en Colombia todavía no hemos avanzado hacia la toma de decisiones automatizada en la labor judicial, creemos que hay que avanzar en la conversación de manera responsable y planificada. En esa conversación uno de los asuntos clave de debate debería ser cómo asegurar la vigencia y protección de derechos y otras garantías judiciales.

En nuestras clases insistimos en que la perspectiva de derechos humanos puede orientar esas discusiones donde lo técnico y lo jurídico deben dialogar. Acuerdos deberían poder lograrse, por ejemplo, en torno a la adopción de auditorías independientes para verificar el rendimiento y la confiabilidad de las tecnologías y sistemas de IA que se quieran implementar; o la transparencia de las prácticas de licitación, adquisición o tercerización de procesos tecnológicos esenciales para la administración de justicia. Como sea, las preocupaciones en materia de confidencialidad, integridad y autenticidad de la información deberían estar sobre la mesa.

Finalmente, consideramos que este proceso liderado debería continuar en el futuro, avanzando hacia una comprensión más profunda de la alfabetización digital en el uso de las herramientas digitales que son parte integral del día a día de los servidores judiciales y otros usuarios del sistema judicial. Esperamos que las conversaciones sobre el futuro de la justicia, ahora influenciadas por las nuevas y emergentes tecnologías, mantengan un enfoque centrado en los derechos, donde la apertura, la transparencia y la participación sean elementos fundamentales.

---

[1] PhD en derecho, Profesora Asistente en la Universidad de Groninga. Correo: m.l.florez.rojas@rug.nl

[2] Máster en derechos humanos, investigadora y activista por los derechos digitales. Correo: olgacamacho.g@hotmail.com