La Corte Constitucional de Colombia acaba de decidir (en trámite de revisión) sobre el fallo de tutela de segunda instancia de un juez de Cartagena que había usado ChatGPT para redactar la parte motiva de una sentencia en la cual decidía sobre una tutela en la cual se pretendía la protección de los derechos fundamentales de un menor de edad.
Pueden encontrar los antecedentes de ese caso acá: Gutiérrez, J. D. (2023). «Hablemos sobre el uso de ChatGPT para redactar decisiones judiciales«, La Silla Vacía. (26 de febrero, 2023).
La sentencia T-323 de 2024 tomó un camino intermedio, pues no prohibió el uso de estos sistemas de IA para la redacción de decisiones judiciales pero sí dejó puntadas sobre qué tipo de usos son acordes con el marco constitucional colombiano y también exhortó al Consejo Superior de la Judicatura a producir orientaciones para uso en la administración de justicia.
A continuación transcribo las decisiones pertinentes de la parte resolutiva, pero habrá que leer con lupa esta decisión de casi 200 páginas para comprender todas sus implicaciones:
RESUELVE
PRIMERO. CONFIRMAR PARCIALMENTE la sentencia de segunda instancia proferida el 30 de enero de 2023 por el Juzgado del Circuito, que confirmó la decisión de primera instancia del 7 de diciembre de 2022, que dictó el Juzgado Municipal, dentro de la acción de tutela formulada por Blanca en contra de la EPS.
(…)
CUARTO. EXHORTAR a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y otras análogas o que se desarrollen en el ámbito de la inteligencia artificial IA, valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonomía judiciales, como garantías insustituibles para la vigencia del Estado Social de Derecho y la democracia.
En consecuencia, los funcionarios y empleados de la Rama Judicial aplicarán los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) seriedad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) adecuación a buenas prácticas y estándares colectivos, (xi) seguimiento continuo y adaptación y (xii) idoneidad.
QUINTO. ORDENAR al Consejo Superior de la Judicatura que, en el término de cuatro (4) meses, contados a partir de la notificación de esta providencia, divulgue una guía, manual o lineamiento en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT, regulación que deberá ser acorde con los aspectos establecidos en esta providencia y, en particular, con lo dispuesto en su fundamento jurídico 423.
SEXTO. ORDENAR al Consejo Superior de la Judicatura que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue esta providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.
Desde comienzo de este año el Consejo Superior de la Judicatura lanzó el proceso de construcción de orientaciones y regulaciones sobre el uso de sistemas de IA en el sector justicia. Más concretamente el 29 de febrero de 2024, el Consejo organizó una sesión de la mesa de trabajo multiactor co-organizada con la Universidad de los Andes y la Universidad Externado:
Por otra parte, de manera más reciente, la presidenta del Consejo explicó el alcance de dicho proceso en el primer episodio de ‘Espresso Digital’:
Además, la semana pasada el Consejo Superior de la Judicatura lanzó JusticIALab, que también abordará esta iniciativa regulatoria:
Finalmente, vale la pena reseñar que esta decisión de la Corte Constitucional contribuye a la conversación global sobre el uso de sistemas de IA en el sector justicia. Por ejemplo, la sentencia podrá ser considerada en la consulta pública de la UNESCO sobre su proyecto de «Directrices para el uso de sistemas de IA en cortes y tribunales».
A propósito, aprovecho para compartir los datos clave de esta consulta pública:
👉Borrador: https://unesdoc.unesco.org/ark:/48223/pf0000390781
👉Pueden contribuir con comentarios al borrador de «Directrices para el uso de sistemas de IA en juzgados y tribunales» a través de un formulario (hasta el 5 de septiembre de 2024) que está disponible aquí: https://forms.microsoft.com/pages/responsepage.aspx?id=Uq5PHbM5-kuwswIpVrERlGyDhI2FxRtEoFdD5uX792NUQkk1RUdXVFlHR1AxMUhLMVlRNTdQNE4yRS4u
Para cerrar esta nota, comparto la Sentencia T-323 de 2024 de la Corte Constitucional que pueden descargar acá.
Foro Administración, Gestión y Política Pública 