La Sentencia T-323 de 2024 de la Corte Constitucional de Colombia es un hito en la jurisprudencia colombiana, pues aborda de manera directa el uso de herramientas de inteligencia artificial (IA) en los procesos judiciales. Este fallo, con ponencia del magistrado Juan Carlos Cortés González, ha generado un amplio debate en torno a los límites y posibilidades de la IA dentro del ámbito legal, especialmente en cuanto a la protección de derechos fundamentales y el debido proceso. El caso se originó en una acción de tutela promovida por una madre en representación de su hijo menor de edad, diagnosticado con trastorno del espectro autista (TEA), contra su Entidad Promotora de Salud (EPS). Sin embargo, el aspecto que capturó mayor atención fue el uso de la IA para sustanciar parte de la decisión en segunda instancia, proferida por el Juzgado del Circuito.
Uso de IA en la Administración de Justicia: Un Debate en la Corte
Uno de los elementos más novedosos de esta sentencia fue la utilización de ChatGPT 3.5 por el Juzgado del Circuito en el fallo de segunda instancia. El juez utilizó esta herramienta de IA generativa para complementar el análisis de los argumentos legales y sustentar ciertas partes de la decisión. La Corte Constitucional, al revisar este uso de la IA, planteó serias preguntas sobre si esta tecnología podría usurpar el rol de los jueces y si se podría comprometer el debido proceso.
La Corte concluyó que no hubo reemplazo del juez natural en la toma de decisiones, ya que el juez de segunda instancia primero estructuró su análisis con base en los principios y normativas aplicables, y solo después recurrió a la IA como una herramienta adicional. No obstante, la Corte enfatizó la necesidad de garantizar que el uso de la IA en la administración de justicia no afecte la autonomía y racionalidad humana que son esenciales en la toma de decisiones judiciales.
La preocupación central de la Corte fue si el uso de ChatGPT podría vulnerar el derecho fundamental al debido proceso, dado que la IA, si no se maneja adecuadamente, podría generar respuestas imprecisas o incluso sesgadas, afectando la calidad de la decisión judicial. La Corte subrayó que, aunque en este caso no se vulneró dicho derecho, es necesario establecer criterios éticos y normativos claros para el uso de herramientas de IA en los procesos judiciales, con el fin de evitar futuros riesgos.
Los Principios del Uso de IA según la Corte Constitucional
En la Sentencia T-323 de 2024, la Corte estableció una serie de principios que deben guiar el uso de IA en el sistema judicial. Estos principios fueron extraídos a partir del análisis del caso y de las características inherentes a las herramientas de IA como ChatGPT:
- Transparencia: Las partes involucradas en un proceso judicial deben estar informadas sobre el uso de IA. Esto incluye revelar en qué momentos y cómo se utilizó la herramienta para garantizar que las decisiones sean comprensibles y rastreables.
- Responsabilidad: El uso de IA no puede eximir al juez de su responsabilidad. Las decisiones finales deben ser tomadas por el juez, basadas en su análisis crítico y su interpretación de la ley, sin delegar este deber a una máquina.
- Privacidad: En este caso, la Corte destacó que el juez no introdujo datos personales en la IA, lo que garantizó el respeto por la privacidad del menor y las partes involucradas. Esto es fundamental en casos de tutela, especialmente cuando están en juego derechos sensibles como los de salud.
- No sustitución de la racionalidad humana: La IA debe ser un complemento para optimizar tiempos y análisis, pero nunca puede reemplazar el juicio humano. La Corte fue enfática en que el uso de IA no puede ser un atajo para evitar la reflexión crítica que exige cada decisión judicial.
- Seriedad y verificación: La información obtenida por la IA debe ser revisada y contrastada por el juez. La IA puede presentar errores o alucinaciones, por lo que su uso debe ir acompañado de una verificación rigurosa.
- Prevención de riesgos: Es indispensable identificar y mitigar los riesgos asociados con el uso de IA, como la posibilidad de generar decisiones basadas en información sesgada o incompleta.
Herramientas Tecnológicas y su Aplicación en la Sentencia
En la sentencia se abordó directamente el uso de ChatGPT 3.5, el cual fue utilizado por el Juzgado del Circuito para resolver preguntas relacionadas con la exoneración de copagos y cuotas moderadoras para el niño con diagnóstico de TEA. Aunque el juez dejó claro que las respuestas de
la IA no determinaron la decisión final, sino que sirvieron para complementar su análisis, la Corte consideró que el uso de este tipo de herramientas plantea desafíos importantes.
La Corte Constitucional destacó que, aunque ChatGPT fue utilizado con una finalidad específica y bajo control humano, se hace necesario establecer guías y lineamientos que definan cómo y cuándo se pueden utilizar estas tecnologías en los procesos judiciales. En particular, la sentencia ordenó al Consejo Superior de la Judicatura elaborar una guía sobre el uso de la inteligencia artificial en la justicia, con énfasis en herramientas como ChatGPT, y garantizar que los jueces se capaciten adecuadamente para utilizar estas herramientas sin comprometer la independencia y autonomía judicial.
Además, la Corte sugirió que, en los procesos judiciales, las herramientas de IA pueden ser de gran utilidad para optimizar tiempos y mejorar la eficiencia, pero siempre deben ser utilizadas de manera razonable y proporcional. La IA no puede ser vista como una solución automática para todos los problemas judiciales, ya que existen riesgos inherentes, como los sesgos algorítmicos o las limitaciones tecnológicas, que pueden afectar el resultado de un caso si no se gestionan correctamente.
La Corte Constitucional de Colombia es la máxima autoridad en el control constitucional y la protección de los derechos fundamentales. Desde su creación en 1991, ha jugado un papel central en la defensa de los principios establecidos en la Constitución de 1991, revisando leyes, actos administrativos y sentencias judiciales para asegurar su conformidad con los derechos fundamentales y el Estado Social de Derecho. La Corte tiene la facultad de revisar acciones de tutela, como en el caso de la Sentencia T-323 de 2024, garantizando que los derechos de los ciudadanos sean respetados por las autoridades y privadas.
La Sentencia T-323 de 2024 es un precedente significativo en la historia jurídica de Colombia. No solo se pronuncia sobre la protección de los derechos fundamentales en el ámbito de la salud, sino que también aborda el uso de inteligencia artificial en el sistema judicial, abriendo una nueva etapa en la administración de justicia. La Corte Constitucional ha dejado claro que la IA puede ser una herramienta valiosa para mejorar la eficiencia judicial, pero su uso debe estar regulado para evitar riesgos como el sesgo, la falta de transparencia o la posible violación del debido proceso.
Dr. Lenis Vargas Badillo
septiembre 2024
Abogado y Profesor Universitario de Pregrado y Posgrado en derecho de las nuevas tecnologías, Propiedad Intelectual, Protección de Datos, Derecho Internacional Privado, Derecho Comercial Nacional e Internacional. Candidato a Doctor en Derecho aplicado a las Nuevas Tecnologías. Magister en Derecho Comercial Nacional e Internacional, Contratación Internacional y Negocios internacionales. Con cursos en profundización en Lenguaje de programático Python y JavaScript, React Básico (Start Coding), React Avanzado (Start Coding), Node.Js (Start Coding), Diseño y Despliegue de IA, Gobernanza de la Inteligencia Artificial, Gobernanza de Datos.
