Corte Constitucional: "La IA no puede reemplazar a un juez en la toma de decisiones"

Mar, 13/08/2024 - 07:33
La Corte instauró que los jueces deben garantizar un uso adecuado de la información y los datos de los implicados en sus decisiones.
Créditos:
Freepik

La Corte Constitucional colombiana decretó este lunes que "la Inteligencia Artificial no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción", después de un caso en el que un juez usó ChatGPT en un proceso judicial.

El alto tribunal estudió este caso a petición de la Defensoría del Pueblo y concluyó que debe respetarse "el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina".

Se trata de un caso en el que estaba involucrado un menor de edad diagnosticado con Trastorno del Espectro Autista (TEA) desde su nacimiento y que necesitaba un tratamiento de salud especializado por parte de su Entidad Prestadora de Salud (EPS), las empresas que se encargan de gestionar y administrar los servicios de salud en Colombia.

Lea también: Fiscalía responde tras video de Mauricio Leal

En la tutela, la madre del niño aludía que para recibir la terapia, necesitaba desplazarse en transporte urbano y no contaba con los recursos económicos suficientes ni tampoco para pagar las cuotas moderadoras y lo copagos de la EPS para acceder al médico y a los fármacos. Por ello pedía a la EPS que la exonerara del pago y autorizara el financiamiento de los desplazamientos.

En este caso, el juez empleó la IA para "formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia".

También abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.

Además: DIAN declara contingencia, tras caída de su plataforma

La corte también recordó que no es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares, "que pueden estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas".

Por último, alegó que los jueces deben garantizar un uso adecuado de la información y los datos de los implicados.

En contrapartida, el Constitucional dictaminó que es "admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación".

Finalmente, el alto tribunal indicó que el uso de este tipo de tecnologías "debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez".

En el caso del juez, concluyó que "no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos", aunque "no hubo remplazo de la función judicial por parte de ChatGPT".

Creado Por
Agencia EFE
Más KienyKe
La Alcaldía de Bogotá amplió la suspensión del racionamiento de agua y levantará los cortes en la capital durante varios días. ¡Prográmese!
Petro dijo que él tiene una "cercanía muy grande desde joven" con Uruguay y comparó su propia trayectoria como guerrillero con la de Mujica.
Once Caldas goleó 3-0 al América de Cali con un doblete de Dayro Moreno, dejando a los 'Diablos Rojos' sin opciones de seguir aspirando por un cupo a la final de la Liga BetPlay.
Ochoa, que fue fundador y socio de Pablo Escobar en el cartel de Medellín, quedó libre tras más de 25 años preso por tráfico de cocaína y otros delitos.