La Inteligencia Artificial en las Cortes: una Introducción Legal al Robot Juez

¿Cuánto falta para que los algoritmos empiecen a decidir los casos judiciales?

Esta es una versión traducida del artículo Artificial intelligence in courts: A (legal) introduction to the Robot Judge.

El gobierno está cada vez más automatizado. La tecnología permite reducir la participación humana en un gran número de actividades como la recaudación de impuestos y la seguridad social. ¿La inteligencia artificial (IA) impactará también en otras áreas del gobierno?

El Ministerio de Justicia de Estonia designó un Robot Juez para resolver los casos por montos pequeños. Estonia no está sola. En los Países Bajos, el uso de la IA en la justicia también es parte de la agenda política.

Por un lado, la IA en la justicia trae una serie de promesas. Se espera que los procedimientos sean más baratos, más rápidos y menos sesgados. Aunque también genera una serie de preocupaciones.

Aunque el término “Robot Juez” sea cada vez utilizado con mayor frecuencia, llevará tiempo que la IA reemplace a los jueces humanos. Y esto es especialmente cierto en los casos que vienen primero a la mente de los abogados: los juicios de alto perfil y gran complejidad, que involucran a un gran número de testigos y suelen resultar en interpretaciones legales innovadoras.

Si bien la IA es capaz de predecir el resultado de juicios (por ejemplo, de la Corte Europea de Derechos Humanos), aún está lejos de reemplazar a los humanos en los casos más complejos. La IA que se utiliza actualmente para predecir el resultado de juicios es, en el mejor de los casos, sólo un primer paso en esa dirección.

El impacto de la IA en la justicia

Los jueces no deben temer por su trabajo en lo inmediato. Sin embargo, esto no significa que la IA no vaya a tener un impacto considerable sobre la justicia en un futuro cercano. El uso de IA en las cortes puede darse de las tres maneras siguientes.

1) La IA puede ser utilizada por los administradores del sistema de justicia para mejorar sus procesos y reducir costos a través de una mejora más eficiente de los casos. Además, el uso de IA en la gestión de las cortes promete generar un gran número de datos valiosos sobre el funcionamiento de los sistemas judiciales.

2) La IA será cada vez más utilizada como soporte de los jueces, por ejemplo, para identificar, organizar y seleccionar jurisprudencia relevante, detectar patrones en la jurisprudencia, ayudar a destacar argumentos presentados por las partes o crear argumentos que serán usados en juicios. En estos casos, la IA tendrá un impacto más directo sobre el resultado de los casos.

En algunos países, como Estados Unidos, la IA ya se usa para asistir a los jueces a estimar el riesgo de una fuga a la hora de decidir si otorgar una fianza. Aunque estos sistemas de soporte dejan la decisión en manos del juez humano, la IA igualmente tiene un fuerte impacto sobre el resultado del caso.

Con frecuencia, los jueces no se atreven a contradecir a la IA. No es fácil contradecir a un sistema que revisa miles de casos. En especial, cuando el juez tiene un tiempo limitado para tomar su decisión.

La IA en las cortes puede terminar en el uso de la IA como corte. Pero en la primera, el involucramiento humano tiene un valor en sí mismo. Y el uso de la IA no excluye que siga existiendo algún tipo de supervisión general sobre los algoritmos por parte de un juez o de un empleado del sistema de justicia.

3) El uso de la IA como corte es la tercera forma en la que la IA podría impactar el sistema de justicia en el futuro.

Veamos cómo podría funcionar.

Diferenciando entre tipos de casos

El uso de IA como corte — la IA reemplazando completamente a jueces humanos — seguirá siendo ciencia ficción en el futuro cercano para los casos más complejos. Sin embargo, no es imposible que pueda usarse en el corto plazo en cierto tipo de casos. Por ejemplo, en el derecho privado hay casos que podrían funcionar muy bien con decisiones de IA.

Este tipo de casos tienen al menos dos características que los vuelven menos controvertidos para automatizar: son no-rivales y no-complejos.

En general, mientras mayor sea la rivalidad entre las partes, más se requiere el involucramiento humano. Casos no-rivales son aquellos donde las partes están plenamente de acuerdo en el resultado deseado. Incluso, podrían colaborar entre ellas y con el juez para lograr ese resultado. Pensemos, por ejemplo, en casos de divorcio donde ambas partes están de acuerdo en los términos de la separación. Pero la única forma de ejecutar el divorcio es a través de una sentencia de un juez.

Por otro lado, a medida que un caso se vuelve más complejo, más difícil es de resolver por parte de la IA. Esto se refiere, primero, a la complejidad que está directamente relacionada con los aspectos específicos del caso como la cantidad de testigos, la evidencia documental, y la cantidad de partes representadas. Pero también se refiere a la complejidad de las reglas legales que aplican al caso.

Mientras más clara sea una regla legal (mientras menos excepciones admita y menos términos vagos utilice), más sencillo es para los sistemas de IA resolver el caso. Esto también significa que la voluntad de aplicar un Robot Juez en el futuro podría tener consecuencias en el diseño de las reglas legales. Los mecanismos de ODR que utilizan IA pueden servir como ejemplo. Al diseñar esas formas alternativas de resolución de disputas, la posibilidad de implementar IA es tenida en cuenta.

Un ejemplo de regla no compleja es la que dice que, en casos de que no haya oposición de la otra parte, una corte debe aceptar un reclamo. Estos casos son al mismo tiempo simples y no-rivales.

Preocupaciones para el futuro

Ya sea que se utilice en la gestión de casos, para asistir a jueces o para resolver los casos, el uso de IA en las cortes tiene una serie de desafíos legales. Por ejemplo, en lo que hace a la protección de datos.

A la hora de evaluar la deseabilidad de la IA, también es necesario realizar consideraciones de derechos humanos como el derecho a un juicio justo y a la transparencia.

Para realizar esta evaluación, es útil distinguir entre los casos de la IA en la corte y la IA como cortes. En el caso de la IA en la corte, como asistencia para los jueces, los problemas de derechos humanos parecen pequeños. En muchos casos, la aplicación de IA no es más problemática que los humanos.

Pensemos, por ejemplo, en un sistema de IA que identifica argumentos legales o que mapea la ley relevante para un caso. Estos sistemas no van a tener un desempeño peor que el de un juez que introduzca términos de búsqueda aleatorios en un motor de búsqueda. En síntesis, los derechos humanos no establecen un límite claro para la aplicación de IA en las cortes, aunque sirven como fundamento para la formulación de estándares éticos.

En relación al uso de la IA como cortes o el Robot Juez, las preocuaciones de derechos humanos son más evidentes. Esto se debe principalmente al hecho de que esos derechos humanos fueron escritos para situaciones en las que un humano estaría a cargo de los procedimientos judiciales. El involucramiento humano está estrechamente conectado a la percepción común de lo que constituye un procedimiento justo.

En algunas áreas de la ley, como el derecho penal, es especialmente importante preservar esta percepción.

Esto es válido también para los casos no-rivales y no-complejos que mencionamos más arriba. Si las partes acuerdan en el resultado deseado del caso, ¿por qué no debería permitírseles elegir a un Robot Juez, si esto les permitirá tener un resultado en una fracción de tiempo de lo que llevaría en otro caso? ¿Puede el derecho a un juicio justo ser obviado en este caso?

El futuro tiene muchas preguntas sin responder en relación con el uso de la IA en las cortes. Sin embargo, es necesario responderlas rápido porque la tecnología avanza rápido — mucho más rápido que la ley. Y la ley debe guiar este desarrollo tecnológico.

Stefan Philipsen. Profesor asistente en derecho constitucional en la Universidad de Utrecht University.

Erlis Themeli. Estudiante de posdoctorado en la Erasmus University de Rotterdam.