Inteligencia artificial y administración de justicia: una disrupción relativa
| Autor | Raúl C. Cancio |
| Páginas | 181-202 |
Inteligencia Artificial y Administración de Justicia:
una disrupción relativa
R C. C
Letrado del Tribunal Supremo de España.
Doctor en Derecho y Académico Correspondiente de la
Real Academia de Jurisprudencia y Legislación
¿Qué pasaría si supieras lo que tu juez querría escuchar?
Context, Part of the Lexis Analytics™ Suite
Las voluntaristas esperanzas disruptivas en la plena aplicación de la inteligencia
artificial (IA) en el ámbito del Poder Judicial no enerva una realidad ineludible –e
inevitable– como es la reformulada y creciente vinculación entre la IA y la Adminis-
tración de Justicia. Y más concretamente, entre el algoritmo y la decisión judicial.
Ahora bien, es conveniente, al hablar de estas cuestiones, hacerlo prevenido de
ciertos adanismos perturbadores. La actual fascinación por la IA no se diferencia
mucho de la que antaño experimentaron los ilustrados del siglo XVIII por el meca-
nicismo newtoniano, por los automatismos como metáfora de la cultura manierista y
reflejo de la idea que la Ilustración tiene del Hombre, al que ve como una máquina, ya
no regido por Dios sino por los propios mecanismos de sus vísceras, huesos y múscu-
los. En este sentido, la aspiración de los revolucionarios ilustrados era configurar una
administración a imagen y semejanza de una máquina que aplicara automáticamente
la ley aprobada por el parlamento1.
Una fascinación, por tanto, de naturaleza onfaloscópica y nada original a la que
hoy experimenta nuestra tecnificada sociedad por la robotización y las aplicaciones
prácticas de la IA.
1 “Por vez primera en la historia humana, todo el aparato del poder se objetiviza en un abstracto y
casi mecánico (casi, porque enseguida habrá de aceptarse que la Ley puede y debe habilitar poderes llamados
discrecionales en favor de las autoridades administrativas, poderes que facultan una posibilidad de elección
entre soluciones igualmente justas) aparato de ejecución legal, de normas escritas y como tales ciertas, elabo-
radas meditadamente con la sage lenteur de las Asambleas, fijas e inmutables para los intérpretes y para los
aplicadores, seguras, pues, para los ciudadanos, que por vez primera en la historia pueden conocer el Derecho
a través de su publicación regular en su tenor exacto”. García de Enterría, E: La lengua de los derechos. La for-
mación del Derecho público europeo tras la Revolución Francesa, Civitas, Madrid, 2009.
182 Raúl C. Cancio
1. EL ALGORITMO Y LA DECISIÓN
Los algoritmos, si atendemos al DRAE, son un conjunto ordenado y finito de
operaciones que permite hallar la solución de un problema2. Etimológicamente, el
origen del término se radica en el Bagdad del siglo IX, donde si bien no existían aún
los ordenadores, sí impartía clases un brillante e inteligente matemático, Mohamed
ben Musa, conocido como Al-khwarizmi, sobrenombre del que deriva el término al-
guarismo, ulteriormente contaminado por el latín medieval, que lo convirtió en algo-
ritmo, merced a la palabra aritmo, número en griego.
La anfractuosidad de esta herramienta tecnológica se ha ido incrementando ex-
ponencialmente, pasando de tener una naturaleza estática a otra dinámica o, en otras
palabras, si en el diseño de los primeros, los programadores insertaban en ellos los
criterios para tomar las decisiones, en los algoritmos dinámicos, éstos disponen ya de
la capacidad de aprender con el tiempo de los datos y experiencias en aras de tomar
decisiones autónomas, generando sus propias instrucciones desligadas por tanto de
las pretéritamente aplicadas por el programador.
Un paso más en esta evolución lo constituiría el llamado aprendizaje profundo
o deep learning que supone un funcionamiento de la IA emulando redes neuronales
complejas. En estos casos, los algoritmos extraen patrones de ingentes masas de da-
tos masivos caracterizados por su volumen, variedad y velocidad –las llamadas tres
V– obteniendo resultados que ya no se vinculan de modo lineal sino complejo, por
lo que no resulta en absoluto sencillo determinar la causalidad entre los datos mane-
jados y la decisión finalmente adoptada. Esta evolución supone, en puridad, la huida
de la decisión finalmente elegida del control del ser humano, incapaz de comprender
la teleología de la decisión –errónea o acertada, es lo de menos–, al desvanecerse la
transparencia del proceso desde el principio hasta el final, deviniendo opacos para
sus creadores, incapaces de rastrear la lógica que siguen. De ahí que se hable del pro-
ceso de adopción de la decisión por parte de los algoritmos como una caja negra
(black box).
2 Una definición jurídica de algoritmo es ya posible encontrarla en diversos dictámenes de
la Comisión de Garantía del derecho de acceso a la información pública de Cataluña. Así, la Resolución
de la Reclamación 123/2016 señala que: “Un algoritmo, como “procedimiento de cálculo que consiste
en cumplir un conjunto ordenado y finito de instrucciones con unos datos especificados para llegar a
la solución del problema planteado” o “conjunto finito de reglas que, aplicadas de manera ordenada,
permiten la resolución sistemática de un problema, el cual se utiliza como punto de partida en progra-
mación informática” (en las dos definiciones que da el Termcat aplicables a este caso), no deja de ser un
tipo de información, expresado habitualmente en lenguaje matemático o informático (a pesar de que los
algoritmos también se pueden expresar de otras muchas maneras, incluyendo los diagramas de flujo, el
pseudocódigo y el propio lenguaje natural)”.
Para continuar leyendo
Solicita tu prueba