Disforia digital en la administración de justicia
| Autor | Raúl C. Cancio Fernández |
| Páginas | 77-94 |
Capítulo 3
DISFORIA DIGITAL EN LA ADMINISTRACIÓN
DE JUSTICIA
Raúl C. Cancio Fernández
Las voluntaristas esperanzas disruptivas en la plena aplicación de la inteligen-
cia artificial (IA) en el ámbito del Poder Judicial no enervan una realidad ineludi-
ble –e inevitable– como es la reformulada y creciente vinculación entre la IA y la
Administración de Justicia. Y más concretamente, entre el algoritmo y la decisión
judicial.
Ahora bien, es conveniente, al hablar de estas cuestiones, hacerlo prevenido de
ciertos adanismos perturbadores. La hogaño fascinación por la IA no se diferencia
mucho de la que antaño experimentaron los ilustrados del siglo XVIII por el meca-
nicismo newtoniano, por los automaticismos como metáfora de la cultura manie-
rista y reflejo de la idea que la Ilustración tiene del Hombre, al que ve como una
máquina, ya no regido por Dios sino por los propios mecanismos de sus vísceras,
huesos y músculos. En este sentido, la aspiración de los revolucionarios ilustrados
era configurar una administración a imagen y semejanza de una máquina que apli-
cara automáticamente la ley aprobada por el parlamento1.
Una fascinación, por tanto, de naturaleza onfaloscópica y nada original a la
que hoy experimenta nuestra tecnificada sociedad por la robotización y las aplica-
ciones prácticas de la IA.
1
“Por vez primera en la historia humana, todo el aparato del poder se objetiviza en un abstracto y casi
mecánico (casi, porque enseguida habrá de aceptarse que la Ley puede y debe habilitar poderes llamados
discrecionales en favor de las autoridades administrativas, poderes que facultan una posibilidad de elección
entre soluciones igualmente justas) aparato de ejecución legal, de normas escritas y como tales ciertas, ela-
boradas meditadamente con la sage lenteur de las Asambleas, fijas e inmutables para los intérpretes y para los
aplicadores, seguras, pues, para los ciudadanos, que por vez primera en la historia pueden conocer el Dere-
cho a través de su publicación regular en su tenor exacto”. García de Enterría, E: La lengua de los derechos.
La formación del Derecho público europeo tras la Revolución Francesa, Civitas, Madrid, 2009.
78
JUSTICIA, REPARACIÓN Y REINSERCIÓN
1. EL ALGORITMO Y LA DECISIÓN
Los algoritmos, si atendemos al DRAE, son un conjunto ordenado y finito de
operaciones que permite hallar la solución de un problema2. Etimológicamente, el
origen del término se radica en el Bagdad del siglo IX, donde si bien no existían aún
los ordenadores, sí impartía clases un brillante e inteligente matemático, Mohamed
ben Musa, conocido como Al-khwarizmi, sobrenombre del que deriva el término
alguarismo, ulteriormente contaminado por el latín medieval, que lo convirtió en
algoritmo, merced a la palabra aritmo, número en griego.
La anfractuosidad de esta herramienta tecnológica se ha ido incrementando
exponencialmente, pasando de tener una naturaleza estática a otra dinámica o,
en otras palabras, si en el diseño de los primeros, los programadores insertaban en
ellos los criterios para tomar las decisiones, en los algoritmos dinámicos, éstos dis-
ponen ya de la capacidad de aprender con el tiempo de los datos y experiencias
en aras de tomar decisiones autónomas, generando sus propias instrucciones des-
ligadas por tanto de las pretéritamente aplicadas por el programador.
Un paso más en esta evolución lo constituiría el llamado aprendizaje profundo
o deep learning que supone un funcionamiento de la IA emulando redes neurona-
les complejas. En estos casos, los algoritmos extraen patrones de ingentes masas
de datos masivos caracterizados por su volumen, variedad y velocidad –las llama-
das tres V– obteniendo resultados que ya no se vinculan de modo lineal sino com-
plejo, por lo que no resulta en absoluto sencillo determinar la causalidad entre los
datos manejados y la decisión finalmente adoptada. Esta evolución supone, en
puridad, la huida de la decisión finalmente elegida del control del ser humano,
incapaz de comprender la teleología de la decisión –errónea o acertada, es lo de
menos–, al desvanecerse la transparencia del proceso desde el principio hasta el
final, deviniendo opacos para sus creadores, incapaces de rastrear la lógica que
siguen. De ahí que se hable del proceso de adopción de la decisión por parte de
los algoritmos como una caja negra (black box).
2
Una definición jurídica de algoritmo es ya posible encontrarla en diversos dictámenes de la Comisión de
Garantía del derecho de acceso a la información pública de Cataluña. Así, la Resolución de la Reclamación
123/2016 señala que: “Un algoritmo, como “procedimiento de cálculo que consiste en cumplir un conjunto
ordenado y finito de instrucciones con unos datos especificados para llegar a la solución del problema plan-
teado” o “conjunto finito de reglas que, aplicadas de manera ordenada, permiten la resolución sistemática
de un problema, el cual se utiliza como punto de partida en programación informática” (en las dos defini-
ciones que da el Termcat aplicables a este caso), no deja de ser un tipo de información, expresado habitual-
mente en lenguaje matemático o informático (a pesar de que los algoritmos también se pueden expresar de
otras muchas maneras, incluyendo los diagramas de flujo, el pseudocódigo y el propio lenguaje natural)”.
Para continuar leyendo
Solicita tu prueba