Periculum in mora y sistemas expertos de IA. Conjurando y objetivando el riesgo frente a los atajos intuitivos
| Autor | Pere Simón Castellano |
| Cargo del Autor | Profesor contratado Doctor (acreditado ANECA desde 2015) en la Universidad Internacional de la Rioja UNIR |
| Páginas | 113-157 |
113
En la primera parte de este trabajo hemos analizado en qué consiste
el campo de la IA y la relación estrecha que los sistemas expertos de IA
mantienen con las ciencias empíricas, dominada en la actualidad por tres
corrientes: los sistemas multi-agente (MAS), las instituciones electrónicas
y los sistemas dialécticos (C, 2015). No hace falta empero domi-
nar conocimientos técnicos para comprender la posibilidad que ofrece el
CAPÍTULO II
PERICULUM IN MORA Y SISTEMAS
EXPERTOS DE IA. CONJURANDO
Y OBJETIVANDO EL RIESGO FRENTE
A LOS ATAJOS INTUITIVOS
SUMARIO: 1. ¿Cómo deciden los jueces? 1.1. ¿Cómo adopta el juzgador las
medidas cautelares? 1.1.1. ¿Cómo decide el juez acerca de la adopción de
la prisión provisional? 1.2. ¿Cómo deciden los fiscales cuando solicitar la
medida de prisión provisional? 2. La Inteligencia Artificial Judicial para la
Valoración del Riesgo (IAJVR). 2.1. El Derecho penal del riesgo. ¿Cómo se
valoran los riesgos? 2.1.1. De la peligrosidad criminal al enfoque de riesgo
y la justicia actuarial. El actuarialismo penitenciario como precedente y
punto de partida. a) El caso Wisconsin v. Loomis. 2.1.2. Metodologías y
enfoque de riesgo propio de sistemas de compliance. 2.2. Bases de datos
para nutrir al algoritmo de IAJVR. 2.2.1. Los datos del precedente. 2.2.2.
Ampliando la base: los datos obrantes en la causa. 2.2.3. Investigación
digital, datos e información personal. De la aportación voluntaria por par-
te del investigado. 2.3. Riesgos concretos a enervar con la prisión provi-
sional y sistemas de IAJVR. 2.3.1. Riesgo de fuga. 2.3.2. Riesgo de reite-
ración delictiva. 2.3.3. Riesgo de destrucción de pruebas. 2.3.4. Descartar
definitivamente la alarma social.
JUSTICIA CAUTELAR E INTELIGENCIA ARTIFICIAL LA ALTERNATIVA A LOS ATÁVICOS HEURÍSTICOS JUDICIALES
PERE SIMÓN CASTELLANO
114
estado actual tecnológico, cuyas técnicas son capaces de replicar el proceso
de deliberación del ser humano, partiendo de una ingente base de datos
e informaciones, que se procesa y analiza para detectar patrones y ofrecer
soluciones ad hoc del caso concreto. Esa base de datos como punto de par-
tida debe alejarse del paradigma del dirty data (R, S
C , 2019, 26-49) y, por ende, debe estar compuesta de información
general –sobre otras causas, de los datos e informaciones que pueden operar
como antecedente y precedente, y en algunas ocasiones también de toda la
información pública disponible en Internet– y particular –relacionada con
el caso sub iudice–. La tecnología permite así organizar la información en
conocimiento, expandirlo y generar, a partir del procesamiento, la toma de
decisiones más o menos acertadas o adecuadas, replicando el proceso cog-
nitivo humano, aunque en este caso las soluciones o respuestas hayan sido
generadas en contextos interactivos y dinámicos.
En esta parte, en cambio, vamos a desgranar las instituciones procesales
cautelares básicas que están condenadas al cambio fruto del empleo de los
sistemas de inteligencia articial y que comprenden, básicamente, las medidas
cautelares, en general, y la prisión provisional, en particular, si bien también
se formulará el debido paralelismo con las herramientas y modelos, digitales
o no, ya existentes, para la valoración del riesgo en el ámbito de la ejecución
penal y del sistema penitenciario.
1. ¿CÓMO DECIDEN LOS JUECES?
Es el punto de partida o prius lógico para poder decidir si la IA es via-
ble en el ámbito de las decisiones judiciales, también aquellas que pueden ser
cualicadas como un enjuiciamiento prima facie (N F, 2007), que
viajan desde la decisión de admisión de una querella o las decisiones sobre la
admisión de pruebas hasta la resolución sobre las medidas cautelares, cuyo
paradigma es la adopción de la prisión provisional. O lo que es lo mismo:
solo si comprendemos como deciden los jueces seremos capaces de articular
una fórmula que emule o replique su proceso lógico y psicológico de toma de
decisiones.
SEGUNDA PARTE | CAPÍTULO II PERICULUM IN MORA Y SISTEMAS EXPERTOS DE IA.
CONJURANDO Y OBJETIVANDO EL RIESGO FRENTE A LOS ATAJOS INTUITIVOS
115
Los seres humanos somos automáticos, recurrentes, en una mayor me-
dida de lo que podemos pensar, en nuestro día a día, en nuestro actuar cotidia-
no. Nos gusta repetir nuestras experiencias y ritos más ancestrales. Desayunar
en la misma franja horaria, frecuentar los mismos bares o librerías y movernos
en un determinado círculo de amistades. Los automatismos sociales forman
parte de nuestra vida (K, 2012). Los jueces también son personas y
no podrían escapar a algo tan humano como la forma como se accede al co-
nocimiento y, como este sumado a otros factores, inuye decisivamente en las
decisiones que luego tomamos. Los humanos somos automáticos y los jueces,
por ende, también son mecánicos en la mayoría de las ocasiones.
Por si lo anterior fuera poco, que no lo es, además, los jueces no operan
en el vacío. Ni pueden ni deben hacerlo. De hecho, ningún ser humano lo hace
en su actuar cotidiano. Lo que sucede en el exterior nos condiciona, nos aige
y llega a afectar nuestra toma de decisiones. Es lo que K (2014),
sobre lo que volveremos más adelante en breve, llama el efecto del contexto
y enlaza con la afección y la emoción. O lo que fue, en su día, brillantemente
expuesto por C (1975), cuando nos advertía que el juzgador no puede
actuar aislado del entorno social y las decisiones que este toma en los litigios
de interés público son fruto de un diálogo natural, permanente e inevitable
con otros elementos sociales y políticos –académicos, prensa, el poder ejecuti-
vo, el legislador, agencias administrativas y el público, en general–.
Los jueces también tienen ideología y se rigen por motivos ideológicos
(P, 2011). Sería falaz no reconocerlo, aunque otra cosa bien distinta es
que hayan recibido una formación que les permite tomar decisiones basa-
das en la Ley, y en la interpretación que un jurista puede hacer de esta. Esta
formación profesional de jueces y magistrados actúa como límite interno a
los atajos intuitivos más salvajes de nuestra psicología cognitiva. Señala N-
F (2018, 44) que la carga de trabajo o la sobrecarga, mejor dicho,
acostumbra a provocar un alejamiento de las realidades a juzgar y empeñe al
juzgador a dejarse llevar por su ideología. A nuestro juicio, la mecanización y
automatismo de ciertas decisiones en casos fáciles, como contraposición a los
casos difíciles, puede encontrar sus razones de ser en esa sobrecarga infame a
la que el ejecutivo ha condenado al Poder Judicial. La sobrecarga, el cansancio
y, sobretodo, la comodidad. Fatiga y confort, debilidad y placer. Una tendencia
Para continuar leyendo
Solicita tu prueba