Empleo de sistemas algorítmicos de evaluación de riesgos en materia penal. Estándares mínimos para un uso acorde a las exigencias del debido proceso
| Autor | Ximena Marcazzolo Awad y Nathalie Walker Silva |
| Cargo del Autor | Profesora Investigadora del Centro de Derecho Regulatorio y Empresa Universidad del Desarrollo / Profesora de Derecho Civil Universidad Andrés Bello |
| Páginas | 75-96 |
EMPLEO DE SISTEMAS ALGORÍTMICOS DE
EVALUACIÓN
...
DE RIESGOS EN MATERIA PENAL.
ESTÁNDARES MÍNIMOS PARA UN USO ACORDE A
LAS EXIGENCIAS DEL DEBIDO PROCESO*
Ximena Marcazzolo Awad
Profesora Investigadora del Centro de Derecho Regulatorio y Empresa
Universidad del Desarrollo
Ximena Marcazzolo Awad y
Nathalie Walker Silva
Profesora de Derecho Civil
Universidad Andrés Bello
DOI: 10.14679/2057
1. INTRODUCCIÓN
El gran interés que suscita la inteligencia articial traspasa, desde hace algún tiempo, el
umbral de la comunidad cientíca. El concepto se utiliza con propiedad en la prensa mun-
dial y, casi a diario, es posible obtener información acerca de los múltiples y sorprendentes
avances que experimenta en diversos ámbitos de la vida moderna. La inteligencia articial
está presente en nuestros hogares, se utiliza en la contratación de personas, en la medicina,
en el ámbito bancario, en el transporte, en el denominado “criptoarte” y un largo etcétera.
Una de las razones por las cuales la inteligencia articial atrae poderosamente nuestra
atención es la impredecibilidad de sus usos. Los seres humanos ignoramos los límites a su
potencial expansión y, es eso mismo lo que mantiene con vida la eterna promesa de que
algún día existirán máquinas con consciencia de sí mismas o, incluso, con una inteligencia
superior a la nuestra.
Predicciones aparte, las aplicaciones de la inteligencia articial son cada vez más va-
riadas, extendiéndose a ámbitos que hasta solo hace una década habríamos considerado
imposibles de abarcar por la tecnología, como es el caso de la resolución de conictos de
índole jurídico. Este cambio ha sido paradigmático en el campo de los mecanismos alter-
nativos de resolución de conictos –también denominados con frecuencia por su sigla
“MASC” o “ADR” (Alternative Dispute Resolution)–, los cua les han experimentado un alto
* Investigación vinculada al proyecto Jorge Millas DI-03-JM/22, Universidad Andrés Bello, del
cual Nathalie Walker es investigadora responsable.
Ximena Marcazzolo Awad y Nathalie Walker Silva76
grado de desarrollo debido, en parte, a la creciente automatización de ese tipo de proce-
dimientos. En particular, el auge de los sistemas de resolución de disputas en línea (RDL)
se explica, en gran medida, por la implementación de tecnologías de inteligencia articial.
En este orden de cosas, es posible visualizar cómo los avances logrados –primero en
el terreno de lo privado y, luego, en lo público– se han extendido de manera progresiva al
proceso judicial, gracias a las ventajas de esos sistemas en términos de costos y de rapidez
en la entrega de soluciones, lo que se ha traducido en una mayor posibilidad de acceso de
los ciudadanos a la administración de justicia. Gracias a este panorama, muchos ven con
esperanza la evolución de los RDL, en cuanto podría hacer realidad la idea de los “tri-
bunales multipuertas” (Multidoor Court-Houses); vale decir, un sistema judicial en que
las demandas puedan ser dirigidas a diferentes mecanismos de solución de conictos, de
modo que cada caso sea conducido y resuelto a través de la vía más idónea, teniendo en
cuenta sus características particulares1.
Los usos judiciales de la inteligencia articial tuvieron un comienzo tímido, que se
produjo con cierto retraso, manifestándose a través del uso de variables estadísticas. Más
tarde, la tecnología se incorporó en los procesadores de texto, para optimizar sus resul-
tados y, en forma más reciente, en los buscadores de jurisprudencia y en la práctica de
algunas pruebas cientícas2. Hoy, el avance de la ciencia nos permite contar con herra-
mientas de inteligencia articial más sosticadas, como ocurre en materia de evaluación y
predicción de riesgos, las cuales serán objeto de especial estudio en este trabajo.
La primera parte de este estudio estará dedicada, en primer lugar, a la noción de sis-
temas algorítmicos de evaluación de riesgos y la función que éstos pueden cumplir en
un proceso judicial de carácter penal. Luego, se efectuará una síntesis de los principales
problemas que ha planteado el uso de sistemas algorítmicos de predicción de riesgos en
aquellos ordenamientos en donde se han empleado.
La segunda parte de este estudio se destinará a la búsqueda de criterios para hacer
compatible el uso de sistemas algorítmicos de predicción de riesgos con las exigencias del
debido proceso en materia penal. Así, en base a la experiencia existente, se hará el intento
de determinar qué condiciones deberían darse para que esos sistemas funcionen sin faltas
al debido proceso y sin atropello de las garantías de los justiciables.
2. LOS SISTEMAS ALGORÍTMICOS DE EVALUACIÓN DE RIESGOS EN LA TOMA
DE DECISIONES JUDICIALES
En la última década, el grado de avance en la automatización de tareas de índole ju-
rídica ha sido sorprendente. En efecto, ha habido un notable desarrollo de programas
y aplicaciones que optimizan la búsqueda y procesamiento de la información de rele-
1 WALKER SILVA, N., “Resolución alternativa de conictos en línea. Perspectivas de futuro”,
Revista Iberoamericana de Derecho Privado, núm. 13, 2021. Accesible en: https://latam.ijeditores.com/
pop.php?option=publicacion&idpublicacion=76&idedicion=4883
2 NIEVA FENOLL, J., Inteligencia artificial y proceso judicial, Madrid: Marcial Pons, 2018,
pp. 23 y 24.
Para continuar leyendo
Solicita tu prueba