La utilización de herramientas de inteligencia artificial en el proceso penal bajo el prisma de la propuesta de reglamento de inteligencia artificial
| Autor | Xulio Ferreiro Baamonde |
| Cargo del Autor | Universidade da Coruña |
| Páginas | 69-109 |
69
CAPÍTULO 4.
La utilización de herramientas de inteligencia artificial en el
proceso penal bajo el prisma de la propuesta de reglamento
de inteligencia artificial 1
X F B
Universidade da Coruña
INTRODUCCIÓN
Comenzar un trabajo que aborde la utilización en el ámbito jurídico de las
aplicaciones de Inteligencia Artificial señalando la omnipresencia de estas en
nuestras vidas es ya un lugar común. No hace falta más que asomarse a la pan-
talla de nuestros dispositivos móviles y ordenadores para comprobarlo. Confia-
mos en la Inteligencia Artificial para elegir la música que escuchamos, las pelí-
culas y series de televisión que vemos, decidir la mejor ruta para llegar a nuestro
lugar de vacaciones o de trabajo, o los productos que consumimos. En el ámbi-
to profesional estas tecnologías también gozan de amplio uso, en la medicina,
como ayuda al diagnóstico o en intervenciones quirúrgicas, en ingeniería o ar-
quitectura, facilitando el diseño o la elección de los materiales o en el arte y la
creación audiovisual, otorgando nuevas herramientas a los autores y a la indus-
tria. El ámbito jurídico no ha sido ajeno a la introducción de estas tecnologías
y en los últimos años hemos visto que han venido siendo utilizados por cuerpos
1 Además de formar parte de la actividad investigadora del Proyecto I+D+i “Transición Digital
de la Justicia”, Proyecto estratégico orientado a la transición ecológica y a la transición digital del Plan Es-
tatal de investigación científica, técnica y de innovación 2021-2023, en el marco del Plan de Recuperación,
Transformación y Resiliencia, Ministerio de Ciencia e Innovación, financiado por la Unión Europea: Next
Generation UE, con REF. RED 2021-130078B-100. IP: Sonia Calaza López, el presente trabajo ha sido tam-
bién realizado en el marco de los Proyectos I+D+i “La responsabilidad de la inteligencia artificial: un desa-
fío para las ciencias penales” (PID2020-112637RB-I00), financiado por el Programa Estatal de Fomento de
la Investigación Científica y Técnica de Excelencia, Subprograma Estatal de Generación de Conocimiento,
del Ministerio de Economía y Competitividad, entre el 1 de septiembre de 2021 y el 31 de agosto de 2024,
cuyos IPs son Patricia Faraldo Cabana y José Ángel Brandariz García y en el Proyecto “Research, Intelligen-
ce and Technology for Heritage and Market Security (RITHMS), financiado por la Unión Europea a través
del programa HORIZON-RIA, dirigido por la Dra. Arianna Traviglia.
Xulio Ferreiro Baamonde
70
policiales como ayuda para la predicción delictiva y la toma de decisiones ope-
racionales; por profesionales de la abogacía, como herramienta para la gestión
documental o la elaboración de respuestas jurídicas; por los administradores
del sistema de Justicia para agilizar la tramitación de los procedimientos o para
mejorar la cooperación entre sistemas jurídicos diversos; por partidarios de las
ADR, para colaborar en la solución mediada de los conflictos; y por juzgados y
tribunales, para ayudar en la toma de resoluciones judiciales, entre muchísimos
otros ejemplos.
Indudablemente, la utilización de la Inteligencia Artificial presenta muchas
ventajas en cualquier ámbito de la actividad humana. También en el de la Admi-
nistración de Justicia. Estas tecnologías permiten procesar cantidades de datos y
establecer correlaciones entre ellos a un ritmo al que el ser humano no es capaz
ni de acercarse. Esto permite no sólo agilizar las tareas habituales en los diversos
sectores en los que se utilizan sino implantar también nuevos mecanismos y solu-
ciones para alcanzar los objetivos de cada sistema. En el ámbito jurídico-penal ello
se traduce en la búsqueda de nuevos modos para prevenir la comisión de delitos,
enlazando con la tradicional función de prevención del ordenamiento penal (y
también del procesal penal), o en la búsqueda de mecanismos que permitan el
descubrimiento de la verdad judicial o la mayor equidad e imparcialidad en la
toma de decisiones.
Pero evidentemente la utilización de una tecnología relativamente nueva y,
particularmente poderosa, plantea nuevos desafíos y problemas, especialmente
relevantes en un ámbito tan sensible como el de la justicia penal. La incidencia
de estos mecanismos de auxilio a la toma de decisiones –o de toma de decisiones
autónoma, en algunos casos– en los derechos fundamentales involucrados en el
proceso penal, como el derecho a la libertad, el derecho de defensa, la dignidad
humana, la igualdad ante la ley, por un lado, y las especiales características técni-
cas de estas herramientas han sido abordadas por la doctrina, existiendo en es-
tos momentos una relativa unanimidad, como se verá. La forma de abordar estos
desafíos, no está, sin embargo, tan clara. Los diversos textos institucionales y las
propuestas académicas parecen acordar en una serie de principios orientativos
básicos, pero la forma en la que pueden ser determinados en los casos concretos y
llevados a la práctica, están lejos de ser resuelta.
Las instituciones europeas han abordado estas cuestiones en los últimos
años, tanto el Consejo de Europa (2018) con su Carta ética sobre el uso de la in-
teligencia artificial en lso sistemas judiciales como la Unión Europea (Comisión
Europea, 2018, 2020; Parlamento Europeo, 2021) han ido trazando los princi-
pios que deben regir una regulación europea en materia de Inteligencia Artifi-
cial, tanto con carácter general como en el ámbito de la justicia penal, en parti-
cular. La propuesta de Reglamento Europeo de 2021, por el que se establecen
normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia
Artificial) de 2021 es un primer intento normativo para abordar el uso de la
Capítulo 4. La utilización de herramientas de inteligencia artificial en el proceso penal
71
inteligencia artificial. En las siguientes páginas trataremos de analizar en qué
medida la propuesta responde a los desafíos que presenta el uso de estas tecno-
logías en el proceso penal.
LA UTILIZACIÓN DE LA INTELIGENCIA ARTIFICIAL EN LA JUSTICIA
PENAL
Las técnicas de Inteligencia Artificial han sido definidas por la Comisión Eu-
ropea (2020, p. 2) como
elementos de software (y en su caso, también de hardware) 2, diseñados por se-
res humanos y que, dado su objetivo complejo, actúan en la dimensión física o
digital, perciben su entorno mediante la adquisición e interpretación de datos
estructurados o no estructurados recogidos, razonan sobre el conocimiento o el
procesamiento de la información derivada de estos datos e identifican y adoptan
las mejores medidas a tomar para lograr el objetivo determinado.
Por su parte, la propuesta de Reglamento define los sistemas de Inteligencia
Artificial como
el software que se desarrolla empleando una o varias de las técnicas y estrategias
que figuran en el anexo I 3 y que puede, para un conjunto determinado de ob-
jetivos definidos por seres humanos, generar información de salida como conte-
nidos, predicciones, recomendaciones o decisiones que influyan en los entornos
con los que interactúa.
Nos encontramos, por lo tanto, ante tecnologías que, operando bajo pará-
metros comunes son, sin embargo, tremendamente heterogéneas, tanto en las
bases técnicas de su funcionamiento como en las funciones que desarrollan.
Ello redundará en que el tratamiento normativo que se deba dar no podrá ser el
mismo en todos los casos. En consecuencia, a la hora de ofrecer criterios regu-
latorios habrá que tener en cuenta el diferente grado de afectación a los bienes
jurídicos a proteger, debiendo fijarse marcos más estrictos cuanto mayor peligro
de lesión puedan correr los derechos fundamentales en juego. En todo caso
existe una base común, que es la capacidad de estas aplicaciones para analizar
2 Tal y como señala la propia C E (, p. 1), “los sistemas basados en IA pueden
consistir simplemente en un programa informático (por ejemplo, asistentes de voz, programas de análisis de imágenes, mo-
tores de búsqueda, sistemas de reconocimiento facial y de voz), pero la IA puede estar incorporada también a dispositivos
de hardware”.
3 Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervi-
sado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje
profundo; estrategias basadas en la lógica y el conocimiento, especialmente la representación del conoci-
miento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deduc-
ción, los sistemas expertos y de razonamiento (simbólico); estrategias estadísticas, estimación bayesiana,
métodos de búsqueda y optimización.
Para continuar leyendo
Solicita tu prueba