Los derechos fundamentales ante el reto tecnológico. Oportunidades, óbices y cautelas
| Autor | Pere Simón Castellano |
| Cargo del Autor | Profesor contratado Doctor (acreditado ANECA desde 2015) en la Universidad Internacional de la Rioja UNIR |
| Páginas | 161-202 |
161
Los capítulos anteriores nos han servido para contemplar y apreciar la
potencialidad real de los sistemas expertos de IA y su proyección en el ámbito
de las administraciones públicas y, muy signicativamente, las transformacio-
nes que estos sistemas pueden producir en la administración de justicia, de
muy diversa índole, si bien hemos centrado nuestro foco en las apasionantes
posibilidades de objetivar o conjurar el periculum que nos ofrecen los siste-
mas de IAJVR, cuando de lo que se trata es de adoptar las medidas cautelares
o las resoluciones provisionales en el seno del proceso penal.
Esta realidad tecnológica, que hoy permite alcanzar corolarios antaño
inimaginables, convive con la creciente asunción de que el paradigma de-
ductivo racionalista, en el ámbito del derecho administrativo, y los métodos
clínicos, en el ámbito penitenciario, se ven superados, por consideraciones
CAPÍTULO III
LOS DERECHOS FUNDAMENTALES
ANTE EL RETO TECNOLÓGICO.
OPORTUNIDADES, ÓBICES Y CAUTELAS
SUMARIO: 1. El derecho de defensa. 1.1. El principio de publicidad proce-
sal. 1.1.1. Como derecho de las partes. 1.1.2. Como derecho del público. 1.2.
Desmontando las críticas: transparencia, trazabilidad y auditabilidad. 1.3.
El sistema de recursos. 2. El derecho al juez imparcial. 2.1. Aspecto formal
y adjetivo. 2.2. Aspecto sustantivo y real. 3. La presunción de inocencia.
3.1. Propósitos y despropósitos de la prisión provisional. 4. La dignidad
humana. 4.1. El derecho a (no) tener derechos. 4.2. El derecho a la intimi-
dad. 4.3. El derecho a la protección de datos. 5. La tutela de los derechos
y sus garantías.
JUSTICIA CAUTELAR E INTELIGENCIA ARTIFICIAL LA ALTERNATIVA A LOS ATÁVICOS HEURÍSTICOS JUDICIALES
PERE SIMÓN CASTELLANO
162
pragmáticas, de mera ecacia, por un enfoque de riesgo que recurre al cálcu-
lo probabilístico y a las inferencias algorítmicas, en cuyas soluciones los ope-
radores jurídicos estamos abocados a conar, puesto que más temprano que
tarde, la justicia será digital o no será. A medida que los resultados que ofrecen
los sistemas de IAJVR son más adecuados o plausibles, fruto de trabajar sobre
una base de datos mejor, en términos cuantitativos y cualitativos, la conanza
en ellos crece y la doctrina se posiciona más favorablemente al empleo de la IA
por parte de las administraciones públicas (B P, 2020, 229; S,
2016, 353-400; O’N, 2016, 84-91; Z, 2016; S, C-
y C, 2019, 58-68).
Asistimos a una progresiva sustitución de los enfoques tradicionales
basados en la noción de peligro y el paradigma reintegrador –análisis clíni-
cos– en favor de la moderna racionalidad punitiva de corte actuarial, «supe-
rando» los entornos típicamente valorativos o decisorios, apoyando la toma
de decisiones en sistemas y metodologías de prevención de riesgos penales.
Ahora, simplemente, estamos sumando la tecnología a la ecuación. De ese
modo, los algoritmos apoyan, cuando no desplazan, en función del ámbito
concreto de actuación, las decisiones humanas, especialmente aquellas que
hasta la fecha se producían como una reacción prima facie o resolución rá-
pida, tendentes, por su propia naturaleza, a caer en sesgos, automatismoso
a estar basadas en los heurísticos del proceso cognitivo. La automatización
cognitiva y el proceso de digitalización de cómo deciden los jueces, y los s-
cales, e incluso la revolución que supone la IA basada en redes neuronales y
procesamiento de aprendizaje autónomo profundo –deep learning–, como
sistema capaz de aprender solo y mejorar el algoritmo en base a su propia
experiencia vital, nos exige contemplar tal posibilidad desde el Derecho, y
reevaluar las respuestas que este ofrece y los problemas de aplicación de
las reglas tradicionales y principios, que también mutan, y que deben ser
interpretadas a la luz de estas nuevas posibilidades técnicas. Me reero a
la necesaria reconguración de las garantías jurídicas en el contexto de la
revolución digital y la transformación del sector público, en general, y de la
administración de justicia, en particular.
El uso malintencionado o negligente de la IAP y la IAJVR podría
constituir una amenaza para la seguridad digital, la seguridad física y la
TERCERA PARTE | CAPÍTULO III LOS DERECHOS FUNDAMENTALES ANTE EL
RETO TECNOLÓGICO. OPORTUNIDADES, ÓBICES Y CAUTELAS
163
seguridad pública, ya que podría utilizarse para llevar a cabo ataques a gran
escala, muy selectivos y muy ecientes contra servicios de la sociedad de la
información y máquinas conectadas, para lanzar campañas de desinforma-
ción y, en general, para reducir el derecho de las personas a la autodeter-
minación. Un empleo o uso malintencionado o negligente de los sistemas
expertos de IA también podría conllevar riesgos para la democracia y los
derechos fundamentales79. Sin embargo, en este capítulo centraremos nues-
tra atención en la afectación que todo lo anterior proyecta sobre los bienes,
derechos e intereses de naturaleza jurídico-constitucional que se dan cita
en el seno del proceso penal, y todo ello en relación con el eventual empleo
de los sistemas de IAJVR.
1. EL DERECHO DE DEFENSA
El derecho de defensa se enmarca en el derecho a un juicio justo, de-
recho de derechos, relacionados con la facultad subjetiva de los individuos de
defenderse con ecacia de toda acusación que contra ellos se formule (A-
M, 1991). El investigado o acusado, según el momento procesal
en el que nos hallemos, debe tener la posibilidad de desplegar con eciencia
todos sus argumentos y presentar las pruebas que considere oportunas y sean
pertinentes, y que estas sean además valoradas por un juez imparcial que las
considere junto a las alegaciones formuladas y dicte una resolución judicial
motivada sobre el fondo que les dé respuesta (C P, 1997). En el
proceso penal, el derecho del acusado a estar presente en la vista oral no es
únicamente una exigencia del principio de contradicción, sino el instrumento
que hace posible el ejercicio del derecho de autodefensa para contestar a las
imputaciones de hechos que, referidas a su propia conducta, conforman la
pretensión acusatoria.
79 En idénticos términos, véase la Resolución del Parlamento Europeo, de 12 de
febrero de 2019, sobre una política industrial global europea en materia de inteli-
gencia articial y robótica (2018/2088 (INI) ), párrafo 9.
Para continuar leyendo
Solicita tu prueba