Taxonomía de las garantías jurídicas en el empleo de los sistemas de inteligencia artificial
| Autor | Pere Simón Castellano |
| Cargo | Profesor Titular de Derecho Constitucional. Universidad Internacional de la Rioja |
| Páginas | 155-196 |
155
© UNED. Revista de Derecho Político
N.º 117, mayo-agosto, 2023, págs. 153-196
Fecha recepción: 10.08.2022
Fecha aceptación: 7.01.2023
TAXONOMÍA DE LAS GARANTÍAS
JURÍDICAS EN EL EMPLEO
DE LOS SISTEMAS
DE INTELIGENCIA ARTIFICIAL
PERE SIMÓN CASTELLANO1
Profesor Titular de Derecho Constitucional
Universidad Internacional de la Rioja – UNIR
Magistrado (suplente) de la Audiencia Provincial de Girona
I. A MODO DE INTRODUCCIÓN: NUEVO DERECHO,
NUEVAS GARANTÍAS.
La doctrina nacional ha tenido la posibilidad de estudiar parcialmente la meta-
morfosis de los ordenamientos jurídicos como consecuencia de los desplazamientos
producidos en sus elementos consecutivos, cuyo principal corolario no es otro que la
existencia de un nuevo Derecho, por lo que se reere incluso a su signicado y ga-
rantía2. Dichos desplazamientos o cambios de orientación obedecen al protagonismo
1 Profesor Titular de Derecho Constitucional. Universidad Internacional de la Rioja. Facultad
de Derecho. Avda. de la Paz, 137, Logroño, La Rioja. Email: pere.simon@unir.net ORCID ID: https://
orcid.org/0000-0003-1722-6498
La publicación es parte del proyecto TED2021-129356B-I00, nanciado por MCIN/
AEI/10.13039/501100011033 y por la Unión Europea «NextGenerationEU»/PRTR. Más
concretamente, el presente artículo es resultado del proyecto intitulado «Sobre las bases normativas y
el impacto real de la utilización de algoritmos predictivos en los ámbitos judicial y penitenciario», con
acrónimo Ius-Machina, nanciado por el Ministerio de Ciencia e Innovación en la Convocatoria 2021 —
«Proyectos de Transición Ecológica y Transición Digital», en el que el autor participa como investigador
del grupo de investigación. La fecha de inicio y n del proyecto es el 01/12/2022 y el 30/11/2024,
respectivamente. La cuantía total de nanciación asciende a 98.000 euros. IP: Fernando Miró Llinares.
2 Véanse por todos los interesantes trabajos de Pérez Luño, A. E. (2016). «Nuevo derecho,
nuevos derechos». Anuario de losofía del derecho, 32, 15-36; Cotino Hueso, L. (2018). «La necesaria
actualización de los derechos fundamentales como derechos digitales ante el desarrollo de internet y
las nuevas tecnologías», en Pendás García, B. (dir.), España constitucional (1978-2018): trayectorias y
perspectivas, Vol. 3, Tomo 3, Madrid, Centro de Estudios Políticos y Constitucionales, 2347-2361. Más
concretamente, y al respecto, Pérez Luño ha señalado que «en el horizonte tecnológico del presente,
06 Simón Castellano.indd 155 06/07/2023 11:58:10
PERE SIMÓN CASTELLANO
156 © UNED. Revista de Derecho Político
N.º 117, mayo-agosto, 2023, págs. 153-196
reciente del pluralismo jurídico, a la apertura jurisdiccional y, también, al creciente
impacto de las nuevas tecnologías en el campo del Derecho. Proliferan reconoci-
mientos ex lege3 o por vía jurisprudencial4 de nuevos derechos individuales y también
nuevas garantías vinculadas a estos.
En un entorno mediático en el que crece una tendencia apocalíptica5 sobre el
avance tecnológico, resulta más necesario que nunca recordar que la tecnología es
neutra, aunque no los efectos que esta proyecta en su aplicación práctica, motivo por
el cual el debate acerca de la introducción de los sistemas de inteligencia articial6 en
el proceso de toma de decisiones públicas debería girar necesariamente en torno a los
usos plausibles, posibles, y a las garantías vinculadas a su empleo7.
Los tradicionales principios y garantías jurídicas son insucientes para dar una
respuesta adecuada al reto que plantea la realidad algorítmica, tal y como se observa,
de un lado, fruto de la imposibilidad de seguir estirando el mandato del art. 18.4 de
muchos de los problemas y de las soluciones jurídicas tradicionales aparecen irremediablemente caducos.
Esa nueva situación impele al pensamiento jurídico y a la reexión sobre los derechos a diseñar nuevos
instrumentos de análisis y marcos conceptuales prontos para adaptarse a las exigencias de una sociedad
en transformación». Pérez Luño, A. E. (2014). «Los derechos humanos ante las nuevas tecnologías», en
Pérez Luño, A. E. (ed.), Nuevas tecnologías y derechos humanos, Valencia, Tirant lo Blanch, 17.
3 El Título X de la vigente Ley Orgánica 3/2018, de protección de datos y garantía de derechos
digitales es un buen ejemplo. Sobre los nuevos derechos digitales véanse los trabajos de Rallo Lombarte,
A. (2019a). «Del derecho a la protección de datos a la garantía de nuevos derechos digitales», en Rallo
Lombarte, A. (dir.) Tratado de protección de datos. Actualizado con la ley orgánica 3/2018, de 5 de diciembre,
de protección de datos personales y garantía de los derechos digitales, Valencia, Tirant lo Blanch, 23-52; Rallo
Lombarte, A. (2020). «Una nueva generación de derechos digitales». Revista de Estudios Políticos, 187,
101-135.
4 Véanse por todas la STC 290/2000, de 30 de noviembre y la Sentencia del Tribunal de Justicia
de la Unión Europea, Google Spain, S.L. y Google Inc. vs. Agencia Española de Protección de Datos (AEPD) y
Mario Costeja González, ECLI:EU:C:2014:317. Un estudio sobre la citada sentencia relativa al derecho al
olvido se encuentra en Simón Castellano, P. (2015). El reconocimiento del derecho al olvido digital en España
y en la UE, Barcelona, Bosch.
5 Es la línea adoptada mayoritariamente por los medios de comunicación; sirvan como ejemplo
las noticias intituladas «Cómo los algoritmos perpetúan la desigualdad en España», «Un algoritmo
impreciso condiciona la libertad de los presos» y «Cómo los algoritmos perpetúan la desigualdad en
España», publicados en La Vanguardia, disponibles respectivamente en Internet: shorturl.at/fQS05,
shorturl.at/aMW89 y shorturl.at/eFHJQ (última consulta el 9 de julio de 2022).
6 A lo largo de este trabajo, cuando hablamos de inteligencia articial nos referimos a aquellos
sistemas que emulan, imitan o reproducen el pensamiento y obrar humanos —ya sean racionales,
humanos, cognitivos o conductistas— e interactúan con el medio, con habilidades tales como la
creatividad, la comprensión, la percepción, el lenguaje o el aprendizaje. Para un estudio sobre el
contexto y los riesgos de las distintas técnicas relacionadas con los sistemas de inteligencia articial,
véase el capítulo I de la monografía de Hernández Peña, J. C. (2022). El marco jurídico de la inteligencia
articial. Principios, procedimientos y estructuras de gobernanza, Cizur Menor, Aranzadi.
7 Así lo han señalado algunos autores en medios más generalistas. Véase el artículo de opinión
de Pere Simón Castellano intitulado «Algoritmos, desigualdad y otros mitos malintencionados»,
publicado en El País Cinco Días, disponible en Internet: shorturl.at/hkORU (última consulta el 9 de
julio de 2022).
06 Simón Castellano.indd 156 06/07/2023 11:58:10
TAXONOMÍA DE LAS GARANTÍAS JURÍDICAS EN EL EMPLEO DE LOS...
157
© UNED. Revista de Derecho Político
N.º 117, mayo-agosto, 2023, págs. 153-196
la Constitución8 y, del otro, teniendo en cuenta la potencialidad de las herramientas
basadas en la llamada inteligencia articial9. Los trabajos previos de los doctores
Medina Guerrero10 y Cotino Hueso11 advierten de la necesidad de ir más allá de la
protección de datos, con un marco jurídico especíco para los sistemas de inteligen-
cia articial12, tratando de sortear dicultades y obstáculos tales como la preocupante
paradoja o falacia de la transparencia13, sobre la que volveremos más adelante y a la
que prestaremos especial atención.
El presente artículo parte de las conclusiones alcanzadas en los estudios citados
de la doctrina nacional e internacional14, y pretende refutar o contrastar las siguientes
hipótesis:
Primera.—El debate en torno al marco jurídico del desarrollo de sistemas de
inteligencia jurídica articial y al alcance del derecho fundamental anclado en el
8 Es uno de los principales corolarios alcanzados en la jornada «Derechos digitales e inteligencia
articial» organizada por la Fundación Manuel Giménez Abad, coordinada por el catedrático Lorenzo
Cotino Hueso, cuyas ponencias y debates están disponibles en abierto: https://www.youtube.com/
watch?v=Tiwetu3lC-g (última consulta el 9 de julio de 2022).
9 Véanse al respecto los trabajos de Bueno de Mata, F. (2020). «Macrodatos, inteligencia articial
y proceso: luces y sombras». Revista General de Derecho Procesal, 51; Simón Castellano, P. (2021).
Justicia cautelar e inteligencia articial: la alternativa a los atávicos heurísticos judiciales, Barcelona, J. M.
Bosch; Simón Castellano, P. (2022). La prisión algorítmica: Prevención, reinserción social y tutela de derechos
fundamentales en el paradigma de los centros penitenciarios inteligentes, València, Tirant lo Blanch.
10 Medina Guerrero, M. (2022). «El derecho a conocer los algoritmos utilizados en la toma
de decisiones. Aproximación desde la perspectiva del derecho fundamental a la protección de datos
personales». Teoría y Realidad Constitucional, 49, 141-171.
11 Cotino Hueso, L. (2022a). «Nuevo paradigma en las garantías de los derechos fundamentales
y una nueva protección de datos frente al impacto social y colectivo de la inteligencia articial», en
Bauzá Reilly, M. (Coord.) y Cotino Hueso, L. (Dir.), Derechos y garantías ante la inteligencia articial y las
decisiones automatizadas, Cizur Menor, Aranzadi, 69-105.
12 Véanse también las contribuciones al respecto que incorpora el número 100, monográco
sobre inteligencia articial, de la publicación El cronista del Estado Social y democrático de Derecho.
13 Edwards, L. y Veale, M. (2017). «Slave to the Algorithm? Why a ‘Right to Explanation’ is
probably not the Remedy you are looking for». Duke Law & Technology Review, 16, 18-84.
14 Los límites espaciales impiden hacer referencias genéricas y profundizar más en qué es un algoritmo
y las distintas tipologías de los sistemas de inteligencia articial, sus posibles usos en determinados
ámbitos y los retos que de ella se derivan para distintos campos del conocimiento. Este es un trabajo
cientíco que parte de estudios previos sobre la materia y que pretende avanzar en el conocimiento con
una propuesta de taxonomía de las garantías jurídicas relativas al empleo de los sistemas de inteligencia
articial, contribuyendo al debate y en el mejor de los casos, aunque esto es realmente ambicioso, a que
se superen los muchos y vacuos estudios que proliferan sobre inteligencia articial y Derecho, que se
limitan a reproducir qué es la inteligencia articial y sus diferentes tipologías, para incidir en el reto
que esto supone para los juristas y nalmente tomar partida con una postura apocalíptica o integrada.
Con todo, el autor propone la consulta de algunas obras colectivas introductorias, que reúnen capítulos
heterogéneos, también por lo que se reere a temática —análisis de sectores o impacto en áreas especícas
del Derecho—, y que pueden ayudar a tener una visión global sobre la materia. Así, se recomienda la
consulta de Huergo Lora, A. J. (Dir.) (2020), La regulación de los algoritmos, Cizur Menor, Aranzadi; García
Mexía, P. (Dir.) (2022), Claves de Inteligencia Articial y Derecho, Madrid, Wolters Kluwer – La Ley.
06 Simón Castellano.indd 157 06/07/2023 11:58:10
Para continuar leyendo
Solicita tu prueba