La violación 4.0 del convenio europeo de derechos humanos: la utilización de algoritmos discriminatorios en el ámbito de la inteligencia artificial
| Autor | Jacqueline Hellman |
| Cargo del Autor | Profesora Ayudante Doctora de Relaciones Internacionales Universidad Complutense de Madrid |
| Páginas | 185-202 |
LA VIOLACIÓN 4.0 DEL CONVENIO EUROPEO
...
DE DERECHOS HUMANOS: LA UTILIZACIÓN DE
ALGORITMOS DISCRIMINATORIOS EN EL ÁMBITO
DE LA INTELIGENCIA ARTIFICIAL*
Jacqueline Hellman
Profesora Ayudante Doctora de Relaciones Internacionales
Universidad Complutense de Madrid
DOI: 10.14679/2063
1. INTRODUCCIÓN
Los comienzos de la “Inteligencia Articial” (de ahora en adelante IA) se remontan a
los años cincuenta del siglo pasado. Concretamente, en 1950, Alan TURING se planteó si
una máquina podía pensar1. Seis años después, John McCARTHY acuñó el término IA2.
En las décadas siguientes, los trabajos de investigación realizados en este relativamente
nuevo e incipiente campo cientíco se multiplicaron. Sin embargo, no es posible extraer
* Esta investigación se realiza dentreo del marco del siguientes proyecto: “Resolución análogica y
dital de controversias ante los Objetivos de Desarrollo Sostenible” (Facultad de Ciencias Sociales y de la
Comunicación de la Universidad Europea de Madrid).
1 Nos estamos reriendo al ensayo titulado “Computational Machine and Intelligence”, publicado
en la edición número 49 de la revista Mind. En dicho escrito, el autor británico sentó las bases de la IA
sugiriendo un tipo de prueba conforme a la cual poder concluir si una máquina es o no inteligente. Este
examen, conocido como el “test de Turing”, consiste en que una persona mantenga una conversación con
un interlocutor desconocido con el objetivo de que determine si se trata de una persona o un ordenador.
Si éste último es capaz de hacer creer que se trata de una persona, podemos armar que se trata de
un ordenador inteligente. DELGADO, M., “La Inteligencia Articial. Realidad de un mito moderno”,
Discurso de apertura Universidad de Granada, 1996, p. 13.
2 John McCARTHY plasmó este término en una propuesta que formuló junto a Marvin L.
MINSKY, Nathaniel ROCHESTER y Claude E. SHANNON en el año 1956 con motivo de la conferencia
que tendría lugar en Dartmouth un año después. El objeto de esta giró en torno a la idea de si una
máquina podía solventar problemas de un modo similar al de los seres humanos. En dicho documento
se puso de relieve lo siguiente: “(…) every aspect of learning or any other feature of intelligence can in
principle be so precisely described that a machine can be made to simulate it”. McCARTHY, J.; MINSKY
M.; ROCHESTER, N. y SHANNON, C., “A proposal for the Dartmouth Summer Research Project on
Articial Intelligence”, AI Magazine, California, núm. 4, 2006, p. 12.
Jacqueline Hellman186
una denición unánimemente aceptada en torno a lo que debe entenderse por IA. En cual-
quier caso, tomando como referencia la denición proporcionada por MINSKY (en 1968)
o por BARR y FEIGENBAMM (en 1981), vemos que ésta se encuentra relacionada con la
creación de máquinas que presentan habilidades similares a las del ser humano3. Así pues,
podemos decir que los sistemas tecnológicos que emplean IA son capaces de percibir su
“entorno” y relacionarse con él para, en último extremo, ejecutar o realizar tareas de un
modo eciente. Trasladándonos a un ámbito más técnico, debemos entender la IA como
un conjunto de “(…) técnicas avanzadas de procesamiento matemático de datos4” confor-
me a las cuales se toman decisiones o se resuelven determinado tipo de problemas que,
como más tarde veremos, nos afectan en muchos y diversos aspectos de nuestro día a día5.
Independientemente de los diferentes procedimientos que actualmente se emplean en la
IA, es crucial subrayar el rol que desempeñan los algoritmos en torno a esta disciplina cien-
tíca. No hay duda de que éstos constituyen un aspecto clave, puesto que -confeccionados
como un conjunto de reglas que se aplican de manera sistemática6- asumen la “ardua tarea”
de afrontar problemas o adoptar decisiones7. En denitiva, la IA utiliza modelos o combina-
ciones algorítmicas conforme a las cuales las máquinas parecen desarrollar funciones que
anteriormente estaban reservadas a los seres humanos. En este orden de ideas, es preciso in-
3 En este sentido, MINSKY dispuso lo siguiente: “la IA es la ciencia de hacer que las máquinas
hagan cosas que requiren inteligencia cuando las hacen los humanos”. DELGADO, M., “La Inteligencia
Articial. Realidad de un mito moderno”, cit., p. 17. En relación con BARR y FEIGENBAMM cabría
destacar la siguiente cuestión: “la IA es la parte de las Ciencias de la Computación que tiene por objeto
diseñar sistemas informáticos inteligente, es decir sistemas que exhiban las características que asociamos
con la inteligencia humana (…)”. Ibid.
4 MIRÓ LLINARES, F., “Inteligencia Articial y Justicia Penal: más allá de los resultados
lesivos causados por robots”, Revista de Derecho Penal y Criminología, núm. 3, 2018, p. 91. Al hilo de lo
expuesto en el cuerpo principal del texto, deben indicarse la importancia de las siguientes técnicas: Big
Data que se reere a una eciente gestión de una gran cantidad de datos; Data Mining que permite la
búsqueda de patrones y la simplicación de ingentes volúmenes de información; Machine Learning que
propicia el aprendizaje de las máquinas a través de la adquisición de datos actuales; la técnica relativa
al Procesamiento del Lenguaje Natural ideado con el propósito de que éstas comprendan el lenguaje
humano; y, por último, la técnica conforme a la cual el ordenador es capaz de comprender las emociones
a través del reconocimiento facial. Ibid.
5 De acuerdo con las diversas técnicas existentes podemos hacer una doble clasicación: por un
lado, la IA que conlleva el empleo de la lógica y, por otro, la que implica la utilización de la intuición junto
con la lógica. En este último ámbito, quedaría ubicada la técnica conocida como Deep Learning, la cual
puede denirse del siguiente modo: “(…) a family of learning algorithms rather than a single method
that can be used to learn complex prediction models, e.g., multi-layer neural networks with many hidden
units”. EMMERT-STREIB, F., et. al., “An introductory Review of Deep Learning for Prediction Models
with Big Data”, Frontiers in articial Intelligence, 2020. Accesible en: https://www.frontiersin.org/journals/
articial-intelligence
6 PEÑA MARÍ, R., De Euclides a Java, la historia de los algoritmos y de los lenguajes de
programación , Madrid: Editorial Nívola, 2006, p. 10.
7 A modo de excepción cabe pensar en, por ejemplo, los algoritmos heurísticos, los cuales
no proporcionan una solución precisa. DÍAZ LÓPE, E., “Una implementación de la meta-heurística.
Optimización en Mallas Variables en la arquitectura CUDA”, Revista Cubana de Ciencias Informáticas,
núm. 3, 2016, p. 43.
Para continuar leyendo
Solicita tu prueba