Inteligencia artificial y derechos humanos
| Autor | Rafael de Asís |
| Cargo del Autor | Catedrático de filosofía del Derecho de la Universidad Carlos III de Madrid |
| Páginas | 101-121 |
101
INTELIGENCIA ARTIFICIAL
Y DERECHOS HUMANOS 204
1. UNA CUESTIÓN ACTUAL
A finales de 2018, la Unión de Libertades Civiles de Nueva
York, reveló que en 2017, el Software de Evaluación de Clasifi-
cación de Riesgos (RCA) que utilizaba desde 2013 el Servicio de
Inmigración y Control de Aduanas de los Estados Unidos para
ayudar a decidir, en procesos de deportación, si un inmigrante
debía ser detenido o si podía ser puesto en libertad bajo fianza
hasta el momento de la decisión definitiva, había sido manipu-
lado para favorecer las detenciones.
El 24 de octubre de 2019, el periódico El País, publicaba
que un equipo de investigadores había demostrado que un
algoritmo usado para analizar los riesgos para la salud de
millones de pacientes en EE.UU., discriminaba sistemática-
mente a la población negra.
El 7 de noviembre de 2019, se celebró en Madrid, el Foro
Sanitas sobre El reto de la disrupción en medicina, una de cuyas
204 Una primera versión de este trabajo se publicó en los Materiales de
Filosofía del Derecho, n. 4, 2020.
Rafael de Asís
102
conclusiones fue que la Inteligencia Artificial nos permitirá
hacer una medicina más humana.
Numerosos estudios has demostrado que existen empresas
que discriminan en materia de precios a través de la Inteligen-
cia Artificial y cómo las normas antidiscriminación no son efi-
caces contra esta práctica 205.
Un estudio publicado por el Berkman Klein Center de la
Universidad de Harvard en septiembre de 2018, sobre Inteli-
gencia Artificial y derechos humanos ha destacado la proyec-
ción de la Inteligencia Artificial en aspectos muy diferentes
como pueden ser los procesos de préstamo, la salud, la contra-
tación, la información… 206.
Ante esta realidad no cabe considerar que el uso de la Inte-
ligencia Artificial no deba regularse o que esta regulación deba
quedar en manos de las compañías tecnológicas.
2. ¿CÓMO REGULAR?
Una sola aplicación de Inteligencia Artificial puede impac-
tar en una gran cantidad de derechos. En este sentido, es
necesario alcanzar un consenso en relación con los referentes
éticos desde los que afrontar la regulación de la Inteligencia
Artificial.
Un estudio publicado por la Escuela Politécnica Federal de
Zurich 207, llega a la conclusión de que existe un acuerdo global
en torno a cinco principios éticos: transparencia, justicia y
205 Vid. Zuiderveen Borgesius, F., «Algorithmic decision-making, price
discrimination, and European non-discrimination law», disponible en https://
papers.ssrn.com/sol3/papers.cfm?abstract_id=3413556.
206 Artificial Intelligence & Human Rights: Opportunities & Risks, sep-
tiembre de 2018, Filippo A. Raso, Hannah Hilligoss, Vivek Krishnamurthy,
Christopher Bavitz, Levin Kim, The Berkman Klein Center for Internet &
Society. Universidad de Harvard.
207 Artificial Intelligence: the global landscape of ethics guidelines, Health
Ethics & Policy Lab, ETH Zurich , 2019.
Para continuar leyendo
Solicita tu prueba