Inteligencia artificial y derechos humanos
| Autor | Rafael de Asís |
| Páginas | 19-32 |
Inteligencia artificial y derechos humanos
R A
Instituto de Derechos Humanos Bartolomé de las Casas.
Universidad Carlos III de Madrid
1. UNA CUESTIÓN ACTUAL
A finales de 2018, la Unión de Libertades Civiles de Nueva York, reveló que en
2017, el Software de Evaluación de Clasificación de Riesgos (RCA) que utilizaba des-
de 2013 el Servicio de Inmigración y Control de Aduanas de los Estados Unidos para
ayudar a decidir, en procesos de deportación, si un inmigrante debía ser detenido o
si podía ser puesto en libertad bajo fianza hasta el momento de la decisión definitiva,
había sido manipulado para favorecer las detenciones.
El 24 de octubre de 2019, el periódico El País, publicaba que un equipo de inves-
tigadores había demostrado que un algoritmo usado para analizar los riesgos para la
salud de millones de pacientes en EE.UU., discriminaba sistemáticamente a la pobla-
ción negra.
El 7 de noviembre de 2019, se celebró en Madrid, el Foro Sanitas sobre El reto de
la disrupción en medicina, una de cuyas conclusiones fue que la inteligencia artificial
nos permitirá hacer una medicina más humana.
Numerosos estudios has demostrado que existen empresas que discriminan en
materia de precios a través de la Inteligencia artificial y cómo las normas antidiscri-
minación no son eficaces contra esta práctica1.
Un estudio publicado por el Berkman Klein Center de la Universidad de Harvard
en septiembre de 2018, sobre inteligencia artificial y derechos humanos ha destacado
la proyección de la inteligencia artificial en aspectos muy diferentes como pueden ser
los procesos de préstamo, la salud, la contratación, la información…2
1 Vid. Zuiderveen Borgesius, F., “Algorithmic decision-making, price discrimination, and
European non-discrimination law”, disponible en https://papers.ssrn.com/sol3/papers.cfm?abstract_
id=3413556 Consutado el 20 de septiembre de 2019.
2 Artificial Intelligence & Human Rights: Opportunities & Risks, septiembre de 2018, Filippo
A. Raso, Hannah Hilligoss, Vivek Krishnamurthy, Christopher Bavitz, Levin Kim, The Berkman Klein
Center for Internet & Society. Universidad de Harvard.
Para continuar leyendo
Solicita tu prueba