Inteligencia artificial, salud y derechos humanos: ¿hacia un gobierno de los algoritmos?
| Autor | Ana I. Herrán Ortiz |
| Páginas | 297-335 |
INTELIGENCIA ARTIFICIAL, SALUD
Y DERECHOS HUMANOS:
HACIA UN GOBIERNO DE LOS ALGORITMOS?1
A I. H O
Profesora Titular de Derecho civil
Universidad de Deusto
Sumario: 1. PERSPECTIVA GENERAL 2. LA INTELIGENCIA ARTIFICIAL: UNA
APROXIMACIÓN A SU CONCEPTO 3. EL IMPACTO DE LA INTELIGENCIA
ARTIFICIAL EN LOS DERECHOS HUMANOS: HACIA UNA ÉTICA DE LA
INTELIGENCIA ARTIFICIAL 3.1. Auditoría y rendición de cuentas de los sis-
temas algorítmicos 3.2. La intervención humana, la explicabilidad de los proce-
sos 3.3. Una IA respetuosa con la privacidad y beneficiosa para el ser humano 4.
ALGORITMOS, VIDA PRIVADA Y SALUD 4.1. Bajo el dominio de los algorit-
mos: decisiones automatizadas y datos personales 4.2. Opacidad vs transparencia
de los sistemas algorítmicos 5. RIESGOS Y OPORTUNIDADES: LOS AVANCES
DE LA MEDICINA Y LA INTELIGENCIA ARTIFICIAL 5.1. Oportunidades de
la IA: hacia una medicina personalizada y de precisión 5.2. Desafíos jurídicos de
la inteligencia artificial aplicada a la salud 5.2.1. IA fiable. Una cuestión de pro-
tección de datos y derechos fundamentales 5.2.2. El sesgo de los algoritmos y la
última decisión humana 6. CONCLUSIONES 7. BIBLIOGRAFÍA.
1. PERSPECTIVA GENERAL
La capacidad transformadora de la tecnología constituye una de las circunstan-
cias que en el tiempo presente condiciona nuestras relaciones, nuestra vida profe-
sional, y todo nuestro entorno, en definitiva. Resulta cada día más difícil distinguir
el mundo off line y la realidad on line, y esa dificultad para trazar la línea que separa
ambos mundos, determina la inseguridad e incertidumbre en la que hoy vive el ser
humano. Vivimos “tiempos líquidos”, dice Bauman, en constante cambio, en los que
la caída de los principios, estructuras y pensamientos sucede con tal rapidez que no
1 Proyecto DERECHO Y MEDICINA: DESAFÍOS TECNOLÓGICOS Y CIENTÍFICOS
(DEMETYC) PID2019104868RA-I00 financiado por MCIN/ AEI /10.13039/501100011033.
298 Ana I. Herrán Ortiz
permite que los hábitos, las organizaciones o las ideas se consoliden en nuestra socie-
dad, no hay tiempo2. El ser humano ha de ser necesariamente flexible, y esa flexibili-
dad puede ser un signo de debilidad, de impotencia y de imposibilidad para asentar
la convivencia social sobre sólidos principios éticos y jurídicos. Una de las realidades
que impacta en la idea que acompaña a las reflexiones de Bauman sobre la inseguri-
dad, el miedo y la incertidumbre es precisamente la aplicación de la inteligencia arti-
ficial (en adelante IA) como representación de un poder que domina nuestras vidas,
y al que Estado difícilmente puede hacer frente. En efecto, la dimensión cuantitativa
en el tratamiento de datos personales que se asocia a la tecnología big data, y su ex-
traordinario potencial para vincular masivamente datos personales, y generar nueva
información, favorece la inseguridad, y la intromisión en la privacidad de las perso-
nas, que observan cómo se dificulta el control sobre la información. Como veremos,
el interés no reside ya en acumular datos personales, sino en relacionarlos entre sí,
para dar valor a esta ingente y desordenada maraña de datos personales y hacer de
ella información valiosa para la toma de decisiones en los más diversos ámbitos.
Así las cosas, el debate jurídico se centra en definir el impacto presente y espe-
cialmente, futuro de la IA, y de las técnicas de tratamiento de datos personales sobre
los derechos de las personas; y en determinar si este impacto será favorable o no para
la sociedad y el ser humano; y en su caso, además, identificar los riesgos y oportu-
nidades que se derivan de la aplicación de esta tecnología. Por ello, el enfoque éti-
co permitirá en primera instancia evaluar los riesgos y oportunidades asociados a la
aplicación de la IA; y en segunda instancia, prevenir dichos riesgos.
Que la IA es una herramienta que, sin duda, presenta una capacidad transforma-
dora de nuestro mundo, es una verdad innegable, que ha de utilizarse para mejorar
nuestra vida, es una necesidad. Recientemente así lo declara la Constitución de Chile,
cuando proclama que “el desarrollo científico y tecnológico estará al servicio de las
personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica” 3.Y
es por ello que, en esta misma línea de razonamiento, la Comisión Europe a se ha es-
forzado en los últimos años para desarrollar iniciativas que orienten las aplicaciones
de la IA hacia principios éticos y normativos. Una de estas iniciativas, el Libro Blanco
de la inteligencia artificial, destaca como eje clave para el despliegue futuro de la IA,
y el ansiado liderazgo europeo en este ámbito lo que denomina “ecosistema de con-
fianza exclusivo”. S e trata de garantizar el cumplimiento de las normas de la UE, espe-
cialmente de las normas de protección de los derechos fundamenta les y los derechos
de los consumidores; con especial atención, a los sistemas de IA que operan en la UE
2 BAUMAN, Z., “Tiempos líquidos. Vivir en una épo ca de incertidumbre”, 1ª Edición, Tus-
quets Editores, México, 2007.
3 Ley núm.21.383, Modifica la Carta Fundamental, para establecer el desarrollo científico y
tecnológico al servicio de las personas, de 14 de octubre de 2021.
Inteligencia artificial, salud y derechos humanos: ¿hacia un gobierno de los algoritmos? 299
y presentan un riesgo elevado para los derechos de las personas4. En este mismo sen-
tido, el reciente informe de la OMS Ethics and governance of artificial intelligence for
health, alertaba de los riesgos de aplicar la IA en el ámbito de la salud, ignorando los
valores éticos y el respeto a los derechos humanos5.
El desarrollo y progreso en este último siglo de la Medicina ha estado especialmen-
te ligado al avance tecnológico, y en particular, a la aplicación de la IA. Podemos fácil-
mente identificar algunos de los logros médicos más destacables, vinculados a la im-
plementación de la IA. Robots que realizan operaciones de forma autónoma6 o asistida,
programas de diagnóstico por imagen, dispositivos que facilitan la movilidad, sistemas
que ayudan a los pacientes en sus tratamientos médicos… la lista resulta inagotable, y
afortunadamente, cada día nos sorprendemos con nuevos progresos, y descubrimien-
tos de la IA asociados al ámbito de la salud. Sin embargo, como pone de manifiesto la
OMS en el mencionado informe debe ponerse el foco en dos aspectos fundamentales
para desarrollar el potencial de estas herramientas en el ámbito de la sanidad, a saber:
por un lado, debe reforzarse la formación y preparación de los profesionales médicos;
y por otro, es fundamental empoderar al paciente, para que no se encuentre, llegado el
caso, excluido en la toma de decisiones que afectan a su salud.
El impulso de este avance y de su irrupción en el ámbito de la medicina se en-
cuentra en la capacidad de examen y tratamiento de información, asociado al desa-
rrollo de la informática, y en la posibilidad de completar técnicamente y de forma
mecánica operaciones y análisis cada vez más complejos, más numerosos, y en un
periodo de tiempo cada vez menor. En consecuencia, la toma de decisiones, la reso-
lución de conflictos, o la realización de tareas sencillas adquieren una nueva dimen-
sión. No podemos menospreciar el impacto de este avance tecnológico que apoya a
gobiernos, a instituciones supranacionales, a sistemas sanitarios y a empresas en la
toma de decisiones, y en la adopción de políticas nacionales en los más diversos ám-
bitos; por ello, se reclama al legislador un esfuerzo para que legitime estos sistemas y
adopte políticas normativas que sujeten su diseño y utilización a principios éticos y
jurídicos. Llamaba la atención sobre los riesgos y amenazas del tratamiento mediante
big data de la información personal el Grupo de Trabajo del Art. 29 (en adelante GT
Art. 29), advirtiendo que la elaboración de perfiles, finalidad propia de estos trata-
mientos, podía reproducir estereotipos existentes y contribuir a la segregación social;
de igual modo, podía marcar a una persona y asociarla a una categoría específica, li-
mitando las preferencias que le interesan, los tratamientos médicos que se le ofrecen,
4 COMISIÓN EUROPEA. Libro Blanco sobre la inteligencia artificial: un enfoque europeo
orientado a la excelencia y la confianza, COM (2020) 65 final, de 19 de febrero de 2020.
5 OMS. Ethics and governance of artificial intelligence for health: WHO guidance, 2021.
Véase documento en http://www.infocop.es/pdf/ethicsia.pdf
6 Véase texto en https://www.consalud.es/saludigital/23/desarrollan-un-robot-cirujano-
capaz-de-operar-por-si-mismo_41209_102.html (consulta: 10 de febrero de 2021).
Para continuar leyendo
Solicita tu prueba