Chatbots en medicina: ética y derecho para la tecnología de los cuidados del siglo XXI
| Páginas | 79-118 |
CHATBOTS EN MEDICINA: ÉTICA Y DERECHO
PARA LA TECNOLOGÍA DE LOS CUIDADOS
DEL SIGLO XXI1
A I H O
Profesora Titular de Derecho civil. Universidad de Deusto
Sumario: 1. PERSPECTIVA GENERAL. TECNOLOGÍA Y SALUD. 2. EL DERECHO AL
CUIDADO. UN DESAFÍO PARA EL ESTADO SOCIAL. 3. RETOS Y OPORTU-
NIDADES DE LA TECNOLOGÍA DEL CUIDADO. HEALTHBOTS Y LA DIGI-
TALIZACIÓN DE LA ATENCIÓN EN SALUD. 4. LA FRONTERA ÉTICA EN
LA MEDICINA DIGITAL. EL DEBATE SOBRE LA UTILIZACIÓN DE SISTE-
MAS CONVERSACIONALES. 4.1. El autocuidado y la necesaria participación
humana en los healthbots. 4.2. La medicina digital centrada en el paciente y sus
derechos. 4.3. Las aplicaciones tecnológicas en medicina: igualdad, inclusión y no
discriminación. 4.4. Transparencia y explicabilidad de los procesos y las decisio-
nes automatizadas. 5. LA UTILIZACIÓN DE TECNOLOGÍA EN SALUD, UNA
CUESTIÓN DE DERECHOS FUNDAMENTALES. BREVE APUNTE SOBRE
EL DERECHO A LA PROTECCIÓN DE DATOS PERSONALES EN LA UE. 6. A
MODO DE REFLEXIÓN FINAL. 7. BIBLIOGRAFÍA
1. PERSPECTIVA GENERAL. TECNOLOGÍA Y SALUD
El incesante avance de las llamadas tecnologías disruptivas, y en particular, de la
Inteligencia Artificial (en adelante IA) está impactando en todos los sectores sociales y
se está haciendo hueco igualmente en la vida cotidiana y en el ejercicio de las más di-
versas profesiones. Y precisamente es en el desarrollo de la profesión médica donde con
mayor incidencia se están transformando los protocolos, aplicaciones e instrumentos
en el cuidado de la salud a partir del empleo de big data, IA o los sistemas robóticos.
1 El presente trabajo es parte del proyecto PID2022-136964NB-I00 El Derecho ante la Salud Di-
gital, Personalizada y Robótica (SALUDPYR) financiado por MCIN/ AEI /10.13039/501100011033/ y
por FEDER Una manera de hacer Europa, así como del proyecto de investigación “Contratación de Ser-
vicios de Telemedicina: Actualidad y Desafíos Jurídicos” (TED2021-129472B-00/MICINN) financiado
por MCIN/AEI/10.13039/501100011033 y por la Unión Europea NextGeneration EU/PRTR.
80 Ana Isabel Herrán Ortiz
Vivimos en una sociedad envejecida, donde la esperanza media de vida en Espa-
ña para las mujeres alcanza los 85 años de edad, y 80 años para los hombres. En Euro-
pa, en 2020, el 21 % de la población tenía 65 años o más, frente al 16 % en 2001, lo que
supone un aumento de 5 puntos porcentuales en los últimos veinte años2. Por ello,
parece fácil concluir, desde esta perspectiva, que nos encontramos ante una sociedad
de vidas extendidas y de cuidados, porque cada vez más demandamos y prestamos
atención, cuidados, y asistencia, para prolongar nuestra calidad de vida y bienestar
a lo largo de todas las etapas de nuestra de existencia, y especialmente, cuando nos
enfrentamos al proceso de envejecer.
Por otra parte, sin embargo, los recursos humanos y económicos de los sistemas
nacionales de salud cada vez se encuentran más limitados, y son frecuentes las reivindi-
caciones del personal médico, en relación con la saturación de los sistemas o la escasez
de los recursos sanitarios. Estas demandas se manifestaron especialmente durante la
pandemia de la Covid-19 en 2020 y aunque siguen presentes a día hoy, como tendre-
mos oportunidad de analizar en este trabajo, desde la UE y el Gobierno de España se
están articulando Planes y Estrategias para paliar dichas carencias, y avanzar en una
transformación digital de la medicina3. Algunas de las innovadoras respuestas médicas
que se ofrecieron a la ciudadanía durante la pandemia, aunque no estuvieron exentas
controversia jurídica y de importantes resistencias éticas, venían impulsadas por siste-
mas de IA, como por ejemplo, Hispabot-Covid19 o DataCovid4.
La aplicación de los avances tecnológicos al cuidado de nuestra salud no es una
realidad novedosa, de forma paulatina, la medicina ha sido permeable a cuantos pro-
gresos tecnológicos se venían sucediendo; cierto que en los últimos tiempos, el ver-
tiginoso desarrollo de tecnologías como la IA, la neurotecnología o la robótica han
hecho más visible la conquista tecnológica en los más diversos ámbitos de los ser-
vicios de salud. Así, desde el diagnóstico médico, la cirugía robótica, los tratamien-
tos neurorehabilitadores, la medicina predictiva y personalizada, o los cuidados y el
acompañamiento en los tratamientos de salud de los pacientes.
No se oculta la evidente transcendencia social de estos avances, y la proyección
que sobre el bienestar y la salud de los pacientes presenta la utilización de estas téc-
nicas; sin embargo, no es menos cierto que, desde la perspectiva ética, quedan pen-
dientes importantes debates que delimiten el desarrollo socialmente responsable de
estas tecnologías en el ámbito de la salud. En efecto, se censura, como veremos en
2 EUROSTAT. Ageing Europe. Looking at the lives of older people in the EU, Publica-
tions Office of the European Union, Luxembourg, 2020. Disponible en https://ec.europa.eu/eu-
rostat/documents/3217494/11478057/KS-02-20-655-EN-N.pdf/9b09606c-d4e8-4c33-63d2-
3b20d5c19c91?t=1604055531000 (consultado: 12.04.2024).
3 GOBIERNO DE ESPAÑA. Estrategia Nacional de Inteligencia Nacional, 2020, Anexo II. Dis-
ponible en https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIA2B.pdf
4 Así, https://covid19.gob.es/hispabot-covid19 (consultado: 12.04.2024).
Chatbots en medicina: ética y derecho para la tecnología de los cuidados del siglo XXI 81
este trabajo, el crecimiento de la deshumanización que afecta a la asistencia médica,
porque la aplicación tecnológica más avanzada, no podrá sustituir el trato humano,
el acompañamiento personal, y la necesidad de consuelo o empatía ante dificultades
y problemas de salud. Pero además, la medicina digital impacta sobre nuestros de-
rechos fundamentales, y en particular, sobre la igualdad de oportunidades, la libre e
informada decisión del paciente, o la protección de nuestra privacidad, entre otros.
Claro que además surgen otros temores, ¿podrán los sistemas de IA sustituir la
labor del profesional médico? ¿Qué límites éticos y jurídicos deberán definir la utili-
zación de la tecnología en el cuidado de nuestra salud? ¿Pueden los nuevos sistemas
acompañar al paciente con la misma dedicación y empatía que un profesional huma-
no?
Por el momento, son numerosas las tareas que han venido asumiendo estas tec-
nologías, y en especial sistemas vinculados y desarrollados mediante IA, en algunos
sistemas de salud; así, por ejemplo, la extracción de sangre, el seguimiento y moni-
torización en los tratamientos médicos, el autocuidado o el diagnóstico precoz de
enfermedades5. Sin embargo, pese a los incuestionables progresos lo cierto es que aún
está por alcanzarse una utilización más extensiva y eficaz de la tecnología, porque la
IA presenta aún hoy un limitado alcance, tanto por razones económicas como de re-
sistencia de los propios pacientes o de necesidad de formación del personal sanitario.
A día de hoy, estamos ante mecanismos de apoyo y colaboración para los profesio-
nales médicos, y no tanto ante una herramienta independiente, y de sustitución del
profesional médico.
No ha sido ajeno a esta irrupción el Gobierno español, que hacía pública en di-
ciembre de 2020 la Estrategia Nacional de IA, apuntando especialmente que “la IA en
investigación en salud permitirá el impulso de proyectos estratégicos como la simpli-
ficación de algoritmos en asistencia sanitaria, como por ejemplo el “triaje” de pacien-
tes, que por sí mismo puede suponer una reforma y aumento de la eficiencia en los
sistemas de salud”6. Que el sector sanitario es clave para el desarrollo de la IA lo de-
muestra en nuestro país el esfuerzo inversor y el impulso a la investigación en medi-
cina digital. A este respecto, se ha aprobado por el Consejo de Ministros en diciembre
de 2022 la iniciativa RETECH, con el objetivo de crear Redes Territoriales de Espe-
cialización Tecnológica (RETECH) como herramienta para hacer realidad la trans-
formación digital en todo el territorio, aprovechando al máximo las potencialidades
de cada región; y de este modo, apoyar proyectos territoriales de transformación digi-
tal impulsados de forma conjunta por varias regiones. Nace en ese momento, la línea
5 AVILA-TOMÁS, J.F., MAYER-PUJADAS, M.A.; QUESADA-VARELA, V.J., “La inteligencia
artificial y sus aplicaciones en Medicina II: importancia actual y aplicaciones prácticas”, Atenc ión Pr ima-
ria, vol. 53, núm. 1, 2022, pgs. 81-88.
6 GOBIERNO DE ESPAÑA. Estrategia Nacional de Inteligencia Nacional, 2020, pg. 62. Disponi-
ble en https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIA2B.pdf
Para continuar leyendo
Solicita tu prueba