Ética y robótica: principios éticos generales para la inteligencia artificial y la robótica
| Autor | Ignacio Lledó Benito |
| Cargo del Autor | International PhD. Profesor de Derecho penal de la Universidad de Sevilla. Profesor Titular acreditado (ANECA) |
| Páginas | 115-152 |
5.
ÉTICA Y ROBÓTICA: PRINCIPIOS ÉTICOS
GENERALES PARA LA INTELIGENCIA ARTIFICIAL
Y LA ROBÓTICA
5.1. CONSIDERACIONES GENERALES EN LA ÉTICA
Una forma de aceptar el comportamiento de los robots consistiría en pro-
gramarlos con principios éticos generales y dejar que, en cada caso tomasen
las decisiones basadas en tales principios. La inteligencia artificial permite
que mediante inducciones lógicas, una máquina abstraiga tales principios a
partir de casos concretos de conducta éticamente aceptable 223.
Es interesante en este punto, las sugerencias a la Comisión de Asuntos
Jurídicos de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior,
en la que su ponente MICHAEL BONI, instaba a que en la propuesta de Re-
solución se incorporasen unos imprescindibles principios éticos que orien-
ten el diseño, la fabricación, la prueba y el uso de robots y de la inteligencia
artificial a fin de garantizar que estas tecnologías puedan mejorar realmente
la calidad de vida de los ciudadanos, y pide que se tenga siempre en cuenta
el principio de precaución en el desarrollo y el uso de dichas tecnologías 224.
El principio de precaución define la actitud que debe observar toda per-
sona que toma una decisión relativa a una actividad de la que puede razo-
nablemente suponer que comporta un peligro grave para la salud o la segu-
223 LÓPEZ MORATALLA, N. Inteligencia artificial. ¿Conciencia artificial? Una perspectiva
desde las Ciencias de la Vida. Edit. Digital Reasons. Madrid, 2017, pág. 95. Y citado por la autora
ANDERSON, M. y ANDERSON, S.L. Ética para robots. Edit. Investigación y Ciencia, pág. 56.
224 BONI, M. Opinión de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior para la
Comisión de Asuntos Jurídicos con recomendaciones destinadas a la Comisión sobre Normas de Derecho
Civil sobre Robótica (2015/2013 (INL)) 23/11/2016 RR/1115573ES: docx págs. 38-439), págs.
39-69.
CRISTÍAN SILVIU BUSOI. “Opinión de la Comisión de Medio Ambiente, Salud Pública
y Seguridad Alimentaria para la Comisión sobre Normas de Derecho civil sobre Robótica”
2015/2013 INL, 14 octubre de 2016, Sugerencias, pág. 55 especialmente.
116 Ignacio Lledó Benito
ridad sobre la libertad de intercambio entre particulares y Estado. Manda
adoptar todas las disposiciones que permitan, con un coste económico y so-
cialmente soportable, detectar y evaluar el riesgo reducido a un nivel acep-
table, y si es posible eliminarlo. Este dispositivo de precaución debe ser pro-
porcional a la amplitud del riesgo y se describiría de la siguiente manera 225:
1. Considera que la robótica y los sistemas de inteligencia artificial, especial-
mente aquellos con autonomía integrada, incluida la capacidad de extraer, recopilar y
compartir información sensible con varias partes interesadas, y con posibilidad de au-
toaprendizaje e incluso de evolución para automodificarse, deben someterse a normas
o principios conceptuales sólidos, como el principio de que un robot no puede matar o
hacer daño a los seres humanos y debe obedecerles y estar controlado por ellos, piensa
que el proceso por el que los robots y la inteligencia artificial recogen, procesan y utili-
zan datos personales debe ser transparente y comprensible, considera que estos princi-
pios deben ser tecnológicamente neutros y basarse en la investigación empírica, apoya
el desarrollo de un marco ético por sistema para los investigadores, los universitarios
y los ingenieros que garanticen que estas soluciones tecnológicas no obstaculizarán los
avances de la tecnología y la investigación, sino que serán conformes a las prácticas
y códigos éticos nacionales y de la Unión existentes y a los derechos y principios consa-
grados por la Carta de los Derechos Fundamentales, en particular, a la dignidad hu-
mana, el respeto y la protección de la privacidad y la vida familiar, la protección y la
seguridad, la protección de los datos personales y de la propiedad intelectual, la liber-
tad de expresión y de información, la igualdad y la no discriminación, la solidaridad,
los derechos de los ciudadanos y la justicia, y que estarán condicionados al principio
de proporcionalidad.
2. Todos estos principios o derechos fundamentales deberían seguir el postulado
kantiano “obra de tal modo que trates al otro siempre como un fin en sí mismo y no
como un mero medio”. Es decir, la persona no puede ser tratada como un medio instru-
mental dependiente de una máquina inteligente. Sería indigno, es el sistema autóno-
mo el que tiene que estar al servicio del hombre, nunca al revés.
Se ha dicho, con razón, que los avances tecnológicos se están convirtien-
do en un auténtico desafío para el legislador, cada vez más desbordado por
nuevas tecnologías en su intento de preservar el contenido mínimo de dig-
nidad. La tecnología es el éxito de la razón humana aplicada a resolver pro-
blemas prácticos. Y se argumenta que en este contexto se presenta como
necesidad primordial la creación de una protección jurídica efectiva, en su
aplicación a la robótica e inteligencia artificial. Y se explica que por un lado
la complejidad del entorno tiene una relación estrecha con la complejidad
225 ACOSTA, M./VILLACROIG MARTÍN, J. Ética aplicada a la tecnología. Ediciones CEU,
Madrid, 2018, pág. 98. (a mayor abundamiento, véase la cita referenciada Kourilsky P. & Vi-
ney, G). También TOMÁS MARTÍNEZ, G. “¿Puede un robot ser responsable por causar da-
ños? Primeras reflexiones ante el nuevo reto europeo de innovación legal” Culpa y Responsa-
bilidad, PRATS ALBENTOSA, L. y TOMÁS MARTÍNEZ, G (coords.). Edit. Thomson Reuters
Aranzadi, Cizur Menor, Navarra, 2017, pág. 861.
El derecho penal, robots, IA y cibercriminalidad 117
del sistema de control que gobierna el comportamiento de la máquina, y
que los usuarios pueden interactuar con los robots y estos pueden ser ma-
nipulados por aquellos. Y se habla que robots inteligentes están dotados de
capacidades de adaptación y autoaprendizaje que entrañan un grado de
imprevisibilidad en su comportamiento, ya que pueden aprender de forma
autónoma de su propia experiencia variable e interactuar con su entorno de
forma impredecible 226.
Sea como fuere define muy bien PALMERINI las características distinti-
vas de los robots desde un punto de vista técnico: en la capacidad de reco-
ger datos mediante sensores (sense), de procesar los datos en bruto (think),
de planificar y cumplir acciones mediante conocimientos e informaciones
adquiridas, generalmente, en función de objetivos prefijados (act). Por su
parte, características sólo eventuales son la capacidad de comunicación con
un operador, con otros robots o con una red externa, y la de aprendizaje.
Realmente es posible observar una línea de continuidad entre la máquina
automática y el robot propiamente dicho, que se diferencia de la primera,
sustancialmente, por una complejidad mucho mayor, más que por una deli-
mitación neta de orden cualitativo. Avances en el campo de la percepción,
de la representación del espacio, del reconocimiento de objetos, rostros y
situaciones, de la planificación del movimiento y de la integración de estas
funciones convierten a los robots actuales en instrumentos siempre más efi-
caces para el desarrollo de diversas tareas, en contextos no predetermina-
dos 227.
Esta definición esencial reenvía a las características intrínsecas de la tec-
nología robótica que también son interesantes desde el punto de vista jurídi-
co. El robot, en cuanto entidad dotada de un aspecto físico, aunque también
de un sistema de software que procesa información, presenta la potenciali-
dad y los riesgos de ambos mundos, el físico y el digital. Combinando estos
dos rasgos característicos, en particular, se está en capacidad de asegurar el
desarrollo de un amplio espectro de funciones útiles, pero también de ex-
poner al usuario, así como a otras personas, al riesgo de lesiones en caso de
226 NÚÑEZ ZORRILLA, M.C. Inteligencia artificial y responsabilidad civil. Régimen jurídico
de los daños causados por los robots autónomos con inteligencia artificial. Edit. Reus, 2019, (extracto
de págs. 10,11,12,13), Asimismo, la misma autora en “Los nuevos retos de la Unión Europea
en la regulación de la responsabilidad civil por los daños causados por la inteligencia artifi-
cial” en Revista Española de Derecho Europeo, nº 66, abril-junio 2018. Edit. Civitas S.A. También
LACRUZ MANTECÓN, ML. Op. cit. (Potencialidades de los robots), pág. 73, quién insiste en la
creación de una “ética de la IA, Robótica o Cibernética ética” porque (dice la autora –citando
a RUSELL– Human compatible, artificial intelligence and the problem of control, pág. 137), que el
cerebro mecánico y otras máquinas similares pueden destruir los valores humanos o nos pue-
den permitir realizarlos como nunca fue posible.
227 PALMERINI, E. “Robótica y derecho, sugerencias, confluencias, evoluciones en el
marco de una investigación europea” en Revista de Derecho privado, nº 32, enero-junio 2017,
págs. 53-97.
Para continuar leyendo
Solicita tu prueba