Inteligencia artificial, sistemas de armas autónomas y derechos fundamentales. ¿Hasta dónde estamos dispuestos a llegar?
| Autor | Daniel Sansó-Rubert Pascual |
| Cargo del Autor | Profesor titular de Derecho Constitucional Director del Grupo de Investigación sobre Políticas Públicas, Seguridad Internacional y Gobernanza Global Universidad Europea (Madrid) |
| Páginas | 203-226 |
INTELIGENCIA ARTIFICIAL, SISTEMAS DE ARMAS
AUTÓNOMAS
...
Y DERECHOS FUNDAMENTALES.
¿HASTA DÓNDE ESTAMOS DISPUESTOS A LLEGAR?1
Daniel Sansó-Rubert Pascual
Profesor titular de Derecho Constitucional
Director del Grupo de Investigación sobre Políticas Públicas,
Seguridad Internacional y Gobernanza Global
Universidad Europea (Madrid)
DOI: 10.14679/2064
1. LA CONSECUCIÓN DE LOS OBJETIVOS DE LA AGENDA 2030 DE LAS
NACIONES UNIDAS COMO GARANTÍA DE PROTECCIÓN DE LOS DERECHOS
FUNDAMENTALES ANTE UN ENTORNO DE SEGURIDAD EN CONTINUA
TRANSFORMACIÓN
Vivimos tiempos de incertidumbre caracterizados por un entorno de seguridad en
continua transformación, que se traduce en un escenario plagado de retos que impactan
con fuerza en el conjunto de los derechos y libertades fundamentales2, con los que habrá
que lidiar. Un futuro en construcción, que amerita un análisis de los posibles derroteros
por los que los avances tecnológicos en general y la Inteligencia Articial (IA) en parti-
cular, aplicados al ámbito de la seguridad y la defensa, nos puedan conducir. Todo ello al
objeto de intentar ofrecer soluciones que permitan avanzar en términos democráticos, en-
frentando con éxito toda adversidad que se presente. Y en este proceso de consolidación
democrática los objetivos de la Agenda 2030 de las Naciones Unidas ostentan una particu-
lar importancia, dado que su logro o el fracaso en su consecución, afectará directamente a
los derechos de las personas.
1 Investigación vinculada al Grupo de Investigación en Políticas Públicas, Seguridad Internacional
y Gobernanza Global de la Universidad Europea.
2 FERNÁNDEZ RODRÍGUEZ, J. J., “Derechos y progreso tecnológico: pasado, presente y
futuro”, Engelmann, W. (Coord.), Sistema do direito, novas tecnologias, globalização e o constitucionalismo
contemporãneo: desaos e perspectivas, Rio de Janeiro: Fapergs, 2020, pp. 259-277.
Daniel Sansó-Rubert Pascual204
Derechos, que no son ajenos al espectacular desarrollo de los sistemas de Inteligencia
Articial (IA) que se viene produciendo en los últimos años. Revolución tecnológica sin
paliativos, que ha generado una enorme expectación y no pocos desafíos en relación con la
protección efectiva de los derechos y libertades fundamentales. Interés, especialmente rele-
vante en términos jurídicos3, habida cuenta del actual vacío normativo existente. No sólo en
cuanto a que no exista normativa especíca en relación con la incorporación de la IA al dise-
ño y desarrollo armamentístico en general, sino más en concreto en cuanto a las expectativas
suscitadas en torno a la posibilidad de dotar de plena autonomía funcional a los sistemas de
armas ofensivos. Pretensión, que ha dado lugar al inicio de un debate prolijo en argumenta-
ciones contradictorias acerca de los términos de uso y la incorporación o no de limitaciones,
que deberían ser tenidas en consideración en el proceso abierto de materialización de una re-
gulación internacionalmente reconocida que de cumplida respuesta a todos los interrogantes
y vicisitudes suscitados por el desarrollo y empleo de los sistemas de armas autónomos.
Lo que no puede obviarse es el hecho de que la situación, a día de hoy, demanda ineludi-
blemente y de forma improrrogable la articulación de un conjunto mínimo indispensable
de medidas organizativas, técnicas y legales para asegurar un desarrollo seguro de la IA,
y minimizar los riesgos a los que están expuestas las personas. La seguridad jurídica es
crucial. El Derecho debe proporcionar un marco legal de referencia que posibilite la con-
ciliación entre los intereses involucrados en impulsar el desenvolvimiento de la robótica,
al tiempo que asegurar su desarrollo en congruencia con los valores propios del ordena-
miento jurídico4 y las garantías de protección necesarias de los derechos fundamentales.
Los enfoques humanitarios de las cuestiones vinculadas tanto al desarrollo armamen-
tístico, así como las relativas al impulso de los procesos de desarme han cobrado impulso.
Alienta en todo caso el creciente interés de organismos internacionales como Naciones
Unidas e instituciones supranacionales como el Parlamento europeo en examinar las di-
mensiones humanitarias, jurídicas, militares y éticas de los sistemas de armas autónomas
y otras tecnologías emergentes5, suscitando una pluralidad de interrogantes a despejar al
tratar de identicar los futuros derroteros por los que transitará su evolución. No sin pre-
3 Salvo contadas excepciones, como el reciente libro dirigido por Moisés BARRIO ANDRÉS
(2018), Derecho de los robots -Wolters Kluwer-, y también el de Rafael de ASIS ROIG (2014), Una mirada a
la robótica desde los derechos humanos, Madrid: Dykinson. En EE.UU. la literatura es algo más abundante
con trabajos como los de Jack BALKIN (2015) “e Path of Robotics Law”, California Law Review, núm.
6; Ryan CALO (2017), Articial Intelligence Policy: A Primer and Roadmap, University of Washington;
Mattew SCHERER (2016), “Regulating Articial Intelligence Systems: Risks, Challenges, Competencies,
and Strategies”, Harvard Journal of Law & Technology, vol. 29, núm. 2 o Harry SURDEN (2014), “Machine
Learning and Law”, Washington Law Review, vol. 89, núm. 1, entre los más destacables.
4 Consultar su estudio detallado en ARANSAY ALEJANDRE, A. M., “Antecedentes y propuestas
para la regulación jurídica de los robots”, Barrio Andrés, M. (dir.), Derecho de los Robots, Madrid: Wolters
Kluwer, 2018, pp. 89 y ss.
5 MARTÍNEZ QUIRANTE, R. y RODRÍGUEZ ÁLVAREZ, J., Inteligencia articial y armas letales
autónomas. Un nuevo reto para Naciones Unidas, Gijón: Trea, 2018; Resolución del Parlamento Europeo,
de 20 de enero de 2021, sobre inteligencia articial: cuestiones de interpretación y de aplicación del
Derecho internacional en la medida en que la UE se ve afectada en los ámbitos de los usos civil y militar,
así como de la autoridad del Estado fuera del ámbito de la justicia penal (2020/2013(INI)).
Para continuar leyendo
Solicita tu prueba