Uso de la inteligencia artificial...? En las organizaciones?
| Autor | María Cumbreras, Pedro López |
| Páginas | 449-486 |
¿ES NECESARIO UN MARCO ÉTICO PARA GUIAR EL
DESARROLLO Y USO DE LA INTELIGENCIA ARTIFICIAL...?
EN LAS ORGANIZACIONES?
M C
Abogada y Economista. Experta en Cybersecurity,
Data Governance & Compliance en Procesia
P L
Profesor Titular en la Universidad Complutense de Madrid (UCM)
Sumario: 1.Introducción. 1.1. Aproximación al concepto de inteligencia artificial. 1.2.
Principales riesgos que presenta la IA. 2. Marco jurídico y político europeo
de la IA: Hacia una IA fiable. 2.1. Derecho de la UE en la que se menciona
explícitamente la IA. 2.2. El Régimen de Responsabilidad Civil para la in-
teligencia artificial. 3. Un marco ético para el desarrollo y el uso de la IA.
4. El cumplimiento y el buen gobierno: la exigencia obligada de códigos de
conducta empresarial en el marco de la IA. 4.1. La ética en el uso de la IA
en España. 4.2. Rendición de cuentas a través de marcos de gobernanza. 5.
Conclusiones. 6. Bibliografía
1. INTRODUCCIÓN
El presente capítulo se articula en torno al desarrollo de la Inteligencia Artifi-
cial y las cuestiones éticas y normativas vinculadas, prestando una atención especial
al contexto europeo y español. En primer lugar, se realiza un análisis exhaustivo de
cómo el Derecho de la UE está acomodando las diversas cuestiones planteadas por la
Inteligencia Artificial. Junto a ellas, se abordan los principios éticos y recomendacio-
nes que se están elaborando o se observan de manera latente en el marco normativo.
Esto proporciona a las organizaciones un esquema de referencia para el desarrollo,
despliegue y utilización de sus sistemas de Inteligencia Artificial.
450 María Cumbreras / Pedro López
Finalmente, se concluye este estudio con algunas recomendaciones directas para
el desarrollo de mecanismos organizativos que permitan una Inteligencia Artificial
lícita, ética y robusta, como la conexión con la gobernanza, el Compliance, la asun-
ción o desarrollo de códigos éticos, o el nombramiento de responsables y comités de
ética específicos.
1.1. Aproximación al concepto de inteligencia artificial
El término Inteligencia Artificial (en adelante, “IA”), fue usado por primera vez
en 1956 por John McCarthy1 para referirse a “la ciencia y la ingeniería de crear má-
quinas inteligentes, especialmente programas de computación inteligentes”2. En 2018,
la Comisión Europea ha creado el Grupo de Alto Nivel en Inteligencia Artificial (AI
- HLEG) en el marco de Estrategia Europea en Inteligencia Artificial para que esta-
blezca las bases de una IA FIABLE. Este grupo de expertos define la IA como aquella
que “se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son
capaces de analizar su entorno y pasar a la acción -con cierto grado de autonomía- con
el fin de alcanzar objetivos específicos.”3.
Pero ¿cómo alcanza la racionalidad un sistema de IA? Tal y como indica este
grupo de expertos, lo hace recogiendo la información del entorno en el que se en-
cuentra inmerso el sistema a través de sensores, interpretando datos, razonando la
información que percibe, procesándola, decidiendo cuál es la mejor acción que pue-
de realizar y actuando en consecuencia mediante mecanismos de acción, pudiendo
así modificar el entorno.
La realidad es que desde que tenemos un smartphone, localizamos el trayecto
más eficiente para un destino concreto, utilizamos un asistente personal, como OK
Google u Oye Siri, para preguntarle cuál es la farmacia más cercana o cualquier otra
pregunta que se nos ocurra, ofreciéndonos varias alternativas para permitirnos elegir
la que mejor se ajuste a nuestras necesidades, abrimos una app para ver algún vídeo
y nos aconseja la última serie relacionada con nuestro historial de visualizaciones, en
todos estos casos, estamos sirviéndonos de la IA. La IA son sistemas con tres caracte-
rísticas principales: percepción, razonamiento o toma de decisiones y acción.
1 CHILDS, M. (01 de noviembre de 2011). John McCarthy: científico informático conocido como
el padre de la IA. Obtenido de Independent: https://www.independent.co.uk/news/obituaries/john-mc-
carthy-computer-
2 AGENCIA ESPAÑOLA DE PROTECCIÓN DE DATOS, Adecuación al RGPD de tratamientos
que incorporan Inteligencia Artificial. Una introducción. Madrid, febrero 2020, p. 5.
3 GRUPO DE ALTO NIVEL EN INTELIGENCIA ARTIFICIAL, AI - HLEG, Una definición
de la inteligencia artificial: Principales capacidades y disciplinas científicas. Comisión Europea, Bruselas,
abril 2019, p. 1.
¿Es necesario un marco ético para guiar el desarrollo y uso de la inteligencia artificial...? 451
La IA está cambiando la naturaleza de la empresa. A la luz de la transformación
digital y los cambios tecnológicos disruptivos, la empresa deberá cambiar rápidamen-
te para adaptarse al contexto, debiendo formular sus estrategias ante un entorno des-
conocido e incierto. Si entendemos la IA como una nueva variable que influye funda-
mentalmente en la naturaleza de la empresa, desde un punto de vista económico, el
software cada vez más autónomo y racional puede interpretarse como un agente en la
empresa4. Según Brynjolfsson & Mcafee, la “segunda era de las máquinas” ha llegado
con los recientes avances en tecnología informática5. La consultora McKinsey destaca
cómo el análisis masivo de datos está permitiendo la implantación de herramientas
de IA o, si lo ha hecho ya, la favorecerá en un futuro inmediato, lo que constituye un
reto empresarial y macroeconómico estratégico relevante6.
Aprovechando las ventajas que la IA presenta, la Unión Europea (UE) pretende
convertirse en el primer organismo a nivel mundial en actuar en este ámbito, aun-
que aún está por confirmar, se pretende avanzar hacia la regulación de los aspectos
éticos de IA como una ventaja estratégica apostando por una IA fiable (lícita, ética y
robusta) en el diseño “made in Europe”, para posicionarse frente a Estados Unidos y
especialmente China, que no conceden importancia a la cuestión. El éxito dependerá
de la capacidad de la UE para adoptar medidas legislativas comunes y oportunas, la
supervisión de estas medidas y la capacidad de atribución y aplicación de las normas.
La Unión Europea prepara una batería de medidas para abordar las oportuni-
dades y desafíos de la IA, centradas en la confianza en la tecnología y en su potencial
impacto tanto en los ciudadanos a nivel individual como en la sociedad y economía a
nivel colectivo. Las nuevas normas tienen como objetivo garantizar un ambiente pro-
picio para que los investigadores, desarrolladores y empresas puedan innovar y avan-
zar. La Comisión Europea pretende destinar 20.000 millones de euros al año para
potenciar las inversiones privadas y públicas en tecnología de inteligencia artificial7.
Para una clasificación general de las técnicas de IA, podemos agruparlas en dos
grandes categorías referidas a la capacidad de razonamiento y aprendizaje8:
4 WAGNER, D. N. (2020). The nature of the Artificially Intelligent Firm - An economic investi-
gation into changes that AI brings to the firm. Telecommunications Policy, p. 2.
5 BRYNJOLFSSON, E., & MCAFEE, A. The second machine age. Work, progress, and prosperity
in a time of brilliant techn ologies. New York, London: W.W. Norton & Company, 2016.
6 MARTÍNEZ MARTÍNEZ, R., “Inteligencia artificial desde el diseño. Retos y estrategias para
el cumplimiento normativo”. En Revista catalana de dret públic, núm. 58, 2019, p. 67.
7 PARLAMENTO EUROPEO (21 de octubre 2020). Regulación de la inteligencia artificial en la
UE: la propuesta del Parlamento. Noticias Parlamento Europeo. Recuperado en: https://www.europarl.
europa.eu/news/es/headlines/priorities/inteligencia-artificial-en-la-ue/20201015STO89417/regula-
cion-de-la-inteligencia-artificial-en-la-ue-la-propuesta-del-parlamento
8 GRUPO DE ALTO NIVEL EN INTELIGENCIA ARTIFICIAL, AI - HLEG, Una definición
de…, p. 5.
Para continuar leyendo
Solicita tu prueba