Conclusiones
| Páginas | 383-408 |
Viii. conclusiones
En este trabajo puede observarse la importancia que ha tenido y tiene en
la agenda política y legislativa de la UE el desarrollo de las tecnologías digi-
tales emergentes; en particular, la introducción en el mercado y la puesta en
servicio de los sistemas de IA y de los bienes basados en la IA. Se ha examinado
la evolución que han tenido las distintas respuestas dadas a los principales
retos jurídicos planteados por dichas tecnologías y las propuestas normativas
europeas elaboradas para abordarlos, con el fin de ajustarse a los cambios que
conlleva la nueva realidad digital.
A fin de minimizar los riesgos relacionados con estas tecnologías y me-
jorar la seguridad de los productos, la UE está modernizando las normas so-
bre seguridad de las máquinas, productos en general, además de crear nue-
vas normas sobre sistemas de IA seguros. La AIA, fundándose en los valores
y derechos fundamentales de la UE, se erige como marco jurídico destinado
a lograr que estos sistemas sean seguros y fiables. Con la aprobación de este
marco normativo europeo se quiere lograr la libre circulación de la tecnolo-
gía, estableciéndose los mismos requerimientos legales a los desarrollos de la
IA en toda la UE y obligaciones uniformes para todos los operadores. Adopta
la forma de Reglamento, garantizándose su aplicación directa en los Estados
miembros y aumentado la seguridad jurídica de los operadores que desarro-
llan o utilizan sistemas de IA. La UE apuesta, así, por una norma horizontal
que recoge los requisitos esenciales de seguridad de los sistemas de IA. Se
pretende garantizar un nivel elevado y coherente de protección en toda la
Unión. La AIA ha de ser implementada y aplicada en la normativa sectorial
correspondiente, respetándose dichos requisitos esenciales de seguridad en
materia de IA.
Por consiguiente, la AIA constituye la norma de referencia para garan-
tizar que los sistemas de IA y los productos que los incorporan sean seguros.
Sigue un enfoque basado en los riesgos que distingue entre los usos de la IA
que generan: un riesgo inaceptable, un riesgo alto y un riesgo bajo o mínimo.
384 María Jorqui Azofra
El eje central lo representan los sistemas de IA de alto riesgo. Según hemos in-
dicado, entre estos se incluyen aquellos destinados a ser utilizados como com-
ponentes de seguridad de uno de los productos contemplados en el Anexo II
de la AIA y también aquellos sistemas que en sí mismos son uno de estos pro-
ductos, siempre que estos, conforme a su propia legislación de armonización,
deban someterse a una evaluación externa. No resulta suficiente con que el
sistema de IA se incorpore o sea uno de estos productos, sino que además es
preciso que requiera evaluación de conformidad de un tercero. Este tipo de
evaluaciones se contemplan en la normativa sectorial de seguridad de cada
producto. Así, los sistemas de IA destinados a ser utilizados como componen-
tes de seguridad de productos regulados por la legislación del nuevo marco
legislativo estarán sujetos a los mismos mecanismos de cumplimiento y apli-
cación ex ante y ex post que los productos de los que forman parte (por ejem-
plo, productos sanitarios). Si bien dichos mecanismos garantizarán el cumpli-
miento tanto de los requisitos establecidos en la legislación sectorial como de
los previstos en la AIA. La evaluación de la conformidad de estos sistemas de
IA (componentes de seguridad de productos), se realizará por terceros. Estos
llevarán a cabo procedimientos de evaluación de la conformidad ya definidos
en la correspondiente legislación sectorial sobre seguridad de los productos.
Con respecto a los sistemas de IA de alto riesgo independientes, la AIA
hace referencia al criterio de uso y ámbito al que se destina el sistema de IA.
Se considera preciso someterlos a una evaluación integral de la conformidad
ex ante, –cumpliendo todos los requisitos previstos en la AIA–, realizar los res-
pectivos controles internos, –estableciéndose los debidos sistemas de gestión
de la calidad y los riesgos–, combinado todo ello con una supervisión ex post
estricta. Se trata de un sector de la IA muy innovador que requiere adquirir
mayor conocimiento para realizar auditorías. Se exige asimismo que estos sis-
temas se registren en una base de datos de la UE para, entre otros fines, forta-
lecer dicha supervisión ex post por parte de las autoridades competentes.
En la AIA se establecen los sistemas de gobernanza nacionales y a escala
de la Unión. En esta última se prevé la creación de un CEIA, integrado por
representantes de los Estados miembros y la Comisión. Este comité, además
de facilitar la aplicación efectiva y armonizada de la AIA, contribuirá a la coo-
peración de las autoridades nacionales de supervisión y la Comisión, propor-
cionará conocimientos especializados a esta y compartirá las mejores prácticas
entre los Estados miembros. Estos, en el plano nacional, designarán a una o
más autoridades nacionales competentes y, entre ellas, seleccionarán a una
autoridad nacional de supervisión que se encargará de supervisar la aplica-
ción y ejecución de la AIA. El CEIA estará compuesto por dichas autoridades
nacionales de supervisión (representadas por el jefe de dicha autoridad o un
funcionario de alto nivel equivalente), y el Supervisor Europeo de Protección
Para continuar leyendo
Solicita tu prueba