En el horizonte: la directiva de responsabilidad extracontractual en materia de IA
| Autor | Cristina Gil Membrado |
| Cargo del Autor | Catedrática de Derecho Civil Universidad de las Islas Baleares |
| Páginas | 101-128 |
EN EL HORIZONTE: LA DIRECTIVA
DE RESPONSABILIDAD EXTRACONTRACTUAL
EN MATERIA DE IA1
C G M
Catedrática de Derecho Civil
Universidad de las Islas Baleares
Sumario: 1. ANTECEDENTES EN LA REGULACIÓN DE LA IA 2. LA OPACIDAD DE
LA IA 3. ANTECEDENTES EN LA REGULACIÓN DE LA RESPONSABILI-
DAD CIVIL DE LA IA 4.LA RESPONSABILIDAD CIVIL EXTRACONTRAC-
TUAL Y LOS SISTEMAS DE IA 4.1. La responsabilidad civil extracontractual: de
dónde partimos 4.2. La opacidad y la causalidad 4.3. La necesaria adaptación y
armonización de las normas internas de responsabilidad civil 5. LA PROPUESTA
DE DIRECTIVA DE RESPONSABILIDAD DE LA IA Y LA CAUSALIDAD 5.1.
Frente al proveedor de IA de alto riesgo 5.1.1. El nexo causal entre el funciona-
miento de la IA y el daño 5.1.2. La presunción del nexo causal entre la culpa y el
resultado –o la falta de resultado– 5.1.2.1. La prueba de la culpa o de la falta de
diligencia 5.1.2.2. La influencia razonablemente probable de la culpa en el resul-
tado 5.2. Frente a los usuarios de sistemas de IA de alto riesgo 5.3. Por daños y
perjuicios por sistemas de IA no de alto riesgo 5.4. Frente a un usuario de la IA
en una actividad personal 6. LA PROPUESTA DE DIRECTIVA DE RESPON-
SABILIDAD CIVIL DE LA IA Y LA PRUEBA 6.1. El derecho a la exhibición de
pruebas antes de presentar la demanda 6.2. La presunción de incumplimiento
ante la negativa a exhibir las pruebas 7. PARA ESTE VIAJE, NO HACÍAN FALTA
ALFORJAS 8. BIBLIOGRAFÍA.
1. ANTECEDENTES EN LA REGULACIÓN DE LA IA
En la Resolución del Parlamento Europeo de 20 de octubre de 2020, con reco-
mendaciones destinadas a la Comisión2, se propone un “Reglamento sobre principios
1 El presente trabajo se ha realizado financiado por el Proyecto DERECHO Y MEDICINA:
DESAFIOS TECNOLOGICOS Y CIENTIFICOS (DEMETYC) PID2019104868RA-I00 financiado por
MCIN/ AEI /10.13039/501100011033.
2 Resolución del Parlamento Europ eo, de 20 de octubre de 2020, con recomendaciones des-
tinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las
102 Cristina Gil Membrado
éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica
y las tecnologías conexas”. Un poco más adelante, en abril de 2021 la Comisión Euro-
pea presentó como una de las medidas en el ámbito de la IA una propuesta de Regla-
mento3, con el objeto de garantizar la tutela de los derechos de la persona situada en
la UE frente a las amenazas y los riesgos de la IA, pero también de reforzar la innova-
ción en la UE en materia de IA4.
Resulta de interés el instrumento elegido por el legislador europeo –el Regla-
mento– ya que denota que la pretensión de, en la regulación de esta tecnología, uni-
formizar y huir de la fragmentación –más propio de las Directivas–. En benef icio del
equilibrio y para que fruto de lo anterior no resulte un régimen de excesivo constre-
ñimiento, la norma europea proyect ada resulta poco concreta, de mo do que, en defi-
nitiva, establece unos requisitos mínimos con el objetivo de no asfixiar el desarrollo
de esta tecnología. Resulta clara la necesidad de un abordaje europeo y conjunto que
favorezca la confianza y la circulación de productos y servicios, la igualdad de condi-
ciones y la protección de las personas, aumentando la competitividad en el mercado
y la innovación5.
Esta Propuesta aborda una gran cantidad de cuestiones entre las que destaca la
clasificación de los sistemas de IA en función de sus características y usos: distingue
entre sistemas de IA prohibidos, de alto riesgo, de riesgo limitado y de bajo riesgo o
nulo. Especial atención presta a los sistemas de alto riesgo, a los requisitos que deben
cumplir para su desarrollo, comercialización y uso, así como a las obligaciones de los
operadores.
En cuanto al concepto de IA, el Considerando 6 de la Propuesta deja constancia
de la necesidad de definir claramente su alcance, pero también de lograr la flexibi-
lidad necesaria para adaptarse a los futuros avances de la tecnología. Hace referen-
cia, igualmente, a la posibilidad de que los sistemas de IA tengan distintos niveles de
autonomía y puedan ser utilizados de modo independiente o como componente de
un producto, con independencia de si el sistema está integrado (forma parte física
del producto) o no (tiene funcionalidad en el producto, pero no está integrado). De
hecho, una de las características de estos sistemas es la apertura en el sentido de que
tecnologías conexas (2020/2012(INL)) https://www.europarl.europa.eu/doceo/document/TA-9-2020-
0275_ES.html
3 Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen
normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican
determinados actos legislativos de la Unión COM/2021/206 final.
https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX:52021PC0206
4 DE MIGUEL ASENSIO, P. A., “Propuesta de Reglamento sobre Inteligencia Artificial”, La
Ley Unión Europea, núm. 92, mayo 2021.
5 En este sentido véase GIRGADO PERANDONES, P., “La regulación de la inteligencia arti-
ficial en la Unión Europea y su repercusión en el contrato de seguro”, Actualidad Jurídica Iberoamerica-
na, núm. 16 bis, junio 2022, pgs. 3625ss.
Para continuar leyendo
Solicita tu prueba