Inteligencia artificial, robots y responsabilidad civil

AutorRamón Herrera de las Heras
Cargo del AutorProfesor Titular de Derecho Civil de la Universidad de Almería
Páginas75-114
CAPÍTULO IV
INTELIGENCIA ARTIFICIAL,
ROBOTS Y RESPONSABILIDAD CIVIL
1. La responsabilidad civil en el ámbito de la Inteligencia Ar-
tificial
No cabe duda de que uno de los puntos que suele generar más debate
en torno a las nuevas tecnologías que han ido surgiendo a lo largo de la
historia es el relativo a los posibles daños que estas pueden provocar. De este
modo, cuestiones como la reparación de los daños producidos, las nuevas
coberturas de los seguros o el sistema de responsabilidad civil aplicable, son
una constante cada vez que se produce un cambio relevante en las técnicas,
ya sean industriales o simplemente tecnológicas. Es lo que BECK denominó
la sociedad del riesgo: en la modernidad avanzada, la producción social de
riqueza va acompañada sistemáticamente por la producción social de ries-
gos 183. Así, a lo largo del Siglo XIX y como “hija de la mayor mecanización e
industrialización” que decía NAVARRETE, se desarrolló la conocida como
responsabilidad civil por riesgo 184, de la que, aunque luego analizaré con
mayor detalle su contenido, sí conviene ahora señalar que su fin último era
asegurar la reparación de los daños producidos por actividades peligrosas,
en la mayoría de las ocasiones nuevas técnicas, por parte de quien las llevaba
a cabo. Hoy, esas actividades que en ocasiones podríamos denominar inclu-
so de consecuencias desconocidas, no son la mecanización o los vuelos, sino
el uso de la inteligencia artificial o el internet de las cosas en distintos proce-
sos, muchos de ellos cotidianos.
Asimismo, y como es lógico, de este debate no se ha quedado fuera la
aplicación generalizada de procesos de inteligencia artificial. Tanto es así
que la Comisión Europea creó en el año 2018 un grupo de expertos en res-
183 Vid. BECK, U.: La sociedad del riesgo. Hacia una nueva modernidad. Ed. Paidós. Barce-
lona. 1998.
184 Vid. NAVARRETE B, J.: “El origen de la responsabilidad civil objetiva en el derecho
aéreo”, en Revista Chilena de Derecho, núm. 1, 1978, pág. 161
76 Ramón Herrera de las Heras
ponsabilidad y nuevas tecnologías para analizar la posible modificación,
como luego se ha propuesto, de la legislación comunitaria en materia de
responsabilidad civil en este ámbito 185. Uno de los elementos que impulsó
la creación de este grupo de expertos y la posterior propuesta de modifica-
ción de la Directiva 85/374 sobre responsabilidad por productos defectuo-
sos fue precisamente el reto generado en nuestros días por la Inteligencia
Artificial 186. La propuesta, que ya ha pasado tanto por la Comisión Europea
como por el Parlamento Europeo, propone la transformación de la Directi-
va en Reglamento, así como una armonización a nivel europeo del sistema
de responsabilidad civil, modificando el concepto de productor, ampliando
el de defecto y estableciendo un sistema de responsabilidad objetiva para los
operadores en estos casos de actividades peligrosas. Posteriormente anali-
zaré con detenimiento la mencionada propuesta, estableciendo un marco
claro en lo relativo al sistema de responsabilidad civil para cada uno de los
posibles implicados en los daños producidos por el uso de la inteligencia
artificial. Son nuevos retos, algunos de ellos aun desconocidos, que pueden
generar daños de muy diversos tipos. Los daños patrimoniales, corporales
o morales seguirán existiendo, pero se producirán de una manera muy dis-
tinta, ante lo que el legislador debe de establecer unas normas nuevas que
permitan, por un lado, el desarrollo de la inteligencia artificial y, por otro, la
protección ante los posibles daños que esta pueda causar. Un equilibrio que,
si bien puede resultar complejo, es del todo necesario.
En el año 2018 se produjo el primer atropello mortal por parte de un
vehículo autónomo, cuyas decisiones y manejo se llevaban a cabo a través de
un sistema de inteligencia artificial. Concretamente sucedió el 19 de marzo
de 2018, cuando el sistema de un vehículo de Uber, según informó la pro-
pia compañía, fue incapaz de reconocer la existencia de un camión debi-
do a la luz que daba directamente en el cristal 187. Días después, y según las
informaciones periodistas publicadas sobre el suceso, se produjo un nuevo
accidente mortal, en esta ocasión el coche pertenecía a una de las compañías
con mayor valor actualmente en bolsa, Tesla. Según la citada compañía, el
185 Dicha convocatoria fue publicada en el DOCE el 9 de marzo de 2018. Con fecha de
24 de mayo de ese mismo año me fue comunicado por la Comisión Europea mi inclusión,
como suplente, en el mencionado grupo de expertos, lo que me ha permitido estar al día, no
solo de los documentos públicos de la reforma, sino de todos aquellos internos
186 Así se recoge en el apartado 1.1.a de la convocatoria del Comité de expertos en res-
ponsabilidad y nuevas tecnologías, cuyo objetivo era el de “proporcionar a la Comisión conoci-
mientos especializados sobre la aplicabilidad de la Directiva sobre responsabilidad por productos defectuo-
sos a los productos tradicionales, las nuevas tecnologías y los nuevos desafíos de la sociedad (formación de
la Directiva sobre responsabilidad por productos defectuosos) y ayudar a la Comisión a elaborar principios
que puedan servir de directrices para posibles adaptaciones de las leyes aplicables a nivel de la UE y nacio-
nal en relación con las nuevas tecnologías (formación de las nuevas tecnologías).”
187 Vid. “Peligro al volante: por qué Tesla tiene tanta culpa como el conductor si hay
un accidente”, El Confidencial, 2018, accesible en https://www.elconfidencial.com/tecnolo-
gia/2016-07-02/tesla-piloto-automatico-coche-autonomo-muerte_1226761/
Aspectos legales de la inteligencia artificial 77
vehículo tenía activado el sistema automático de conducción y no fue capaz
de evitar el accidente que, de otra manera, podría no haberse producido 188.
Estos casos son solo un ejemplo de los daños producidos por vehículos
autónomos pero que, por desgracia, no han sido los únicos en el sector de
la inteligencia artificial en los últimos años, y lo serán aún menos en el futu-
ro, por lo que a ello hay que darle una respuesta. Es cierto que el daño que
puede provocar el atropello por parte de un vehículo tripulado será similar
al producido por un vehículo dotado de inteligencia artificial que carezca de
conductor, pero ¿debe de ser el sistema de responsabilidad civil el mismo?
Con este ejemplo es sencillo concluir que, en el primer caso, en la gran ma-
yoría de ocasiones, la responsabilidad que deberá aplicarse no será tanto al
fabricante del vehículo, sino al conductor de este. En cambio, en el caso de
un vehículo autónomo, la legislación aplicable deberá tener en cuenta no
solo al conductor, operador como lo llama la propuesta realizada por la Co-
misión Europea, sino que tendrá que incluir, ante la posible concurrencia
de responsabilidad civil, la del fabricante del vehículo además de la del pro-
gramador o del desarrollador del software de inteligencia artificial. Para ello
contaremos con dos vías, la responsabilidad extracontractual, que podrá ser
la utilizada por aquel que sufre el daño, y la relativa a los daños por produc-
tos defectuosos que podrá ser la vía elegida tanto por el que sufre el daño
como por aquél responsable del mismo que pretenda repetir la responsabi-
lidad con el resto de los actores. La concurrencia de responsabilidad, como
más tarde veremos, se convertirá en un elemento esencial en esta materia y
que tendrá que ser tenida muy en cuenta por el legislador. Sucede que esta
última legislación, la relativa a la responsabilidad por productos defectuo-
sos, deriva de una directiva europea de mediados de los años ochenta, cuya
modificación, como ya hemos señalado y sobre la que más tarde ahondare-
mos, se hace hoy absolutamente necesaria.
Son muchos los ejemplos que podríamos poner en los ámbitos más diver-
sos, algunos de los cuales hemos ya mencionado en el primer capítulo del
presente libro. Desde la toma de una decisión injusta y dañina en base a la
propuesta realizada por la inteligencia artificial, a una aplicación que cuente
también con un algoritmo que provoque cualquier tipo de daño sea físico
o no. Piensen, por ejemplo, en una aplicación para la compra de acciones
bursátiles que, basada en inteligencia artificial, provoque graves pérdidas en
sus usuarios. Esto fue lo que sucedió el 6 de mayo de 2010 cuando se produ-
jo una de las mayores caídas de la bolsa de Wall Street. El índice Dow Jones
cayó en unos segundos más del 10%. Una de las compañías que operaba
grandes cantidades de dinero ese día estrenó un nuevo programa basado
en inteligencia artificial que cometió el error de efectuar una venta masiva a
188 Vid. “Tesla reconoce un nuevo accidente mortal por un coche autónomo.” La Vanguar-
dia, 2018, accesible en https://www.lavanguardia.com/tecnologia/20180331/442086876630/
tesla-muerte-conduccion-autonoma.html

Para continuar leyendo

Solicita tu prueba

VLEX utiliza cookies de inicio de sesión para aportarte una mejor experiencia de navegación. Si haces click en 'Aceptar' o continúas navegando por esta web consideramos que aceptas nuestra política de cookies. ACEPTAR