Coches autopilotados en situaciones de necesidad. Una aproximación desde la teoría de la justificación penal
| Autor | Ivó Coca Vila |
| Páginas | 235-275 |
Page 236
Tras años transitando los caminos de la ciencia ficción, los principales fabricantes de coches autopilotados coinciden en que, a más tardar, en el año 2020 será posible adquirir en el mercado automóviles plenamente autónomos o autopilotados1. Éstos constituyen el producto final de un largo -y todavía hoy inconcluso- proceso gradual de autonomización de los automóviles, desde el coche plenamente manual hasta el capaz de circular sin conductor de forma segura ante cualquier situación imagi-
Page 237
nable2. Todo indica, pues, que su pronta comercialización a gran escala supondrá el inicio de una nueva era en la circulación vial. Los accidentes de tráfico, al sustituir al imperfecto ser humano por un fiable software, que ni bebe alcohol, ni sufre estrés, ni infringe reglas de circulación, se reducirán hasta en un 90%3, al mismo tiempo que sujetos hasta ahora excluidos de la circulación vial independiente (niños, ancianos o discapacitados) podrán tomar parte en ella en igualdad de condiciones4. La mayor seguridad y fiabilidad de los coches autónomos interconectados5, capaces de compartir información relevante al instante, habrá de permitir además una reducción de la distancia de seguridad entre los coches. En la misma red de carreteras, donde los coches autónomos podrán ser distribuidos de manera mucho más eficiente, podrán circular a la vez de manera más rápida y segura un número notablemente superior de vehículos6. A todo ello, por si fuera poco, se suma la promesa de una importante reducción de los índices globales de contaminación7.
Ahora bien, pese a la drástica reducción de los accidentes que ha de traer consigo la sustitución del conductor humano por un ordenador8, los expertos del sector coindicen unánimemente en que tampoco los coches autopilotados estarán completamente exentos del riesgo de verse involucrados en accidentes de circulación9. No es solo que durante el largo
Page 238
período de transición de los coches manuales y semiautónomos hacia los autónomos, éstos habrán de lidiar con formas de comportamiento inesperadas -antijurídicas- por parte de humanos10, sino que también en un mundo en el que todos los coches fueran autónomos el riesgo de accidente no sería nunca nulo11. Ni es descartable que un software incurra en un error o sea jaqueado, ni que un coche autónomo haya sido erróneamente programado o sufra un fallo mecánico. Tampoco cabe excluir que circunstancias externas imprevisibles e incontrolables (peatones negligentes, fenómenos meteorológicos extraordinarios, animales salvajes…) sometan a un coche autopilotado a un riesgo de colisión. Por razones estrictamente físicas, ningún coche autopilotado, por sofisticado que sean los sensores y los software de control, quedará completamente exento del riesgo de provocar o verse involucrado en un accidente12.
La idea misma de un robot, bot, androide o cualquier otra forma de inteligencia artificial capaz de provocar daños plantea sin duda importantes interrogantes jurídicos, en especial, en el ámbito del Derecho civil13y penal14. Ahora bien, más allá de la pregunta sobre quién debe responder jurídicamente por los daños que causa un coche autónomo (el fabricante, el programador, el usuario, una aseguradora…), la certeza de que tales coches se verán involucrados en situaciones de necesidad plantea al mismo tiempo un importante reto ético-jurídico adicional: los coches autopilotados han de ser programados para responder en situaciones de necesidad en las que la
Page 239
infracción de una norma o la causación o no evitación de un daño resultan inevitables15. Es decir, los coches autopilotados habrán de contar con una “moral de excepción” preestablecida a través de algoritmos que regulen su modo de operar en situaciones de necesidad16. Y adviértase que no se trata solo de prefijar las condiciones bajo las cuales, por ejemplo, un coche puede excederse de la velocidad máxima permitida para trasladar a su ocupante a un hospital, sino que tales automóviles habrán de contar además con patrones de conducta en situaciones de necesidad en las que la salvaguarda de un concreto interés exija irremediablemente la lesión de otro17.
En realidad, la valoración de formas de comportamiento lesivas de intereses ajenos en situaciones de necesidad es un topos clásico en la discusión filosófica y jurídica, en especial, en la jurídico-penal, donde la teoría de la justificación viene enfrentándose desde antaño a esta clase de problemas18. Ahora bien, por un lado, el desarrollo de los coches autopilotados agudiza el problema ético y, en especial, el jurídico-penal,
Page 240
en la medida en que la necesidad de configurar prospectivamente y con carácter general patrones de comportamiento en situaciones de excepción cierra la puerta a las –comunes y aparentemente prácticas– soluciones evasivas19. Asumiendo que el competente por la programación de la “moral de excepción” del coche será habitualmente su diseñador20, o su usuario si es que éste puede finalmente influir de algún modo en la programación del coche21, no cabe zanjar la pregunta sobre cómo valorar el resultado lesivo causado afirmando, por ejemplo, que aquél es fruto de una reacción puramente instintiva o no dominable, o que, pese a ser el comportamiento del autor antijurídico, el resultado lesivo no puede ser subjetivamente atribuido (inexigibilidad). Tampoco cabe ya, para evitar que el Derecho se “manche las manos” al aceptar la legitimidad de formas de desenlace trágicas, dejar de ofrecer soluciones a tales dilemas con carácter general, esperando que éstos sean resueltos en el caso concreto al margen de reglas o patrones institucionalizados22. Por otro lado, sin embargo, a diferencia de las situaciones clásicas de necesidad, la imposibilidad de conocer la identidad de las concretas víctimas futuras de una decisión de programación pareciera facilitar la posibilidad de legitimar soluciones en situaciones de necesidad23. A diferencia del náufrago de
Page 241
Carneades que para salvar su vida ha de acabar con la vida de su compañero de tabla, el programador establece un patrón de conducta genérico, para una situación de conflicto futura e incierta, sin conocer en ese momento la identidad concreta de la potencial víctima de la decisión adoptada a la hora de programar el coche. Es más, ni siquiera es posible saber si el coche se encontrará algún día en la situación dilemática para la que se ofrece una solución.
Pues bien, en este trabajo se asume que el problema descrito no puede sumirse en un espacio libre de Derecho24, ni cabe dejar plenamente en manos de cada compañía automovilística o en los particulares la configuración de los algoritmos de un coche autopilotado25. Tampoco la prohibición absoluta de los coches autónomos constituye una solución aceptable26. Así las cosas, por espinosa que resulte la tarea, el desarrollo de los coches autopilotados nos obliga a ofrecer pautas claras y precisas de resolución objetiva de los dilemas, también cuando están en juego vidas humanas. El presente trabajo pretende precisamente contribuir a ello, no ya planteando interrogantes, sino tratando de ofrecer algunas respuestas a problemas concretos. A tal fin, en el siguiente apartado (II) se recogen cinco situaciones dilemáticas que habrán de servir para poner a prueba las distintas aproximaciones teóricas al problema emprendidas. Acto seguido, se presentan y analizan las dos grandes tesis defendidas hasta el momento en la incipiente discusión ético-jurídica: en el tercer apartado (III) se examina la viabilidad de la tesis que aboga por priorizar
Page 242
sin excepción en la configuración de los algoritmos la protección de sus ocupantes; mientras que en el cuarto apartado (IV) se aborda críticamente la pretensión de zanjar el problema a partir de razonamientos estrictamente utilitaristas. En el quinto apartado (V) se aborda finalmente el problema a partir del aparato conceptual del sistema penal de las causas de justificación. No en vano, la mayoría de los dilemas que protagonizan la discusión ética y jurídica actual presentan marcada relevancia penal. Lo pretendido es ofrecer a los dilemas tratados en la discusión filosófica más reciente soluciones normativamente fundadas27, capaces de ser legitimadas -en primera instancia- frente a la víctima de la decisión, todo ello a partir de los principios de autonomía y solidaridad, como axiomas rectores del sistema penal de causas de justificación. El presente trabajo concluye con un último apartado (VI) dedicado a condensar las principales tesis defendidas en lo que sigue.
En este breve apartado se recogen cinco dilemas que habrán de servir como punto de anclaje para la posterior crítica a las distintas soluciones esbozadas en la doctrina y como piedra de toque de la aproximación teórica al problema aquí defendida.
(1)
Como consecuencia de un imprevisible fallo en el sistema de frenado, un vehículo autopilotado solo puede salvar la vida de su único ocupante invadiendo la acera, donde camina un peatón que, con toda seguridad, morirá como consecuencia del atropello.
(2) Un vehículo autopilotado circula a velocidad adecuada por una vía interurbana cuando, de repente, un grupo de jóvenes mayores de edad (aprox. diez) comienza a cruzar descuidadamente y a gran velocidad la calzada. Para evitar el atropello, el coche
Page 243
modifica rápidamente su dirección, dirigiéndose hacia el arcén. Sin embargo, instantes después los sensores del coche perciben que en el punto del arcén donde previsiblemente impactará contra el guardarraíl circula un anciano ciclista que, con una probabilidad rayana en la certeza, fallecerá en caso de ser atropellado. El...
Para continuar leyendo
Solicita tu prueba