El impacto de la robótica. La inteligencia artificial y la responsabilidad penal en los robots inteligentes
| Autor | Ignacio Lledó Benito |
| Cargo del Autor | International PhD. Profesor de Derecho penal de la Universidad de Sevilla. Profesor Titular acreditado (ANECA) |
| Páginas | 43-114 |
4.
EL IMPACTO DE LA ROBÓTICA. LA INTELIGENCIA
ARTIFICIAL Y LA RESPONSABILIDAD PENAL EN LOS
ROBOTS INTELIGENTES
4.1 Inteligencia artificial robótica: hacia una nueva revolu-
ción social. Su impacto en el derecho
Cuando hablamos de IA pensamos en Robótica, pese a que una y otra
sean disciplinas distintas, con orígenes distintos, aunque claramente conver-
gentes en el presente y sobre todo en el futuro. Y cuando nos referimos a
la relación entre el Derecho penal y la IA solemos preocuparnos por la res-
puesta del sistema de atribución de responsabilidad penal ante los cursos
causales desviados producidos por máquinas con forma física, generalmente
con gran potencial destructivo, como robots militares o coches de conduc-
ción automática, programadas por humanos y con mayor o menor capaci-
dad de autonomía. Pero nos olvidamos de los otros tipos de máquinas, las
computacionales y de los antecedentes de esa exageración cultural que es
“Skynet”: los algoritmos informáticos realizados a partir de técnicas mate-
máticas de procesamiento de información en que consiste la IA. Y lo cierto
es que tales sistemas también deben ocuparnos y preocuparnos, pues, pese
a no disponer de una forma física concreta, hay muchas formas de IA que
inciden en nuestra vida, determinando algunas de nuestras decisiones y mu-
chas de las que nos afectan en aspectos muy variados, afectando a intereses y
colectivos dignos de protección 59.
59 MIRO LLINARES, F. Op. cit. (Inteligencia artificial y justicia penal: más ala de los re-
sultados lesivos causados por robots), pág. 89.Asimismo, MIRO LLINARES, F. “Sistema penal
entre la inteligencia artificial” en Cibercrimen III Inteligencia artificial, automatización, algo-
ritmos y predicciones en el Derecho penal y procesal penal. DUPUY, D. / CORVALÁN, J.G.
(dirs.) KIEFER, M. coord. Editorial IB de F (Montevideo-Buenos Aires), 2020, pág. 85, conclu-
ye el autor que puede intuirse claramente que esta IA de hoy ya afecta a la justicia penal, y que
por tanto debe interesar al Derecho penal, a la política criminal, al Derecho procesal. Pero
la mera lectura de lo que se anuncia con la IAG o la Superinteligencia nos muestra que la del
44 Ignacio Lledó Benito
Algunos predicen que, con el inicio de la AGI, las máquinas que pue-
dan mejorarse a sí mismas desencadenarían un crecimiento incontrolado
en inteligencia emocional computacional. A menudo llamado “singulari-
dad” tecnológica, o superinteligencia artificial, este futuro implica orde-
nadores cuya capacidad de comprender y manipular el mundo eclipsará
el nuestro, comparable a la brecha de inteligencia entre los seres hu-
manos y, por ejemplo, los insectos. Tales vertiginosas predicciones han
dividido a gran parte de la comunidad intelectual en dos campos: utópi-
cos y distópicos. Los utópicos ven los albores de la AGI, y la consiguien-
te singularidad, como la última frontera de la prosperidad del hombre,
una oportunidad para expandir nuestra propia conciencia y conquistar
la mortalidad. Ray Kurzweil –excéntrico inventor, futurista– concibe un
futuro radical en el que los seres humanos y ls máquinas se habrán fusio-
nado por completo. Predice que subiremos nuestras mentes a la nube y
renovaremos constantemente nuestros cuerpos a través de nanobots in-
teligentes liberados en nuestro torrente sanguíneo. Kurzweil vaticina que
para 2029 tendremos ordenadores con una inteligencia comparables a la
futuro lo hará aún más. La cuestión relevante es de cual debemos ocuparnos con más urgen-
cia. Para hacerlo no podemos obviar la discusión acerca de cómo evolucionará la IA de hoy y
cuando se producirán los avances en el citado continuo, especialmente en relación con dos
aspectos esenciales que van a determinar el alcance potencial de cada IA, de las que ya existen
como de las que se podrían crear virtualmente en el futuro: (1) su capacidad para ejecutar un
mayor o menor abanico de instrucciones, y 2) el grado de autonomía con el que las ejecute
frente a la influencia del ser humano.
Y en esta línea de razonamiento entraría la información automatizada en relación
al uso de la IA y los perfiles de identificación. Y es que como explica CASTELLANOS
CLARAMUNT, J. “La gestión de la información en el paradigma algorítmico: inteligencia
artificial y protección de datos” en Métodos de información 11 (21) epígrafe 3) información
e inteligencia artificial 2020. http://dx.doi.org/10.5557/IIMEI11-N21-059082 Las decisio-
nes basadas únicamente en el tratamiento automatizado representan la capacidad de tomar deci-
siones por medios tecnológicos sin la participación del ser humano (AEPD 2020). El artículo 22.1
RGPD no reconoce el derecho a no ser objeto de una decisión o a la elaboración de un perfil, sino a ba-
sar ambos en un tratamiento automatizado de datos con efectos jurídicos, o por el que el interesado se
vea afectado significativamente. Como ejemplos concretos, el considerado 71 menciona la denegación
automática de una solicitud de crédito en línea o los servicios de contratación en red en los que no
media intervención humana. Los perfiles consisten en un tratamiento de datos personales que evalúe
aspectos de la persona relativos a una persona física, como “abalizar o predecir aspectos relacionados
con el rendimiento en el trabajo, la situación económica, la salud, las preferencias o intereses perso-
nales, la fiabilidad o el comportamiento, la situación o los movimientos del interesado en la medida
que produzcan efectos jurídicos o le afecten significativamente de modo similar”. Por el contrario, se
deben permitir las decisiones basadas en un tratamiento automatizado, incluida la elaboración de
perfiles si lo autoriza el derecho europeo o de los Estados miembros aplicable al responsable del trata-
miento, “incluso con fines de control y prevención de fraude y la evasión fiscal… y para garantizar
la seguridad y fiabilidad de un servicio prestado por el responsable del tratamiento, o necesario para
la conclusión o ejecución de un contrato entre el interesado y un responsable de tratamiento”, o si el
interesado ha consentido para ello.
El derecho penal, robots, IA y cibercriminalidad 45
de los seres humanos (es decir, AGI) y que alcanzaremos la singularidad
hacia 2045 60.
El aprendizaje de las máquinas es la capacidad de estas para aprender,
en lugar de decirles que hacer, y una de las cosas que aprenden a hacer muy
bien es detectar tendencias y patrones a partir de los datos. Estos patrones,
si se basan en series e datos lo suficientemente largas y en datos de suficiente
calidad, pueden usarse para predecir el futuro 61.
Como nos ha recordado BENÍTEZ ORTÚZAR, realmente nos encontra-
mos con algo que actúa de forma similar a como lo que hace la mente huma-
na, en cierto modo “piensa”, pero al mismo tiempo es algo creado por el ser
humano. Ahora bien, si de las actuaciones humanas derivan relaciones jurí-
dicas, de las actuaciones realizadas por el robot, dotado de esos programas
de computación diseñados para realizar determinadas operaciones propias
de la inteligencia humana, como el autoaprendizaje, deberán establecer
también consecuencias jurídicas 62.
Se ha dicho con acierto que la inteligencia artificial llegará a constituir,
más que una nueva y segunda Revolución industrial, una nueva era de la
humanidad: “La importancia de esta segunda revolución industrial para el
desarrollo de la sociedad es de tal magnitud, que incluso se ha hablado del
fin de un gran ciclo cultural. Se ha establecido, por ejemplo, una correla-
ción analógica entre la segunda revolución industrial y la denominada revo-
lución del Neolítico”. La inteligencia artificial, la cibernética y la tecnología
robótica superan claramente en importancia al surgimiento del ordenador
60 KAI-FU LEE. Super tendencias de la inteligencia artificial. China, Silicon Valley y el nuevo
orden mundial. Edit. Deusto (traducción Mercedes Vaquero), 2020, págs. 186 y 187. Y concluye
que, otros pensadores utópicos consideran la AGI como algo que nos permitirá descifrar con
rapidez los misterios del universo físico. El fundador de DeepMind, Demis Hassabis, predice
que la creación de superinteligencia permitirá a la civilización humana resolver problemas
insolubles, alcanzando soluciones inconcebiblemente brillantes al calentamiento global y a
las enfermedades antes incurables. Con ordenadores superinteligentes que entiendan el uni-
verso a unos niveles que los humanos no pueden ni siquiera concebir, estas máquinas se con-
vertirán no solo en herramientas para aligerar las cargas de la humanidad, estarán próximas a
la omnisciencia y la omnipotencia de un Dios.
61 RODRÍGUEZ, P. Inteligencia artificial. Cómo cambiará el mundo y tu vida. Ediciones Deus-
to, 2018, pág. 105.
62 BENÍTEZ ORTÚZAR, I. Op. cit. (Reflexiones sobre la Robótica y el Derecho), pág. 80 es-
pecialmente. Y como dice el autor, por otro lado, podría pensarse que, en última instancia
siempre va a estar dominada por el ser humano, si bien, no debe ignorarse que ésta ya es una
realidad en algunos ámbitos de las relaciones sociales que están generalizados y que se des-
envuelven dentro de un ambiente en el que el riesgo socialmente admitido es muy elevado,
como ocurre, por ejemplo, en el ámbito militar, con la peligrosa posibilidad real de producir
Sistemas de Armas Letales, o, en el ámbito civil, con el mundo de los vehículos autónomos.
Véase también LLEDÓ BENITO, I. El impacto de la Robótica. La inteligencia artificial y la
responsabilidad penal en los robots inteligentes. Foro Gallego, nº 208, enero-diciembre, 2020,
págs 175-177.
Para continuar leyendo
Solicita tu prueba