La inteligencia artificial como instrumento para la comisión de delitos. Especial consideración de la creación de vídeos falsos
| Páginas | 133-173 |
| Autor | Profª Dra. Justa Gómez Navajas |
CAPÍTULO 5
La inteligencia artificial como
instrumento para la comisión de
delitos. Especial consideración de
la creación de vídeos falsos
Profª Dra. Justa Gómez Navajas
Profesora Contratada Doctora.
Universidad de Granada
133
Sumario: I. Consideraciones generales. II. LA inteligencia artificial como herra-
mienta delictiva. 1. La creación de vídeos falsos y simulaciones de voz mediante la
inteligencia artificial: ¿un delito nuevo? 2. Uso de la inteligencia artificial y delitos
contra la intimidad. 3. La creación de vídeos falsos: ¿intromisión en el derecho a
la imagen? 4. Los vídeos falsos como delitos contra el honor. 5. Los vídeos falsos
como delito de injurias leves del art. 173.4 CP. 6. La creación de vídeos falsos y el
delito de lesiones psíquicas (art. 147 CP). 7. Vídeos falsos y el delito de amenazas
(art. 169 CP). 8. Vídeos falsos y el delito de acoso u hostigamiento (art. 172 ter
CP). 9. El delito de suplantación de personalidad (art. 172 ter 5 CP) y la creación
de vídeos falsos. 10. La creación de vídeos falsos y los delitos contra la integridad
moral (art. 173 CP). 11. La creación de vídeos falsos y el delito de pornografía (art.
189 CP). 12. La creación de vídeos para difundir noticias falsas (fake news). III.
Medidas de carácter procesal aplicables a delitos cometidos usando la tecnología.
IV. Propuestas de lege ferenda. V. Conclusiones. Bibliografía.
INTELIGENCIA ARTIFICIAL Y DERECHO PENAL:
DESAFÍOS ÉTICOS, APLICACIONES PRÁCTICAS
Y NUEVOS HORIZONTES EN LA ERA DIGITAL
Antonia Monge Fernández
Carlos Fuertes Iglesias
DIRECTORES
Marta Pardo Miranda
COORDINADORA
134
I. CONSIDERACIONES GENERALES
La inteligencia artificial (IA) se ha convertido desde hace un tiempo en un tema recurren-
te en los medios de comunicación, que interesa y preocupa a partes iguales186. Mediante
su uso, se puede incurrir en conductas delictivas de intrusismo informático (hacking)187,
interceptación ilegítima de comunicaciones entre sistemas de información, facilitación
de herramientas informáticas para la comisión de delitos, descubrimiento y revelación
de secretos, delitos contra la propiedad intelectual y el honor… El objeto de estas pá-
ginas es analizar en qué medida la inteligencia artificial puede vulnerar el derecho a la
intimidad y a la propia imagen mediante conductas como la consistente, por ejemplo, en
crear vídeos falsos (deepfakes)188. Esta actividad, antes laboriosa, se ha visto facilitada
186 V. a este respecto las interesantes y atinadas reflexiones de DE LA CUESTA AGUADO, P., «Inteligen-
cia artificial: reflexiones para inteligencias naturales», en Argumentos progresistas, nº 57, junio-julio,
2024; DE LA CUESTA AGUADO, P., «Inteligencia artificial y responsabilidad penal», en Revista penal
México, Nº. 16-17, 2019-2020, págs. 51-62; MIRÓ LLINARES, F., «Inteligencia artificial y justicia
penal: más allá de los resultados lesivos causados por robots», en Revista de Derecho Penal y Cri-
minología 20(20): 87-130; VERDUGO GUZMÁN, S.I., Ciberespacio, Metaverso y nuevos delitos que
gravitan sobre los derechos humanos, Tirant lo Blanch, Valencia, 2023; PRESNO LINERA, M. Á., «Una
aproximación a la inteligencia artificial y su incidencia en los derechos fundamentales», en https://
idpbarcelona.net/una-aproximacion-a-la-inteligencia-artificial-y-su-incidencia-en-los-derechos-fun-
damentales; PRESNO LINERA, M. Á ., Derechos fundamentales e inteligencia artificial, Marcial Pons,
2023; MUÑOZ VELA, J.M., Retos, riesgos, responsabilidad y regulación de la inteligencia artificial,
Aranzadi; MUÑOZ VELA, J.M., «Inteligencia Artificial y responsabilidad penal», en Derecho Digital e In-
novación. Digital Law and Innovation Review, Nº. 11 (enero-marzo), 2022; MORALES MORENO, Á.Mª.,
«Inteligencia artificial y derecho penal: primeras aproximaciones», en Revista jurídica de Castilla y León,
Nº. 53, 2021, págs. 177-202; HERNÁNDEZ GIMÉNEZ, Mª., «Inteligencia artificial y derecho penal»,
en Actualidad jurídica iberoamericana, Nº. Extra 10, 2, 2019, págs. 792-843; GARCÍA SÁNCHEZ,
B., «La inteligencia artificial y el Derecho penal: Nuevos problemas surgidos en la era digital», en
Aspectos jurídicos de actualidad en el ámbito del Derecho digital, Julia Ropero Carrasco (coord.), 2023,
págs.14-40. ROMEO CASABONA, C. Mª. (coord.)/RUEDA MARTÍN, Mª. Á. (coord.), Derecho penal,
ciberseguridad, ciberdelitos e inteligencia artificial, Comares, 2023; ARELLANO TOLEDO, W., Derecho,
ética e inteligencia artificial, Tirant lo Blanch, Valencia, 2023; MARTÍN LÓPEZ, J., Inteligencia artificial
y comprobación tributaria: transparencia y no discriminación, Aranzadi, 2023, págs.13-105; CORTÉS
ABAD, Ó., La inteligencia artificial en la gestión pública, La Ley, Madrid, 2023, págs.7-132. La sen-
tencia del TJUE de 7 de diciembre de 2023 (ECLI:EU:C:2023:957) fue pionera en inteligencia artificial.
187 PEDREIRA GONZÁLEZ, F. Mª., El delito de hacking, Tirant lo Blanch, Valencia, 2023.
188 MORALES MORENO, Á. Mª., «Inteligencia artificial y Derecho Penal: primeras aproximaciones», en
CAPÍTULO 5
LA INTELIGENCIA ARTIFICIAL COMO INSTRUMENTO PARA
LA COMISIÓN DE DELITOS. ESPECIAL CONSIDERACIÓN
DE LA CREACIÓN DE VÍDEOS FALSOS Profª Dra. Justa Gómez Navajas
135
por las llamadas redes generativas adversariales (generative adversarial networks o GAN,
por sus siglas en inglés).
Existe una Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la in-
teligencia artificial en el Derecho penal y su utilización por las autoridades policiales y
judiciales en asuntos penales (2020/2016(INI))189. Además, el Parlamento Europeo ha
aprobado la Ley de Inteligencia Artificial (Resolución legislativa del Parlamento Europeo
de 13 de marzo de 2024)190. En nuestro país, existe el Real Decreto 817/2023, de 8 de
noviembre, que establece un entorno controlado de pruebas para el ensayo del cumpli-
miento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que
se establecen normas armonizadas en materia de inteligencia artificial191.
Revista jurídica de Castilla y León, Nº. 53, 2021, págs. 177-202; MIRÓ LLINARES, F., «Inteligencia
Artificial y Justicia Penal: más allá de los resultados lesivos causados por robots», Revista de De-
recho Penal y Criminología, núm. 20, julio, 2018, págs. 173-174. Entre los primeros, encontramos
a ROMEO CASABONA, C. Mª., «Riesgo, procedimientos actuariales basados en la inteligencia arti-
ficial y medidas de seguridad», en Revista Penal, núm. 42, julio 2018, pág. 166; MIRÓ LLINARES,
F., «Apuntes sobre la relación entre Derecho Penal e Inteligencia Artificial», en Represión penal y
estado de derecho: homenaje al profesor Gonzalo Quintero Olivares, Aranzadi Thomson Reuters,
2018, págs. 171-187; GONZÁLEZ SAN JUAN, J.L., «Vídeos deepfakes y sus problemas jurídicos»,
en Derecho digital y nuevas tecnologías, María Jesús Blanco Sánchez (coord.), Agustín Madrid
Parra (dir.), Lucía Alvarado Herrera (dir.) y Mercedes Sánchez Ruiz (aut.), 2022, págs. 593-614.
189 El Parlamento Europeo emitió un informe exhaustivo (Tackling deepfakes in European policy. Euro-
pean Parliamentary Research Device, julio 2021) en el que enumera las diferentes categorías de
riesgos asociadas a esta técnica, incluyendo la difamación, la intimidación, el fraude, la manipula-
ción mediática y electoral, el robo de identidad y los daños reputacionales, entre muchas otras.
190 El art. 3.60) Resolución legislativa del Parlamento Europeo, de 13 de marzo de 2024, sobre
la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen
normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se
modifican determinados actos legislativos de la Unión (COM(2021)0206 – C9-0146/2021 –
2021/0106(COD)) define ultrafalsificación como “el contenido de imagen, audio o vídeo genera-
do o manipulado por una IA (inteligencia artificial) que se asemeja a personas, objetos, lugares u
otras entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que
son auténticos o verídicos”. COTINO HUESO, L., «La primera sentencia del Tribunal de Justicia
de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de
datos y el Reglamento de inteligencia artificial», en Diario La Ley, Nº 80, 2024.
191 BOE núm. 268, de 9 de noviembre de 2023, págs.149138 a 149168.
Para continuar leyendo
Comienza GratisDesbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
