El deepfake pornográfico: concepto y alcance penal
| Páginas | 115-147 |
| Fecha | 01 Enero 2024 |
| Autor | Marco Teijón Alcalá |
| Materia | Derecho Público y Administrativo |
Anuario Facultad de Derecho - Universidad de Alcalá XVII (2024) 115-147
ISSN: 1888-3214
EL DEEPFAKE PORNOGRÁFICO:
CONCEPTO Y ALCANCE PENAL
THE PORNOGRAPHIC DEEPFAKE:
CONCEPT AND CRIMINAL IMPLICATIONS
MARCO TEIJÓN ALCALÁ
Universidad Nacional de Educación a Distancia
Recibido: 01/10/2024
Aceptado: 08/10/2024
DOI: https://doi.org/10.14679/3901
Resumen: Los deepfakes pornográcos son contenidos audiovisuales falsos generados mediante
Inteligencia Articial. Su alto nivel de realismo y fácil elaboración han situado a
la pornografía infantil en una nueva y preocupante dimensión. Este trabajo ofrece
una aproximación al concepto y fenómeno del deepfake, para, acto seguido, analizar
si la ley penal actual responde de forma adecuada a esta nueva realidad. La pri-
mera conclusión es que, aunque el Código penal vigente dene de forma amplia el
concepto de pornografía infantil, ninguna de sus modalidades (real, técnica y virtual)
abarca toda la casuística deepfake. Para cubrir tal vacío, el Gobierno ha presentado
un Anteproyecto de Ley Orgánica en el que inter alia incluye una reforma penal.
Sin embargo, el tipo penal propuesto revela ciertas deciencias a las que este trabajo
brinda una potencial solución.
Palabras clave: Inteligencia Articial, Deepfake Sexual, Pornografía infantil.
Abstract: Pornographic deepfakes are falsied audiovisual content generated through Articial
Intelligence. Their high level of realism and ease of creation have brought child
pornography into a new and troubling dimension. This paper oers an approximation
to the concept and phenomenon of deepfake, followed by an analysis of whether the
current criminal law adequately addresses this new reality. The rst conclusion is that,
while our Criminal Code in force broadly denes the concept of child pornography,
none of its categories (real, technical, or virtual) fully encompass the deepfake
casuistry. As a result, the Government has introduced a Draft Organic Law, which,
inter alia, includes a criminal law reform. However, the proposed legal framework
reveals certain deciencies to which this work provides a potential solution.
Keywords: Articial Inteligence, Deepfake, Child pornography.
SUMARIO: 1. INTRODUCCIÓN. 2. UN ACERCAMIENTO AL CONCEPTO Y FENÓMENO
DEL DEEPFAKE. 3. PORNOGRAFÍA INFANTIL: CONCEPTO Y MODALI-
DADES TÍPICAS. 4. EL DEEPFAKE COMO PARADIGMA DE PORNOGRAFÍA
VIRTUAL. 5. ASPECTOS MÁS CONTROVERTIDOS DEL CONCEPTO Y RE-
GULACIÓN DE LA PORNOGRAFÍA INFANTIL. 6. EL ANTEPROYECTO DE
LEY ORGÁNICA PARA LA PROTECCIÓN DE LAS PERSONAS MENORES
116 Marco Teijón Alcalá
Anuario Facultad de Derecho - Universidad de Alcalá XVII (2024) 115-147
ISSN: 1888-3214
DE EDAD EN LOS ENTORNOS DIGITALES. 7. CONCLUSIONES 8. BIBLIO-
GRAFÍA.
1. INTRODUCCIÓN
De un tiempo a esta parte, la Inteligencia Artificial (IA) se ha convertido en
una herramienta omnipresente en nuestra sociedad 1. Entre sus innumerables domi-
nios, la denominada IA Generativa (IAG) es la que posiblemente haya alcanzado un
mayor protagonismo. Esta tecnología permite generar contenido audiovisual con tal
nivel de realismo que hace que sea muy complejo diferenciar el producto ficticio
del genuino 2. Ello, aplicado a determinados ámbitos, como el marketing, el cine o la
publicidad, ha supuesto un avance positivo 3. Sin embargo, su potencial uso indebido
también puede representar una seria amenaza para la sociedad 4. Por ejemplo, cuando
se utiliza para crear material audiovisual pornográfico (infantil) falso o simulado 5.
De hecho, existe un amplio consenso en que la IAG ha contribuido decidida-
mente a la ya importante expansión del fenómeno de la pornografía (infantil) docu-
mentada en la primera década del presente siglo como consecuencia de la expansión
de Internet 6. En la actualidad, la irrupción de ciertas aplicaciones desarrolladas a
partir de modelos de IAG, muchas de ellas de acceso libre y fácil utilización, está
permitiendo que cualquier persona, sin conocimiento técnico alguno, pueda crear
fácilmente material audiovisual hiperrealista de naturaleza sexual 7. Es más, en tales
casos, cualquiera puede ser igualmente protagonista involuntario de tal simulación 8.
1 CÁCERES NIETO, Enrique, «La inteligencia artificial aplicada al Derecho como una
nueva rama de la teoría jurídica», Anales de la Cátedra Francisco Suárez, 57, (2023), pp. 63-89.
2 SIMÓ SOLER, Elisa, “Retos jurídicos derivados de la Inteligencia Artificial Generativa:
Deepfakes y violencia contra las mujeres como supuesto de hecho, InDret, 2 (2023), pp. 493-515.
3 SPIVAK, Russell, “‘Deepfakes’: the newest way to commit one of the oldest crimes”,
GEO. L. TECH. REV. 3-2 (2019), pp. 339-400; SIMÓ SOLER, Elisa, “Retos…”, cit.
4 CHIN-YUAN, Yeh, CHEN, Hsi-Wen, TSAI, Shang-Lun, WANG Sheng-De, “Disrupting
image-translation-based deepfake algorithms with adversarial attacks.” Proceedings of the IEEE/
CVF Winter Conference on Applications of Computer Vision Workshops, (2020), pp. 53-62.
5 JAREÑO LEAL, Ángeles, “El derecho a la imagen íntima y el Código penal La
calificación de los casos de elaboración y difusión del deepfake sexual”, RECPC, 26-09 (2024),
pp. 1-37.
6 BAUER BRONSTRUP, Felipe, Los delitos de pornografía infantil como paradigma del
moderno Derecho penal (estudio del artículo 189 CP), [Tesis Doctoral], Universidad de Sevilla,
Sevilla, 2015, pp. 1-415; MORALES PRATS, Fermín, “Pornografía infantil e Internet”, Jornadas
de Responsabilidad Civil y Penal de los Prestadores de Servicios en Internet, Barcelona, (2002),
pp. 1-13; NEGREDO, Laura; HERRERO, Óscar, “Pornografía infantil en internet”, Papeles del
Psicólogo, 37-3 (2016), pp. 217-223; SANZ MULAS, Nieves, “Pornografía en Internet”, Revista
Penal, 23 (2009), pp. 181-202.
7 JAREÑO LEAL, Ángeles, “El derecho…”, cit.; SIMÓ SOLER, Elisa, “Retos…”, cit.
8 GIESEKE, Anne P., “The new weapon of choice”: Law’s current inability to properly
address deepfake pornography”, Vanderbilt Law Review, 73 (2020), pp. 1479-1515.; VALVERDE-
RAMOS, Mishell Sthefanny, ARMIJOS-GONZÁLEZ, Marlon Jeovanny, MARTÍNEZ-PÉREZ,
El deepfake pornográfico: concepto y alcance penal 117
Anuario Facultad de Derecho - Universidad de Alcalá XVII (2024) 115-147
ISSN: 1888-3214
Y es que solo se necesitan imágenes reales perfectamente apropiadas, la mayoría de
las veces disponibles en Internet, para convertirlas en material pornográfico 9.
Este fenómeno tecnológico (pero también ético, legal y cultural) de proyección
emergente ha sido bautizado por la literatura como deepfake sexual o pornográfico 10.
Las herramientas que se necesitan para crear estos deepfakes sexuales son por lo
general gratuitas (o económicas), fácilmente disponibles y ciertamente intuitivas 11.
En algunos casos, vienen incluso acompañadas de instrucciones que guían a los
usuarios durante el proceso de elaboración 12. Por eso, los deepfakes pornográficos
plantean una amenaza creciente con consecuencias devastadoras para las víctimas,
especialmente cuando son menores 13. De esta forma, y por ello, la pornografía infan-
til ha alcanzado una nueva magnitud que está generando una creciente inquietud y
gran preocupación.
Por todo lo expuesto, el objetivo de este trabajo es acercarse en primer lugar al
concepto de deepfake, para, a continuación, y de importancia más sustantiva, ana-
lizar si –y en qué supuestos– los denominados deepfakes sexuales adquieren rele-
vancia penal conforme a nuestro Código penal vigente. Finalmente, se valora si la
propuesta de reforma penal presentada por el Gobierno resuelve las posibles lagunas
de la legislación actual.
2. UN ACERCAMIENTO AL CONCEPTO Y FENÓMENO DEL DEE-
PFAKE
La IA se define generalmente como “una disciplina científica y tecnológica que
busca crear sistemas capaces de resolver tareas que normalmente requieren de inte-
ligencia humana” 14. Ahora bien, más allá de esta aproximación terminológica, no es
posible ofrecer una definición integradora y omnicomprensiva de IA, ya que esta varía
en función del ámbito concreto en el que se aplica y de si adoptamos una concepción
más o menos amplia o restrictiva 15. Por otro lado, como recuerda de forma recurren-
te la literatura, no estamos en realidad ante una tecnología novedosa 16. Ni siquiera el
Odette, “La tipificación del delito Deepfake Pornográfico en Ecuador y la era de la inteligencia
artificial”, MQRInvestigar, 8-2 (2024).
9 SPIVAK, Russell, “‘Deepfakes’…”, cit.
10 SIMÓ SOLER, Elisa, “Retos…”, cit., p. 504.
11 JAREÑO LEAL, Ángeles, “El derecho…”, cit.
12 SPIVAK, Russell, “‘Deepfakes’…”, cit., p. 345.
13 VALVERDE-RAMOS, et al., “La tipificación…”, cit.
14 FRANGANILLO, Jorge, “La inteligencia artificial generativa y su impacto en la
creación de contenidos mediáticos”, methaodos.revista de ciencias sociales, 11-2 (2023), p. 2.
15 BORDIGNON, Fernando; DUGHERA, Lucila, TOLOSA, Gabriel, “IAG y el momento
de las máquinas imperfectas”, Revista Hipertextos, 11-19 (2023), pp. 175-182; PRENDES
ESPINOSA, M. Paz, “La revolución de la Inteligencia Artificial en tiempos de negacionismo
tecnológico”, Revista interuniversitaria en investigación en tecnología educativa, 15 (2023), pp.
1-15.
16 Alan Turing fue el primer autor en acuñar el término IA en su artículo de 1950, Computing
Machinery and Intelligence. Unos años después, en 1956, la conferencia de Dartmouth constituye
Para continuar leyendo
Comienza GratisDesbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.
Desbloquea el acceso completo con una prueba gratuita de 7 días
Transforma tu forma de trabajar con vLex y Vincent
-
Accede a una plataforma jurídica todo en uno, diseñada para abogados que buscan ir un paso por delante.
-
Consulta jurisprudencia, formularios, legislación, prácticos y doctrina de España y más de 100 jurisdicciones en una sola búsqueda.
-
Ahorra tiempo con IA jurídica avanzada: Vincent AI analiza documentos, resume casos y responde tus consultas en lenguaje natural con citas verificadas.
-
Encuentra exactamente lo que necesitas gracias a potentes filtros y funciones de búsqueda inteligente.
-
Actualización constante y fuentes oficiales, para trabajar siempre con información verificada y segura.
-
Utilizada por los principales despachos, instituciones públicas y universidades de referencia.