Reflexiones sobre la utilización de sistemas de IA para la identificación y protección de mujeres migrantes víctimas de trata de seres humanos
| Autor | Adán Carrizo González-Castell |
| Cargo del Autor | Profesor Contratado Doctor. Universidad de Salamanca |
| Páginas | 37-67 |
37
CAPÍTULO 3.
Reflexiones sobre la utilización de sistemas de IA
para la identificación y protección de mujeres migrantes
víctimas de trata de seres humanos 1
A C G-C
Profesor Contratado Doctor. Universidad de Salamanca
adancgc@usal.es
INTRODUCCIÓN
A pesar de que cada vez son más frecuentes las noticias en los medios de
comunicación en las que los principales impulsores de la IA alertan sobre su uti-
lización, y de que algunos de los nombres más importantes de la tecnología estén
pidiendo que los laboratorios detengan el entrenamiento de los sistemas de IA
más poderosos durante al menos seis meses, alegando riesgos profundos para la
sociedad y la humanidad, lo cierto es que los avances de esta se están demostran-
do imparables y nos obligan a reflexionar sobre la conveniencia o no de su uti-
lización sobre todo en ámbitos especialmente sensibles de la actividad humana;
entre los cuales podríamos encontrar el derecho de acceso a la justicia, cuando de
lo que se trata es de analizar la compatibilidad de dichos sistemas de inteligencia
artificial con los derechos fundamentales y garantías procesales de personas y co-
lectivos de especial vulnerabilidad como podrían ser las mujeres víctimas de trata
de seres humanos en el contexto migratorio.
Muchos de estos expertos, en una carta abierta publicada en la web de la fun-
dación Future of Life, señalaban que la IA avanzada podría representar un cambio
1 El presente trabajo se enmarca dentro de los Proyectos de Investigación titulados Diagnóstico
y evaluación por el Estado español del Pacto Mundial de Migraciones desde una perspectiva de género, con referencia
PID2019-106159RB-100. Entidad financiadora: Agencia Estatal de Investigación, Ministerio de Ciencia e
Innovación, del que es investigadora principal la Dra. Nieves Sanz Mulas, Catedrática de Derecho Penal de
la Universidad de Salamanca, así como del proyecto Agenda 2030 y acceso igualitario a la justicia de personas
vulnerables desde una perspectiva de género (PIC-2022-06). Entidad financiadora: Universidad de Salamanca del
que es investigador principal el Dr. Adán Carrizo González-Castell.
Adán Carrizo González-Castell
38
profundo en la historia de la vida en la Tierra, que debe planificarse y administrar-
se con el cuidado y los recursos adecuados, añadiendo que, desafortunadamente,
esto no se está llevando a cabo. Esta situación preocupa aún más cuando compro-
bamos que, en los últimos meses, los laboratorios de IA se han visto envueltos en
una carrera fuera de control para desarrollar y desplegar mentes digitales cada
vez más poderosas, como el ChatGPT, que nadie, ni siquiera sus creadores, pare-
cen poder entender, predecir o controlar de manera confiable 2.
La invitación a la intervención de los gobiernos, contenida en dicha carta, en
el caso de que esta pausa no sea acordada entre las grandes empresas tecnológi-
cas, ha provocado que se intensifiquen los trabajos legislativos para sacar adelan-
te, en el menor tiempo posible una normativa capaz de regular todas estas cues-
tiones en la Unión Europea y, así, en el mes de junio de 2023 asistíamos a la toma
de posición del Parlamento Europeo sobre la propuesta de Reglamento, elabora-
do por la Comisión, por el que se establecen normas armonizadas en materia de
inteligencia artificial (Ley de Inteligencia Artificial) de 21 de abril de 2021, y en
la que se insiste sobre la necesidad de garantizar que los sistemas de IA utilizados
en la UE, aparte de ser seguros, transparentes, trazables, no discriminatorios y res-
petuosos con el medio ambiente, deban ser supervisados por personas para evitar
resultados perjudiciales 3.
En este sentido, España, adelantándose a lo previsto en este futuro regla-
mento, y en relación con la obligación contenida en el mismo de que los Estados
miembros establezcan una “autoridad nacional” que se encargue de supervisar la
aplicación de la normativa en materia de IA, ha aprobado la creación de la Agen-
cia Española de Supervisión de la Inteligencia Artificial (AESIA), adscrita al Ministerio
de Asuntos Económicos y Transformación Digital a través de la Secretaría de Esta-
do de Digitalización e Inteligencia Artificial, convirtiéndose así en el primer país
europeo en tener un órgano de estas características 4.
2 El contenido completo de dicha carta abierta puede consultarse en https://futureoflife.org/
open-letter/pause-giant-ai-experiments/ Fecha de última consulta: 25 de agosto de 2023.
3 El texto completo de la propuesta de la Comisión COM (2021) 206 final puede consultarse en
https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206 Fecha de última consul-
ta: 25 de agosto de 2023. Sobre este tema puede verse Muñoz y Recla (2023), que destacan que los cambios
introducidos en la última versión se refieren sobre todo a la ampliación del ámbito de aplicación, la intro-
ducción de nuevas definiciones útiles y relevantes, el desarrollo de nuevos principios como la transparencia
y la no discriminación y algunos cambios en la configuración del régimen sancionador.
4 La creación de esta Agencia, ha sido fruto del trabajo conjunto del Ministerio de Hacien-
da y Función Pública y el Ministerio de Asuntos Económicos y Transformación Digital, en el marco de
la Estrategia Nacional de Inteligencia Artificial (ENIA), que tiene como objetivo proporcionar un marco
de referencia para el desarrollo de una Inteligencia Artificial “inclusiva, sostenible y centrada en la ciu-
dadanía”, formando además parte del Plan de Recuperación, Transformación y Resiliencia (PRTR), que pre-
tende situar a España como país puntero en IA. La noticia sobre la aprobación de este Real Decreto por
el Consejo de Ministros, a falta de poder disponer del texto, puede consultarse en https://www.hacien-
da.gob.es/Documentacion/Publico/GabineteMinistro/Notas%20Prensa/2023/CONSEJO-DE-MINIS-
TROS/22-08-23-NP-CM-Estatutos-Agencia-Inteligencia-Artificial.pdf Fecha de última consulta: 25 de agosto
de 2023.
Para continuar leyendo
Solicita tu prueba