Aprendizaje automático y protección de datos
| Autor | Luis de Salvador Carrasco |
| Páginas | 131-154 |
Aprendizaje automático y protección de datos
L S C
Director de la División de Innovación Tecnológica
de la Agencia Española de Protección de Datos
1. INTRODUCCIÓN
La protección de datos personales es un derecho fundamental que se materializa
en el RGPD y la normativa que la desarrolla. Esta normativa es uno de los pilares que
tienen que garantizar nuestro modelo de sociedad y nuestros derechos y libertades.
En ese marco es el que se tiene que entender las implicaciones que puede tener la
implementación de tratamientos incluyendo tecnologías como, por ejemplo, la Inte-
ligencia Artificial (a partir de ahora IA).
La IA puede utilizar técnicas de desarrollo muy distintas, y con distintas impli-
caciones desde el punto de vista de protección de datos, tanto por su metodología de
diseño como por forma de ser utilizada en un tratamiento. En el caso de este texto,
se va a debatir sobre un tipo particular de IA, que es aquella desarrollada empleando
técnicas de aprendizaje automático o Machine Learning (emplearemos el acrónimo
ML a partir de ahora). Los sistemas de ML pueden ser completamente ajenos a la
normativa de protección de datos, pues hay sistemas de ML que pueden regular, por
ejemplo, procesos industriales donde la interacción con datos personales es nula. La
aplicación de la normativa de protección de datos dependerá de que se cumplan algu-
na de las siguientes cuatro circunstancias.
La primera es que en el desarrollo del modelo de ML se empleen datos persona-
les, tanto para entrenamiento como para las pruebas de verificación y validación. A
ese respecto puede que no se empleen datos personales en la fase de desarrollo inclu-
so cuando el objeto del futuro modelo sea incluirlo en un tratamiento de datos perso-
nales. Entre otros factores, esta circunstancia puede ocurrir porque en desarrollo se
empleen datos anonimizados o datos sintéticos.
La segunda es cuando se traten datos personales en la fase de puesta producción
en el modelo de ML. Mientras que en el caso de modelos de IA distintos de ML pudiera
darse el caso de que se traten datos personales en producción, pero no en desarrollo
(por ejemplo, cuando la IA se construya como un sistema de reglas extraídas del cono-
132 Luis de Salvador Carrasco
cimiento de un conjunto de expertos), será menos frecuente el caso que ocurra la mis-
ma circunstancia en modelos de ML. Por lo tanto, el primer y el segundo caso muchas
veces estará vinculado, con las excepciones señaladas en el párrafo anterior.
La tercera circunstancia que marcaría la aplicabilidad de la normativa de pro-
tección de datos aparecerá cuando el modelo de ML infiere nuevos datos personales
sobre los sujetos y estaría también vinculado con las circunstancias anteriores.
Finalmente, la cuarta surge cuando el modelo de ML se emplea para la toma
de decisiones exclusivamente automatizadas sobre las personas, y que estas decisio-
nes produzcan efectos jurídicos en los interesados, o les afecten significativamente de
modo similar. Además, en esta toma de decisiones se incluye el caso de que el modelo
se emplee para la elaboración de perfiles.
El uso del ML puede ser extremadamente positivo para nuestra sociedad y po-
demos obtener todas las ventajas que el empleo de sistemas de ML en los tratamien-
tos puede conllevar sin tener que asumir recortes en nuestro modelo de derechos y
libertades, consiguiendo todos los beneficios del empleo de ML de forma combinada
con el respeto a la protección de datos, a la privacidad y, en def initiva, a la libertad. El
desarrollo y empleo de sistema de ML es inherentemente compatible con la protec-
ción de datos.
En ese sentido, con el propósito de apoyar el desarrollo de sistemas de ML, y en
particular apoyar a los desarrolladores de nuestro país, en la Agencia Española de
Protección de Datos (AEPD) se ha publicado una multiplicidad de material que se
pone a disposición en la página web de la AEPD, en el apartado de Innovación y Tec-
nología de la pestaña de Áreas de Actuación1. Entre ese material podemos destacar
material específicamente orientado a IA como:
• Mapade referenciapara tratamientosqueincluyen InteligenciaArtificial,
publicado en noviembre de 20222.
• Los 10 Malentendidos sobre el Machine Learning (Aprendizaje
Automático), publicado en septiembre de 2022 en colaboración con el
Supervisor Europeo de Protección de Datos3.
• RequisitosparaAuditoríasdeTratamientosqueincluyanIApublicadoen
enero de 20214.
• AdecuaciónalRGPDdetratamientosqueincorporanInteligenciaArtificial,
publicado en enero de 20205.
1 https://www.aepd.es/es/areas-de-actuacion/innovacion-y-tecnologia
2 https://www.aepd.es/es/node/48950
3 https://www.aepd.es/es/documento/10-malentendidos-machinelearning-es.pdf
4 https://www.aepd.es/media/guias/requisitos-auditorias-tratamientos-incluyan-ia.pdf
5 https://www.aepd.es/media/guias/adecuacion-rgpd-ia.pdf
Para continuar leyendo
Solicita tu prueba