Introducción
| Autor | Antoni Roig |
| Cargo del Autor | Profesor Titular de Derecho Constitucional, Universidad Autónoma de Barcelona, Consultor de Derecho Constitucional en la 'Universitat Oberta' de Cataluña (UOC) |
| Páginas | 17-24 |
17
LAS GARANTÍAS FRENTE A LAS DECISIONES AUTOMATIZADAS
Introducción
Las empresas y los poderes públicos usan cada vez más herramientas de toma de
decisiones basadas en inteligencia artificial1. La Autoridad Catalana de Protección
de Datos ha publicado, recientemente, un interesante Informe que incluye un tra-
bajo de investigación sobre las decisiones automatizadas que afectan actualmente
a las personas en muchos aspectos, como la salud, las resoluciones jurídicas, la
educación, los servicios financieros y bancarios, el comercio, el mercado laboral,
la ciberseguridad, la comunicación y la visión por computadora. La lectura de los
más de cincuenta ejemplos allí descritos permite vislumbrar la relevancia creciente
del objeto del presente estudio2. Así, existen decisiones automatizadas sobre la
concesión de permisos penitenciarios o el riesgo de reincidencia, la asignación de
plazas en centros educativos, la concesión de beneficios sociales, la gestión de
los servicios de transporte en línea, así como la propaganda política durante las
elecciones, la publicidad personalizada, la selección de personal3, la moderación
1 Suele olvidarse el creciente uso de los sistemas automatizados por parte de los poderes públi-
cos. Las políticas sociales pueden beneficiarse de la capacidad que estos sistemas les ofrecen,
aunque, también en este caso, existen riesgos y aspectos a tener en cuenta. Puede verse, al
respecto, Alejandro Noriega-Campero, Bernardo Garcia-Bulle, Luis Fernando Cantu, Michiel
A. Bakker, Luis Tejerina y Alex Pentland (2020), «Algorithmic Targeting of Social Policies: Fair-
ness, Accuracy, and Distributed Governance», FAT* ’20, 27-30 de enero, Barcelona, España,
11 páginas.
2 Autoritat Catalana de Protecció de Dades (enero 2020), Intel·ligència artificial. Decisions Auto-
matitzades a Catalunya, Diari Oficial i de Publicacions, Barcelona, 142 páginas.
3 El portal europeo de búsqueda de trabajo EURES ya suscitó en su momento una Opinión del
Supervisor Europeo en 2014 (Opinión del Supervisor Europeo de Protección de Datos (3 de
abril de 2014) on the Commission Proposal for a Regulation of the European Parliament and
of the Council on a European network of Employment Services, workers’ access to mobility
services and the further integration of labour markets), en la cual manifestaba la conveniencia
de «clarificar el texto del Reglamento sobre la clasificación automática. En cualquier caso, el
Reglamento debería especificar que –a menos que un trabajador escoja hacer visible todo su
CV en la plataforma EURES– los que busquen en el portal no tendrán acceso a los nombres,
CV u otro dato personal directamente identificable de los candidatos, sino únicamente a una
lista con algunos datos codificados obtenidos a partir del CV» [la traducción es nuestra].
Para continuar leyendo
Solicita tu prueba