La inteligencia artificial y el control de sus posibles sesgos
| Autor | Manuel Villoria Mendieta |
| Páginas | 93-112 |
93
CAPÍTULO 4
LA INTELIGENCIA ARTIFICIAL Y
EL CONTROL DE SUS POSIBLES SESGOS
Agustí Cerrillo i Martínez
Catedrático de Derecho Administrativo
Universitat Oberta de Catalunya
1. ALGORITMOS Y ROBOTS EN LAS ADMINISTRACIONES
PÚBLICAS
Hace unas semanas, los medios de comunicación se hacían eco de que el
Ayuntamiento de Rois, un municipio coruñés de 4 500 habitantes, había puesto
en marcha un proyecto para automatizar algunas tareas, como llenar formu-
larios, transcribir información o cruzar bases de datos, gracias al uso de la
inteligencia artificial. El funcionario-robot, como lo han bautizado algunos
medios, analiza cómo llevan a cabo sus funciones los empleados públicos y
lo replica de manera que agiliza la gestión pública y los libera de aquellas
tareas que pueden ser rutinarias.
Este es un ejemplo de cómo la inteligencia artificial ya se está empezando
a utilizar por las Administraciones públicas y constituye una buena muestra
de cómo puede llegar a transformar el funcionamiento de las Administracio-
nes públicas, tal y como ha destacado, entre otros, la OCDE cuando ha
afirmado que «las Administraciones públicas pueden utilizar –y en muchos
casos ya lo están haciendo– la inteligencia artificial para innovar».
El análisis de los grandes volúmenes de datos (big data) relativos a los
servicios públicos, la actividad en el territorio o la situación de la ciudadanía
ahora, no solo lo realizan los empleados y empleadas públicas, sino también
potentes ordenadores dotados de complejos algoritmos.
En la actualidad, algunas Administraciones públicas utilizan la inteligencia
artificial para la toma de decisiones de calidad basada en el análisis de datos
o la comunicación entre las Administraciones públicas y la ciudadanía a
través de la elaboración de perfiles que permiten la personalización y la
proactividad.
ÉTICA PÚBLICA EN EL SIGLO XXI
94
Gracias a ello, las Administraciones públicas pueden personalizar y pres-
tar proactivamente los servicios públicos. Este es el caso del Ayuntamiento
de Málaga que en 2018 puso en marcha a Victoria la Malagueña, un robot
conversacional o chatbot que informa a los vecinos y vecinas sobre los
aparcamientos públicos, la frecuencia de los autobuses o los equipamientos
de la ciudad y por si fuera poco también cuenta chistes y explica expresiones
típicas de la ciudad. Como el Ayuntamiento de Málaga, otros ayuntamientos
han incorporado a sus páginas web un chatbot con el que responder a las
dudas o las inquietudes de la ciudadanía. Los chatbots son algoritmos que
permiten a los ordenadores emular facultades intelectuales humanas para
realizar tareas propias de las personas como mantener una conversación con
un ser humano. Para ello, entre otras tecnologías, utilizan el procesamiento
del lenguaje natural y mediante algoritmos los ordenadores adquieren la
capacidad de comprender de manera automática el lenguaje humano. En
ocasiones, estos robots conversacionales, no solo aprenden de información
pública o de datos obtenidos de otras fuentes, como artículos de prensa o
artículos científicos, sino también de las dudas que les van planteando los
vecinos y vecinas pudiendo a partir de ellas incorporar nuevas respuestas
para ofrecer en el futuro resultados de mayor calidad.
Algunas Administraciones públicas también usan el análisis de datos a
través de la inteligencia artificial para hacer predicciones. En esta dirección,
por ejemplo, en el municipio de Barcelona los algoritmos se están utilizando
para conocer las necesidades sociales de la población. A través del proyecto
«Big Data Social», el ayuntamiento utiliza y analiza todos los datos, estruc-
turados y no estructurados, que genera la gestión social de la ciudad con el
fin de conocer la realidad social del municipio, identificar necesidades,
determinar los recursos necesarios para hacerles frente, tanto a nivel agregado
como individual, y generar de manera automática alertas que adviertan de la
necesidad de llevar a cabo intervenciones particulares.
Otro de los ámbitos en los que la inteligencia artificial está teniendo
manifestaciones en las Administraciones públicas es en la lucha contra el
fraude y la corrupción. Desde hace años la Agencia Estatal de la Adminis-
tración Tributaria está utilizando potentes algoritmos para analizar los millo-
nes de datos fiscales a fin de detectar bienes y derechos ocultos y rentas no
declaradas o examinar las operaciones internacionales de las multinacionales
para desenmascarar casos de fraude contra las arcas públicas o realizar aná-
lisis de riesgos de fraude. Otro ejemplo a mencionar es el de la Comunitat
Valenciana donde se ha puesto en marcha el sistema de alerta temprana para
detectar irregularidades y casos de corrupción en la Administración pública
y su sector público («Saler» una versión desarrollada del Sistema de Alertas
Para continuar leyendo
Solicita tu prueba