Dossier sobre l'Administració a l'era digital
| Autor | Clara I. Velasco Rico |
| Cargo | Professora agregada (int.) de dret administratiu a la Universitat Pompeu Fabra (UPF) |
| Páginas | 208-230 |
DOSSIER SOBRE L’ADMINISTRACIÓ A L’ERA DIGITAL*
Clara I. Velasco Rico**
Resum
Aquest dossier té per objecte la sistematització de la bibliograa més actualitzada i dels recursos més rellevants sobre
l’impacte de les tecnologies disruptives a l’Administració pública. Reexionar i investigar sobre l’Administració a
l’era digital implica, en primer lloc, tenir una perspectiva general i bàsica sobre el nou paradigma tecnològic, per
desenvolupar, després, una revisió dels principals problemes i reptes als quals s’enfronten les organitzacions i els
servidors públics al segle XXI. En aquest dossier s’han classicat aquests desaaments en vuit eixos temàtics que volen
posar l’accent en els elements més rellevants d’aquesta transició tecnològica.
Paraules clau: administració pública; algoritme; intel·ligència articial; robòtica; societat digital.
DOSSIER ON GOVERNMENT IN THE DIGITAL ERA
Abstract
This dossier aims to systematise the most recent literature and most relevant resources on the impact of disruptive
technologies on public administrations. Reecting upon and investigating what it means to govern in the digital era
implies, rstly, taking a basic, overall look at the new technological paradigm. This will enable us to carry out a review
of the main problems and challenges facing twenty-rst-century public organisations and civil servants. The dossier has
classied these issues into eight central themes, which are intended to highlight the most pertinent aspects of today’s
technological shift.
Key words: Government; algorithm; articial intelligence; robotics; digital society.
* Document tancat el 14.05.2019.
** Clara I. Velasco Rico, professora agregada (int.) de dret administratiu a la Universitat Pompeu Fabra (UPF). Llicenciada i doctora
en dret (UPF) i en ciències polítiques i de l’administració (UOC). Departament de Dret, Edici Roger de Llúria (Campus de la
Ciutadella), c. de Ramon Trias Fargas, 25-27, 08005 Barcelona. clara.velasco@upf.edu, @claravelascoric.
Citació recomanada: Velasco Rico, Clara I. (2019). Dossier sobre l’Administració a l’era digital. Revista Catalana de Dret Públic,
(58), 208-230. https://doi.org/10.2436/rcdp.i58.2019.3328
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 209
Sumari
1 Presentació del recull documental
2 Normativa sobre l’ús de tecnologies disruptives per part de les administracions públiques a l’Estat espanyol
2.1 Lleis en vigor
2.2 Iniciatives parlamentàries
3 Referències bibliogràques
3.1 La transició de l’administració electrònica a l’administració digital
3.2 Referències multidisciplinàries sobre el nou paradigma tecnològic
3.3 Els biaixos en els algoritmes i en les dades massives i la garantia dels drets de les persones
3.4 L’impacte de les tecnologies disruptives en les administracions i en la gestió dels serveis públics
3.5 Retiment de comptes i transparència algorítmica
3.6 Bona administració i noves eines per lluitar contra la corrupció
3.7 Ètica en l’ús dels algoritmes i de la intel·ligència articial
3.8 Cadena de blocs (blockchain) i administracions públiques
3.9 Contractació pública digital
4 Resolucions sobre l’ús d’algoritmes i intel·ligència articial per part dels poders públics
4.1 Catalunya
4.2 França
4.3 Itàlia
4.4 Estats Units
5 Informes, resolucions i documents de treball de diverses institucions
6 Informes i documents de treball de bancs i d’empreses tecnològiques o consultores
7 Miscel·lània de recursos a la xarxa i articles de divulgació
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 210
1 Presentació del recull documental
En l’epíleg de l’obra col·lectiva A las puertas de la administración digital. Una guía detallada para la
aplicación de las Leyes 39/2015 y 40/2015, coordinada per A. Cerrillo i Martínez, s’arma que les nostres
administracions públiques han estat immerses en un procés “d’electronicació” durant les dues darreres
dècades. Aquest procés se centrava especícament en el desplegament de les infraestructures de gestió
administrativa en un entorn virtual, en la posada en marxa de nous canals de comunicació entre l’Administració
i els ciutadans a les xarxes i en la sistematització i reordenació dels processos de presa de decisions, tenint
en compte les noves eines electròniques de gestió i tractament de la informació. Aquell paradigma era
l’anomenada administració electrònica. Responen a aquesta realitat, per exemple, les modicacions de la
Llei 30/1992, de 26 de novembre, de règim jurídic i del procediment administratiu comú, l’aprovació de
la Llei 11/2007, de 22 de juny, d’accés dels ciutadans als serveis públics electrònics, o, a Catalunya, la
promulgació de les lleis 26/2010, de 3 d’agost, de procediment administratiu comú de les administracions
públiques de Catalunya, i 29/2010, de 3 d’agost, d’ús dels mitjans electrònics al sector públic de Catalunya.
Amb aquest procés ni de bon tros conclòs (penseu només, en l’entrada en vigor demorada de determinats
preceptes de la Llei 39/2015, d’1 d’octubre, de procediment administratiu comú, en matèria d’administració
electrònica), en els darrers anys, han emergit tecnologies disruptives que fan envellir les adaptacions per
conformar una administració electrònica. Certament, hem entrat de forma vertiginosa, i amb el peu canviat,
a l’era de la robòtica, dels algoritmes i de la intel·ligència articial, de les dades massives i, també, de les
cadenes de blocs (blockchains).
Mentre els nostres legisladors, governs i administracions públiques malden per complir les exigències pròpies
de l’administració electrònica, de la transparència, del bon govern i del govern obert, a de desplegar-los
denitivament, la tecnologia, de nou, ha sobrepassat el marc normatiu i les previsions organitzatives xades.
Cal afrontar ara el repte de regular noves eines de tractament de la informació i de gestió dels processos de presa
de decisions, eines que també permeten redimensionar l’abast dels drets de les persones, de la participació
ciutadana i del retiment de comptes. Ens referim, entre d’altres, a la generalització de l’ús d’algoritmes i
d’eines d’intel·ligència articial, així com de la robòtica, per part de les administracions públiques. El nou
model d’Administració pública està mancat en l’actualitat d’un marc jurídic adequat, atès que el dret acostuma
a reaccionar tard i a adaptar-se de forma lenta als canvis tecnològics. A més, en vista dels reptes que planteja
aquest nou escenari es fa necessari l’estudi de noves tècniques i procediments reguladors.
Quant als criteris adoptats a l’hora d’elaborar aquest recull sistematitzat de materials sobre l’Administració
a l’era digital, vagi per endavant que s’ha optat, d’una banda, per evitar qualsevol pretensió d’exhaustivitat
(propòsit inassolible per qüestions d’espai i per la gran quantitat d’informació disponible) i, de l’altra, per
intentar aportar recursos rellevants i de qualitat, tant per als neòts en la matèria com per a aquells lectors
que pugin estar més avesats als temes objecte d’anàlisi en aquest monogràc. Per completar l’encàrrec rebut,
és necessari també tenir en compte que la literatura en llengües catalana i castellana en aquesta matèria és
encara escassa i incipient, tot i que existeixen ja obres de referència, i que, per tant, la majoria de les fonts
que s’aporten provenen de l’àmbit anglosaxó (en gran part, dels Estats Units).
Cal emfasitzar, igualment, que la recopilació de materials que aquí es presenta té un marcat caire jurídic. Amb
tot, necessàriament, s’ha de fer referència a materials produïts en altres disciplines de les ciències socials,
com la sociologia i les ciències polítiques i de l’Administració, per tal de copsar amb la major amplitud
possible els reptes que plantegen per a les nostres administracions públiques les eines tecnològiques que
acabem d’esmentar. Així mateix, es fa imprescindible constatar que la nova realitat tecnològica obliga els
juristes, un cop més, a obrir-se al treball multidisciplinari, més enllà de les ciències socials. La col·laboració
dels juristes amb tecnòlegs, enginyers i programadors serà cabdal per al correcte i funcional desplegament
dels sistemes d’intel·ligència articial i dels algoritmes i de les cadenes de blocs per part dels poders públics.
Pel que fa a l’ordre de sistematització que s’ha fet servir en aquest recull, en primer lloc, se citen les escasses
normes que regulen l’actuació administrativa automatitzada i l’ús d’eines algorítmiques a l’Estat espanyol.
En segon lloc, es realitza una selecció bibliogràca que pivota sobre els eixos temàtics que es consideren més
importants. Aquests blocs temàtics han estat els més conreats pels especialistes en la matèria ns a dia d’avui.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 211
La classicació que realitzem de la bibliograa permet ataüllar la magnitud i la complexitat dels reptes que
han d’escometre els poders públics. A parer nostre, aquests temes clau són: la transició de l’administració
electrònica a l’administració digital, la conceptualització multidisciplinària del nou paradigma tecnològic,
els biaixos en els algoritmes i en les dades massives i la garantia dels drets de les persones, l’impacte de les
tecnologies disruptives en les administracions i en la gestió i els serveis públics, el retiment de comptes i la
transparència algorítmica, la bona administració i noves eines tecnològiques en la lluita contra la corrupció,
l’ètica en l’ús dels algoritmes i de la intel·ligència articial, les cadenes de blocs i les administracions
públiques i la contractació pública digital.
En tercer lloc, s’inclou una breu secció en què se citen les principals resolucions i sentències relacionades
amb l’ús d’algoritmes per part dels poders públics, en una perspectiva de dret comparat.
En quart lloc, es recull una selecció d’informes i documents de treball realitzats per diverses organitzacions
internacionals, administracions públiques i d’altres institucions sobre l’ús de la robòtica i la intel·ligència
articial.
Seguidament, com a cinquè element, se sistematitza un conjunt d’informes i documents de treball de bancs,
d’empreses tecnològiques o consultores en l’àmbit de la intel·ligència articial i la robòtica.
En darrer terme, s’arranja un seguit de recursos disponibles en accés lliure a la xarxa sobre els temes objecte
d’estudi en aquest monogràc.
Com a lector apreciarà ràpidament que ha quedat fora d’aquesta recopilació tota la doctrina relativa al dret
a la protecció de dades personals, ja que aquesta qüestió mereix, per si mateixa, un monogràc. Certament,
la literatura sobre el tema actualment és inabastable i incloure un apartat sobre la qüestió en aquest recull en
desvirtuaria el conjunt treball. Tampoc s’han inclòs les nombroses referències doctrinals sobre les anomenades
ciutats intel·ligents i la seva problemàtica regulació jurídica. De nou, la informació sobre aquesta qüestió
disponible desbordaria l’abast d’aquest recull i el faria, crec, menys útil.
Amb referència a l’abast territorial de la recerca dels materials seleccionats, s’ha de reiterar que provenen
majoritàriament dels Estats Units. Aquest fet no respon a la simple voluntat de qui realitza aquest dossier, sinó
que té una explicació lògica. És ben conegut que és als Estats Units on es concentra la indústria tecnològica
més innovadora i on els gegants d’Internet, de les dades massives i de la robòtica tenen les seves seus. A
l’empara de la indústria, dels grups de recerca multidisciplinària i dels partenariats empresa-universitat,
l’acadèmia jurídica ha estat més propera a la nova realitat tecnològica i ha viscut de prop la gènesi de
les tecnologies disruptives. Amb tot, s’ha intentat detectar i sistematitzar normes, informes i sentències
provinents del nostre entorn jurídic més proper, ja sigui de la Unió Europea o dels seus estats membres.
Els documents que aquí es recullen abasten aproximadament la darrera dècada i mitja, tot i que el que més
abunda és material publicat en els darrers cinc anys. Aquest espai temporal es justica per l’acceleració
tecnològica produïda en aquests anys, d’un banda, i, de l’altra, per la voluntat d’oferir al lector els materials
d’interès més actualitzats possibles.
Com ja s’ha manifestat, l’objectiu d’aquest treball és doble: d’una banda, vol facilitar un accés inicial als
lectors que s’atansen al món de les anomenades tecnologies disruptives i com afecten el dret públic i les
nostres administracions i, de l’altra, pretén proporcionar als lectors més familiaritzats amb aquest apassionant
àmbit nous materials de lectura que els permetin avançar en les seves recerques i projectes.
2 Normativa sobre l’ús de tecnologies disruptives per part de les administracions públi-
ques a l’Estat espanyol
A l’Estat espanyol la normativa sobre l’ús de les tecnologies disruptives és inexistent. Només comptem
amb referències a l’actuació administrativa automatitzada, a la protecció de dades de caràcter personal en
l’àmbit digital i a la contractació pública electrònica. Recentment s’ha presentat al Congrés dels Diputats una
proposició no de llei sobre l’ús de les cadenes de blocs a les administracions públiques.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 212
2.1 Lleis en vigor
Llei orgànica de protecció de dades personals i de garantia dels drets digitals. BOE núm. 294, de 6/12/2018.
Llei 40/2015, d’1 d’octubre, de règim jurídic del sector públic. BOE núm. 236, de 2/10/2015. Article. 41.
Actuació administrativa automatitzada.
Llei 9/2017, de 8 de novembre, de contractes del sector públic, per la qual es transposen a l’ordenament
jurídic espanyol les directives del Parlament Europeu i del Consell 2014/23/UE i 2014/24/UE, de 26 de
febrer de 2014. BOE núm. 272, de 9/11/2017.
2.2 Iniciatives parlamentàries
Grup parlamentari popular. Congrés dels Diputats. Proposición no de Ley sobre la introducción de tecnología
Blockchain en la Administración Pública en España, para su debate en Comisión de Economía y Empresa.
BOCG. Serie D. Núm. 382. 3/07/2018. p. 62 i seg.
3 Referències bibliogràques
3.1 La transició de l’administració electrònica a l’administració digital
En aquest apartat recollim treballs innovadors en matèria d’administració electrònica, d’actuació
administrativa automatitzada, així com de l’impacte de la tecnologia en els drets de les persones, atesa la
prospecció que realitzen els autors sobre problemàtiques emergents. També compilem alguns dels estudis
relatius als canvis produïts per l’aprovació de les lleis 39/2015 i 40/2015, ja que molts d’aquests treballs
apunten de manera crítica que les normes bàsiques estatals de procediment administratiu i règim jurídic
del sector públic han estat aprovades sense tenir en compte els nous paràmetres tecnològics i que, per tant,
pateixen, des que es van promulgar, d’una certa obsolescència. Alguns dels autors citats ja albiren els reptes
que hauran d’enfrontar les nostres administracions en temps no gaire llunyans.
Alamillo Domingo, Ignacio i Urios Aparisi, F. Xavier. (2011). La actuación administrativa automatizada en
el ámbito de las Administraciones Públicas. Análisis jurídico y metodológico para la construcción y
la explotación de trámites automáticos. Barcelona: EAPC.
Alamillo Domingo, Ignacio. (2017). La regulación de la tecnología: La superación del modelo papel como
elemento de transformación digital innovadora. Dins Isaac Martín Delgado (ed.), La reforma de la
administración electrónica: una oportunidad para la innovación desde el derecho (p. 79-130). Madrid
Instituto Nacional de Administración Pública.
Boix Palop, Andrés, i Cotino Hueso, Lorenzo (coord.). (2019). Revista General de Derecho Administrativo, (50).
Cerrillo i Martínez, Agustí (coord.). (2016). A las puertas de la administración digital. Una guía detallada
para aplicación de las Leyes 39/2015 y 40/2015. Madrid: Instituto Nacional de Administración Pública.
Campos Acuña, Concepción (dir.). (2017). Comentarios a la Ley 39/2015 de Procedimiento Administrativo
común de las administraciones públicas. Madrid: Wolters Kluwer.
Campos Acuña, Concepción (dir.). (2017). Comentarios a la Ley 40/2015 de Régimen Jurídico del Sector
Público. Madrid: Wolters Kluwer.
Fernández Ramos, Severiano, Valero Torrijos, Julián i Gamero Casado, Eduardo (dir.). (2017). Tratado de
Procedimiento Administrativo Común y Régimen Jurídico del Sector Público. Valencia: Tirant lo
Blanch.
Gamero Casado, Eduardo. (2016). Panorámica de la Administración electrónica en la nueva legislación
administrativa básica. Revista Española de Derecho Administrativo, (175), 15-27.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 213
Gómez Puente, Marcos. (2019). La Administración electrónica. El procedimiento administrativo digital.
Cizur Menor: Aranzadi.
Martín Delgado, Isaac. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa
automatizada. Revista de Administración Pública, (180), 353-386.
Martín Delgado, Isaac. (dir.). (2017). La reforma de la Administración Electrónica. Una oportunidad para
la innovación desde el Derecho. Madrid: Instituto Nacional de Administración Pública.
Martínez, Ricard (ed. lit.). (2012). Derecho y cloud computing. Cizur Menor: Thomson Reuters Aranzadi.
Tarrés Vives, Marc. (2012). Actuación administrativa automatizada. Dins Joaquim Tornos i Mas (ed.),
Comentarios a la Ley 26/2010, del 3 de agosto, de régimen jurídico y de procedimiento de las
administraciones públicas de Cataluña (p. 447-466). Madrid: Iustel.
Valero Torrijos, Julián. (2013). La protección de datos personales en internet ante la innovación tecnológica:
riesgos, amenazas y respuestas desde la perspectiva jurídica. Cizur Menor: Thomson Reuters Aranzadi.
Valero Torrijos, Julián. (2013). Derecho, innovación y administración electrónica. Sevilla: Global Law Press.
Velasco Rico, Clara Isabel. (2017). Novedades en materia de administración electrónica. Dins Clara Isabel
Velasco Rico (dir.), Reexiones sobre la reforma administrativa de 2015. Análisis crítico de las Leyes
de Procedimiento Administrativo Común y de Régimen Jurídico del Sector Público (p. 125-156).
Madrid, Barcelona, Buenos Aires: Marcial Pons.
3.2 Referències multidisciplinàries sobre el nou paradigma tecnològic
En aquest apartat recopilem textos bàsics de referència sobre l’emergència i posada en marxa de les
tecnologies que ja marquen i continuaran marcant molts àmbits de les nostres vides en els propers anys.
Armstrong, Stuart, Sotala, Kaj, i ÓhÉigeartaigh, Séan. S. (2014). The errors, insights and lessons of famous
AI predictions–and what they mean for the future. Journal of Experimental & Theoretical Articial
Intelligence, 26(3), 317-342.
Ashley, Kevin D. (2017). Articial intelligence and legal analytics: new tools for law practice in the digital
age. Cambridge: Cambridge University Press.
Asís Roig, Rafael de. (2018). Robótica, inteligencia articial y derecho. Revista de Privacidad y Derecho
Digital, 3(10), 27-77.
Asís Roig, Rafael de. (2014). Una mirada a la robótica desde los derechos humanos. Madrid: Dykinson.
Barrientos, Antonio, Peñín, Luis. F., Balaguer, Carlos i Aracil, Rafael. (2009). Fundamentos de robótica (2a
ed.). Madrid: McGraw-Hill.
Barrio Andrés, Moisés (dir.). (2018). Derecho de los robots. Madrid: Wolters Kluwer.
Balkin, Jack. B. (2015). The Path of Robotics Law. California Law Review Circuit, 6, 45-60.
Benítez, Raúl, Escudero, Gerard, Kanaan, Samir i Masip Rodó, David. (2013). Inteligencia articial
avanzada. Barcelona: EdiUOC.
Boden, Margaret, Bryson, Joanna, Caldwell, Darwin, Dautenhahn, Kerstin, Edwards, Lilian, Kember, Sarah,
Newman, Paul, Parry, Vivienne, Pegman, Geoff, Rodden, Tom, Sorrell, Tom, Wallis, Mick, Whitby,
Blay i Wineld, Alan. (2017). Principles of robotics: regulating robots in the real world. Connection
Science, 29(2), 124-129.
Broussard, Meredith. (2018). Articial Unintelligence. How computers misunderstand the world. Cambridge,
MA: The MIT Press.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 214
Burrell, Jenna. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms.
Big Data & Society, 3(1), 1-12.
Calo, Ryan. (2015). Robotics and the Lessons of Cyberlaw. California Law Review, 103, 513-563.
Calo, Ryan. (2016). Robots as legal metaphors. Harvard Journal of Law & Technology, 30(1).
Cardon, Dominique. (2018). Le pouvoir des algorithmes. Pouvoirs, 164(1), 63-73.
Casanovas, Pompeu i Bourcier, Danièle. (2003). Inteligencia artical y derecho. Barcelona: EdiUOC.
Casey, Bryan i Lemley, Mark A. (2019). You Might Be a Robot. Cornell Law Review.
Cath, Corinne, Wachter, Sandra, Mittelstadt, Brent, Taddeo, Mariarosaria i Floridi, Luciano. (2018). Articial
Intelligence and the ‘Good Society’: the US, EU, and UK approach. Science and Engineering Ethics,
24(2), 505-528.
Cotino Hueso, Lorenzo. (2019). Riesgos e impactos del big data, la inteligencia articial y la robótica y enfoques,
modelos y principios de la respuesta del Derecho. Revista General de Derecho Administrativo, (50).
Daly, S., Angela, Devitt, Kate i Mann, Monique (ed.). (2019). Good data. Amsterdam: Institute of Network
Cultures.
De Filipi, Primavera. (2018). Blockchain and the Law: The Rule of Code. Cambridge: Harvard University
Press.
Domingos, Pedro. (2015). The Master Algorithm: How the quest for the ultimate machine learning will
remake our world. Nova York: Basicbooks.
Etzioni, Amitai i Etzioni, Oren. (2016). Keeping AI legal. Vanderbilt Journal of Entertainment & Technology
Law, 19(1), 133-146.
García-Prieto Cuesta, Juan. (2018). ¿Qué es un robot? Dins Moisés Barrio Andrés (ed.), Derecho de los
robots (p. 25-60). Madrid: La Ley-Wolters Kluwer.
Guihot, Michael, Matthew, Anne F. i Suzor, Nicolas. (2017). Nudging Robots: Innovative Solutions to
Regulate Articial Intelligence. Vanderbilt Journal of Entertainment & Technology Law, 20(2), 385-
456.
Harari, Yuval N. (2018). 21 lecciones para el siglo XXI. Madrid. Debate.
Hildebrandt, Mireille. (2015). Smart Technologies and the End(s) of Law. Cheltenham: Edward Elgar.
Hill, Robin K. (2016). What an algorithm is. Philosophy & Technology, 29(1), 35-59.
Holder, Chris, Khurana, Vikram, Harrison, Faye i Jacobs, Louisa. (2016). Robotics and law: Key legal and
regulatory implications of the robotics age (Part I of II). Computer Law & Security Review, 32(3),
383-402.
Kaplan, Jerry. (2017). Inteligencia articial. Lo que todo el mundo debe saber. Zaragoza: Teell.
Kerikmäe, Tanel i Rull, Addi (ed.). (2016). The Future of Law and eTechnologies. Cham: Springer.
Leenes, Ronald i Lucivero, Federica. (2014). Laws on Robots, Laws by Robots, Laws in Robots: Regulating
Robot Behaviour by Design. Law, Innovation and Technology, 6(2), 194-222.
Lehr, David i Ohm, Paul. (2017). Playing with the Data: What Legal Scholars Should Learn About Machine
Learning. University of California Davies Law Review, 51, 653-716.
Maclure, Jocelyn i Saint-Pierre, Marie-Noëlle. (2018). Le nouvel âge de l’intelligence articielle: une
synthèse des enjeux éthiques. Les Cahiers de Propriété Intellectuelle, 30(3), 741-766.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 215
Mayer-Schönberger, Vikto i Cukier, Kenneth. (2013). Big data. La revolución de los datos masivos. Madrid:
Turner.
Mercader Uguina, Jesús R. (2017). El futuro del trabajo en la era de la digitalización y la robótica. València:
Tirant lo Blanch.
Müller, Vincent. C. i Bostrom, Nick. (2016). Future progress in articial intelligence: A survey of expert
opinion. Dins Vincent C. Müller (ed.), Fundamental issues of articial intelligence (p. 555-572).
Berlín: Springer.
Navas Navarro, Susana (ed.). (2017). Inteligencia articial. Tecnología Derecho. València: Tirant lo Blanch.
Nilsson, Nils. J. (2010). The Quest for Articial Intelligence. Nova York: Cambridge University Press.
O’Neil, Cathy. (2016). Weapons of math destruction. Danvers: The Crown Publishing Books.
Pagallo, Ugo. (2013). The Law of Robots: Crimes, Contracts and Tort. Berlín: Springer.
Pasquale, Frank. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information.
Cambridge, MA: Harvard University Press.
Petit, Nicolas (2017). Law and Regulation of Articial Intelligence and Robots - Conceptual Framework and
Normative Implications. SSRN Working Paper.
Piñar Mañas, José Luís i De la Quadra-Salcedo, Tomás (dir.). (2018). Sociedad Digital y Derecho. Madrid:
Ministerio de Industria, Comercio y Turismo.
Rifkin, Jeremy. (2011). La Tercera Revolución Industrial. Madrid: Paidós.
Rodríguez, Pablo. (2018). Inteligencia articial. Cómo cambiará el mundo (y tu vida). Bilbao: Deusto.
Rogge, Nicky, Agasisti, Tommaso i De Witte, Kristof. (2017). Big data and the measurement of public
organizations’ performance and efciency: The state-of-the-art. Public Policy and Administration,
32(4), 263-281.
Salkin, Ceren, Oner, Mahir, Ustundag, Alp i Cevikcan, Emre. (2017). A Conceptual Framework for Industry
4.0. Dins Alp Ustundag i Emre Cevikcan (ed.), Industry 4.0: Managing The Digital Transformation
(p. 3-23). Berlín: Springer.
Schwab, Klaus. (2016). La cuarta revolución industrial. Madrid: Debate.
Scherer, Matthew U. (2016). Regulating articial intelligence systems: Risks, challenges, competencies, and
strategies. Harvard Journal of Law & Technology, 29(2), 353-400.
Simoens, Pieter i Mauro Dragone, Alessandro Safotti. (2018). The Internet of Robotic Things. A review
of concept, added value and applications. International Journal of Advanced Robotic Systems, 15(1).
Swan, Melanie. (2015). Blockchain. Blueprint for a New Economy. Sebastopol, CA: O’Reilly.
Tapscott, Don i Tapscott, Alex. (2016). Blockchain Revolution. Londres: Penguin. 2016.
Thierer, Adam i Castillo, Andrea. (2016). Preparing for the Future of Articial Intelligence. Arlington, VA:
Mercatus Center at George Mason University, Arlington.
Turner, Jacob. (2019). Robot Rules. Regulating Articial Inteligence. Cham: Palgrave Macmillian.
Vida Fernández, José. (2018). Los retos de la regulación de la inteligencia articial: algunas aportaciones
desde la perspectiva europea. Dins Tomás de la Quadra i J.L. Piñar (dir.), Sociedad digital y Derecho
(p. 203-225). Madrid: BOE-Red.es.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 216
3.3 Els biaixos en els algoritmes i en les dades massives i la garantia dels drets de les persones
En aquest apartat recollim literatura jurídica i de gestió pública sobre un dels aspectes més problemàtics de
l’ús de les dades massives i dels algoritmes com és la reproducció (ns i tot augmentada) de biaixos quan
es recullen, es tracten i es llegeixen les dades massives, així com dels remeis per garantir els drets de les
persones en aquest nou entorn digital.
Arntz, Melanie, Gregory, Terry i Zierahn, Ulrich. (2017). Revisiting the risk of automation. Economics
Letters, 159, 157-160.
Barocas, Solon i Selbst, Andrew D. (2016). Big data’s disparate impact. California Law Review, 104, 671-732.
Brito Izquierdo, Noemí. (2017). Acceso, privacidad y ética pública en la era del big data. Dins Pablo Díaz
(coord.), Goberna Escuela de Política y Alto Gobierno del Instituto Universitario de Investigación
Ortega y Gasset, Manual sobre utilidades del big data para bienes públicos (p. 81-100). Madrid:
Entinema.
Calders, Toon i Verwer, Sicco. (2010). Three naive Bayes approaches for discrimination-free classication.
Data Mining and Knowledge Discovery, 21(2), 277-292.
Kuner, Christopher, Svateson, Dan Jerker B, Fred H.K, Cate, Lynskey, Orla i Millard, Christopher. (2017).
Machine Learning with Personal Data: Is Data Protection Law Smart Enough to Meet the Challenge?
International Data Privacy Law, 7(1), 1-2.
Cerrillo i Martínez, Agustí. (2018). Datos masivos y datos abiertos para una gobernanza inteligente. El
Profesional de la Información, 27(5), 1128-1135.
Citron, Danielle Keats. (2008). Technological due process. Washington University Law Review, 85, 1249-1313.
Citron, Danielle Keats i Pasquale, Frank. (2014). The scored society: due process for automated predictions.
Washington Law Review, 89, 1-33.
Coppolani, Pascal. (2017). Le décret n° 2017–330 du 14 mars 2017 relatif aux droits des personnes faisant
l’objet de décicions individuelles prises sur le fondement d’un traitement algorithmique: vers un
victoire à la pyrrhus?. I2D – Information, données & documents, 54(4), 16-21.
Cotino Hueso, Lorenzo. (2015). Algunas cuestiones clave de protección de datos en la nube. Hacia una
‘regulación nebulosa’. Revista Catalana de Dret Públic, (51), 85-103.
Cotino Hueso, Lorenzo. (2017). Big data e inteligencia articial. Una aproximación a su tratamiento jurídico
desde los derechos fundamentales. Dilemata. Revista Internacional de Éticas Aplicadas, 24, 131-150.
Crawford, Kate i Schultz, Jason. (2014). Big data and due process: Toward a framework to redress predictive
privacy harms. Boston College Law Review, 55, 93-128.
De Filippi, Primavera. (2016). Gouvernance algorithmnique: vie privée et autonomie individuelle à l’ère des
Big Data. Dins Danièle Bourcier i Primavera De Filippi, Open data & Big data. Nouveaux dés pour
la vie privée (p. 122-124). París: Mare & Martin.
Doménech Pascual, Gabriel. (2006). Derechos fundamentales y riesgos tecnológicos. El derecho del ciudadano
a ser protegido por los poderes públicos. Madrid: Centro de Estudios Políticos y Constitucionales.
Gil González, Elena. (2017). Aproximación al estudio de las decisiones automatizadas en el seno del
Reglamento General Europeo de Protección de Datos a la luz de las tecnologías big data y de
aprendizaje computacional. Revista Española de la Transparencia, 5, 165-179.
Hoffmann-Riem, Wolfgang. (2018). Big Data. Desafíos también para el Derecho. Cizur Menor: Civitas.
Joh, Elizabeth E. (2016). The New Surveillance Discretion: Automated Suspicion, Big Data, and Policing.
Harvard Law & Policy Review, 10, 15-42.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 217
Kamarinou, Dimitra, Millard, Christopher i Singh, Jatinder. (2016). Machine learning with personal data.
Queen Mary School of Law Legal Studies Research Paper, 247, 1-23.
Kleinberg, John, Ludwig, Jens, Mullainathan, Sendhil i Sunstein, Cass. R. (2019). Discrimination In The
Age Of Algorithms. NBER Working Paper, 25548, 1-45.
Mantelero, Alessando. (2018). AI and Big Data: A Blueprint for a Human Rights, Social and Ethical Impact
Assessment. Computer Law & Security Review, 4(34), 754-772.
Mantelero, Alessandro. (2018). Ciudadanía y gobernanza digital. Entre política, ética y Derecho. Dins Tomás
de la Quadra y José Luis Piñar (dir.), Sociedad digital y Derecho (p. 159-178). Madrid: BOE-Red.es.
Mancosu, Giorgio. (2018). Les algorithmes publics déterministes au prisme du cas italien de la mobilité des
enseignants. Revue Générale du Droit on line, 29646.
Martínez Martínez, Ricard. (2018). Inteligencia articial, Derecho y derechos fundamentales. Dins Tomás
de la Quadra i José Luís Piñar (dirs.), Sociedad digital y Derecho (p. 259-278). Madrid: BOE-Red.es.
Nersessian, David. (2018). The law and ethics of big data analytics: A new role for international human rights
in the search for global standards. Business Horizons, 61(6), 845-854.
Nissenbaum, Helen. (2018). Respecting Context to Protect Privacy: Why Meaning Matters. Science and
Engineering Ethics, 24(3), 831-852.
Ponce Solé, Juli. (2019). Inteligencia articial, Derecho administrativo y reserva de humanidad: algoritmos
y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo, (50).
Sánchez Barrilao, Juan Francisco. (2016). El Derecho constitucional ante la era de Ultrón: la informática y la
inteligencia articial como objeto constitucional. Estudios de Deusto, 64(2), 225-258.
Tene, Omer, i Polonetsnky, Jules. (2013). Theory of Creepy: Technology, Privacy, and Shifting Social Norms.
Yale J. of Law & Technology, 16, 59-102.
Tene, Omer, i Polonetsky, Jules. (2013). Big Data for All: Privacy and User Control in the Age of Analytics.
Nw. J. Tech. & Intell. Prop, 11, 239-273.
Valero Torrijos, Julián. (2018). La necesaria reconguración de las garantías jurídicas en el contexto de la
transformación digital del sector público. Dins Tomás de la Quadra i José Luis Piñar (dir.), Sociedad
digital y Derecho (375-396). Madrid: BOE-Red.es.
Wachter, Sandra. (2018). Normative Challenges of Identication in the Internet of Things: Privacy, Proling,
Discrimination, and the GDPR. Computer Law & Security Review, 34(3), 436-449.
Wachter, Sandra, Mittelstadt, Brent i Floridi, Luciano. (2017). Why a right to explanation of automated
decision-making does not exist in the general data protection regulation. International Data Privacy
Law, 7(2), 76-99.
3.4 L’impacte de les tecnologies disruptives en les administracions i en la gestió dels serveis
públics
Dins d’aquest epígraf es recopilen les obres i els articles que tracten de l’impacte de les tecnologies disruptives
a l’Adminsitració des de diversos punts de vista, tant respecte a l’exercici del poder administratiu com
respecte a l’organització administrativa, i també respecte a la innovació en la prestació dels serveis públics.
Al-Sai, Zahe Alí i Abualigah, Laith Mohammad. (2017). Big data and E-government: A review [Comunicació
presentada a The Information Technology (ICIT), 2017 8th International Conference].
Aneesh, Aneesh. (2016). Technologically coded authority: The post-industrial decline in bureaucratic
hierarchies. Stanford: Stanford University.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 218
Aoun, Joseph, E. (2017). Robot-Proof: Higher Education in the Age of Articial Intelligence. Londres: MIT
Press.
ArroyoYanes, Luis Miguel. (2018). La digitalización de las Administraciones Públicas y su impacto sobre el
régimen jurídico de los empleados públicos. Revista Vasca de Gestión de Personas y Organizaciones
Públicas, 15, 82-99.
Auby, Jean-Bernard. (2018a). Contrôle de la puissance publique et gouvernance par algorithme. Dins
Diana-Urania Galetta i Jacques Ziller (ed.), Das öffentliche Recht vor den Herausforderungen der
Informations-und Kommunikationstechnologien jenseits des Datenschutzes / Information and
Communication Technologies Challenging Public Law, Beyond Data Protection| Le droit public au
dé des technologies de l’information et de la communication, au-delà de la protection des donnés (p.
153-166). Baden-Baden: Nomos Verlagsgesellschaft mbH & Co. KG.
Auby, Jean-Bernard. (2018b). Le droit administratif face aux dés du numérique. L’actualité Juridique Droit
Administratif, 15, 835-844.
Ávila, Enrique. (2017). Ciberseguridad y big data. Dins Pablo Díaz (coord.), Goberna Escuela de Política y
Alto Gobierno del Instituto Universitario de Investigación Ortega y Gasset, Manual sobre utilidades
del big data para bienes públicos (p. 101-106). Madrid: Edimema.
Barth, Thomas J. i Arnold, Eddy. (1999). Articial Intelligence and Administrative Discretion: Implications
for Public Administration. The American Review of Public Administration, 29(4), 332-351.
Barocas, Solon, Hood, Sophie i Ziewitz, Malte. (2013). Governing algorithms: A provocation piece
[Comunicació presentada a Governing Algorithms, Nova York].
Berggruen, Nicolas i Gardels, Nathan. (2012). Gobernanza inteligente para el siglo XXI. Madrid: Taurus.
Bertot, John, Estevez, Elsa i Janowski, Tomasz. (2016). Universal and contextualized public services: Digital
public service innovation framework. Government Information Quarterly, 33(2), 211-222.
Calo, Ryan. (2017). Articial Intelligence policy: a primer and roadmap. UCDL Rev., 51, 399-435.
Camacho-Collados, M. i Liberatore, F. (2015). A Decision Support System for predictive police patrolling.
Decision Support Systems, 75, 25-37. https://doi.org/10.1016/j.dss.2015.04.012
Cerrillo i Martínez, Agustí. (2019). El impacto de la inteligencia articial en el Derecho administrativo ¿Nuevos
conceptos para nuevas realidades técnicas?. Revista General de Derecho Administrativo, (50).
Cerrillo i Martínez, Agustí i Velasco Rico, Clara Isabel. (2019). Jurisdicción, algoritmos e inteligencia
articial [Comunicació presentada al XIV Congreso de la Asociación Española de profesores de
Derecho Administrativo].
Chegus, Mathew. (2018). Big Data and Analytics in Government Organizations. A Knowledge-Based
Perspective. Dins Gregory Richards (ed.), Big Data and Analytics Applications in Government.
Current Practices and Future Opportunities (p. 3-25). Boca Raton: CRD Press.
Coglianese, Cary i Lehr, David. (2017). Regulating by Robot: Administrative Decision Making in the
Machine-Learning Era. The Georgetown Law Journal, 105, 1147-1223.
Crawford, Kate. (2013). The Hidden Biases in Big Data. Harvard Bussiness Review, abril 2013.
Danaher, John, Hogan, Michael J, Noone, Chris, Kennedy, Rónán, Behan, Anthony, De Paor, Aisling i
Morison, John. (2017). Algorithmic governance: Developing a research agenda through the power of
collective intelligence. Big Data & Society, 4(2).
Danaher, John. (2016). The threat of algocracy: Reality, resistance and accommodation. Philosophy &
Technology, 29(3), 245-268.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 219
De Laat, Paul B. (2018). Algorithmic Decision-Making Based on Machine Learning from Big Data: Can
Transparency Restore Accountability?. Philosophy & Technology, 31(4), 525-541.
Delacroix, Sylvie. (2019). Beware of ‘algorithmic regulation’. SSRN.
Desouza, Kevin C. i Jacob, Benoy. (2017). Big Data in the Public Sector: Lessons for Practitioners and
Scholars. Administration & Society, 49(7).
Dhami, Sanjit, al-Nowaihi, Ali i Sunstein, Cass R. (2018). Heuristics and Public Policy: Decision Making
Under Bounded Rationality. Harvard Public Law Working Paper, (19-04), 1-83.
Díaz, Pablo, Goberna América Latina i Escuela de Política y Alto Gobierno. Instituto Universitario de
Investigación Ortega y Gasset. (2017). Manual sobre utilidades del Big Data para bienes públicos.
Madrid: Edimema.
Doneda, Danilo i Almeida, Virgilio. (2016). What Is Algorithm Governance?. IEEE Internet Computing,
20(4), 60-63.
Dull, Tamara. (2017). Big data para bienes públicos. El sector público frente a la revolución de datos. Dins
Pablo Díaz (coord.), Goberna Escuela de Política y Alto Gobierno del Instituto Universitario de
Investigación Ortega y Gasset, Manual sobre utilidades del big data para bienes públicos (p. 9-14).
Madrid: Edimema.
Eggers, William D., Schatsky, David i Viechnicki, Peter. (2018). AI-augmented government. Using cognitive
technologies to redesign public sector work. Bratislava: Deloitte University Press.
Eggers, William. D. i Hurst, Steve. (2017). Delivering the digital state. What if state government services
worked like Amazon?. Bratislava: Deloitte Insights.
Engin, Zeynep i Treleaven, Philip. (2019). Algorithmic Government: Automating Public Services and
Supporting Civil Servants in using Data Science Technologies. The Computer Journal, 62(3), 448–460.
Gamage, Pandula. (2016). New development: Leveraging ‘big data’ analytics in the public sector. Public
Money & Management, 36(5), 385-390.
Garrido Juncal, Andrea. (2018). “Big data” y administración pública. Dins Marcos R. Torres Carlos, Andrea
Garrido Juncal, José María Miranda Boto, César García Novoa (dir.) i Diana Santiago Iglesias (dir.),
4ª Revolución industrial: impacto de la automatización y la inteligencia articial en la sociedad y la
economía digital (p. 461-476). Cizur Menor: Thomson Reuters Aranzadi.
González Yanes, Jesús Alberto. (2017). El reto big data para la estadística pública. Dins Pablo Díaz (coord.),
Goberna Escuela de Política y Alto Gobierno del Instituto Universitario de Investigación Ortega y
Gasset, Manual sobre utilidades del big data para bienes públicos (p. 59-79). Madrid: Edimema.
Gustavo Corbalán, Juan. (2017). Administración Pública digital e inteligente. Transformaciones en la era de
la inteligencia articial. Revista de Direito Econômico e Socioambiental, 8(2), 26-66.
Hassan, Samer i Filippi, Primavera De. (2017). The Expansion of Algorithmic Governance: From Code is
Law to Law is Code. Field Actions Science Reports, (17), 89-90.
Hildebrandt, Mireille. (2016). Law as Information in the Era of Data-Driven Agency. Modern Law Review,
79(1), 1-30.
Ingrams, Alex. (2018). Public Values in the Age of Big Data: A Public Information Perspective. Policy &
Internet, 9999, 1-21.
Janssen, Marijn i Kuk, George. (2016). The challenges and limits of big data algorithms in technocratic
governance. Government Information Quarterly, 33(3), 371-377.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 220
Jiménez Asensio, Rafael. (2018). “Repensar” la selección de empleados públicos. Momento actual y retos de
futuro. Revista Vasca de Gestión de Personas y Organizaciones Públicas, (2 especial), 8-29.
Just, Natascha i Michael Latzer. (2017). Governance by Algorithms: Reality Construction by Algorithmic
Selection on the Internet. Media, Culture & Society, 39(2), 238-258.
Livermore, Michael A., Eidelman, Vladimir i Grom, Brian. (2018). Computationally Assisted Regulatory
Participation. Notre Dame Law Review, 93(3), 977-1034.
Maciejewski, Mariusz. (2017). To do more, better, faster and more cheaply: using big data in public
administration. International Review of Administrative Sciences, 83(1_suppl.), 120-135.
Marongiu, Daniele. (2018). Inteligencia articial y administración pública. Dins Marcos R. Torres Carlos,
Andrea Garrido Juncal, José María Miranda Boto, César GarcíaNovoa (dir.) i Diana Santiago Iglesias
(dir.), 4ª Revolución industrial: impacto de la automatización y la inteligencia articial en la sociedad
y la economía digital (p. 385-411). Cizur Menor: Thomson Reuters Aranzadi.
Martín Delgado, Isaac. (2018). El acceso electrónico a los servicios públicos: hacia un modelo de
Administración digital auténticamente innovador. Dins Tomás de la Quadra i José Luis Piñar (dir.),
Sociedad digital y Derecho (p. 179-202). Madrid: BOE-Red.es.
Mergel, Ines, Rethemeyer, R. Karl i Isset, Kimberley. (2016). Big Data in Public Affairs. Public Administration
Review, 76(6), 928-937.
Mikhaylov, Slava Jankin, Esteve, Marc i Campion, Averill. (2018). Articial intelligence for the public
sector: opportunities and challenges of cross-sector collaboration. Philosophical Transactions of the
Royal Society A, 376(2128).
Moneo, Antonio. (2017). Nuevas estructuras organizativas y tecnologías emergentes en las organizaciones
data-driven. Dins Pablo Díaz, Goberna América Latina i Escuela de Política y Alto Gobierno. Instituto
Universitario de Investigación Ortega y Gasset, Manual sobre utilidades del big data para bienes
públicos (p. 179-192). Madrid: Edimema.
Muñoz, Juan. (2017). Administración predictiva y proactiva vinculada al big data. Dins Pablo Díaz (coord.),
Goberna Escuela de Política y Alto Gobierno del Instituto Universitario de Investigación Ortega y
Gasset, Manual sobre utilidades del big data para bienes públicos (p. 163-168). Madrid: Edimema.
Oliver, Nuria. (2017). Big data para el bien social: oportunidades y retos. Dins Pablo Díaz (coord.), Goberna
Escuela de Política y Alto Gobierno del Instituto Universitario de Investigación Ortega y Gasset,
Manual sobre utilidades del big data para bienes públicos (p. 213-228). Madrid: Edimema.
Quintanilla, Miguel. (2017). Aspectos organizativos a tener en cuenta. Dins Pablo Díaz (coord.), Goberna
Escuela de Política y Alto Gobierno del Instituto Universitario de Investigación Ortega y Gasset,
Manual sobre utilidades del big data para bienes públicos (p. 107-119). Madrid: Edimema.
Ramió Matas, Carles. (2018a). Inteligencia articial y administración pública. Robots y humanos
compartiendo el servicio público. Madrid: Catarata.
Ramió Matas, Carles. (2018b). El impacto de la inteligencia articial y de la robótica en el empleo público.
GIGAPP Estudios. Working Papers, 98, 401-421.
Rivero Ortega, Ricardo. (2017). Gestión pública inteligente, innovación e información: oportunidades y
riesgos del Big data administrativo. Presupuesto y Gasto Público, 86, 141-152.
Christodoulou, Paraskevi, Decker, Stefan, DoukaCharalampia, Aikaterini-Vasiliki, Komopoulou i Peristeras,
Vasilios. (2018). Data Makes the Public Sector Go Round. Electronic Government. EGOV 2018,
11020, 221-232.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 221
Socías, Miguel. (2017). La revolución del big data en el sector privado y sus implicaciones para el sector
público. Dins Pablo Díaz (coord.), Goberna Escuela de Política y Alto Gobierno del Instituto
Universitario de Investigación Ortega y Gasset, Manual sobre utilidades del big data para bienes
públicos (p. 23-33). Madrid: Edimema.
Toots Maarja, McBridge, Keegan, Kalvet, Tarmo, Krimmer, Robert, Tambouris, Efthimios, Panopoulou,
Eleni, Kalampokis, Evangelos i Tarabanis, Konstantinos. (2017). A Framework for Data-Driven
Public Service Co-production. Electronic Government. EGOV 2017, 10428, 264-275.
Velasco Rico, Clara Isabel. (2019). La ciudad inteligente: entre la transparencia y el control. Revista General
de Derecho Administrativo, (50).
Yeung, Karen. (2017a). Algorithmic regulation: a critical interrogation. Regulation & Governance, 12(4),
505-523.
Yeung, Karen. (2017b). Hypernudge: Big Data as a Mode of Regulation by Design. Information,
Communication & Society, 20(1), 118-136.
3.5 Retiment de comptes i transparència algorítmica
Uns dels aspectes que més preocupa els experts en l’ús dels algoritmes per part de les administracions
públiques és la qüestió de la transparència i de com poder explicar i entendre els resultats oferts per
algoritmes o eines d’intel·ligència articial. De vegades, potser ni l’Administració coneix el funcionament
del programari, que gairebé sempre ha desenvolupat un tercer privat, sobretot en els casos en què aquestes
eines desenvolupen aprenentatge automàtic i quan l’algoritme funciona com una caixa negra.
Ananny, Mike i Crawford, Kate. (2018). Seeing without knowing: Limitations of the transparency ideal and
its application to algorithmic accountability. New Media & Society, 20(3), 973-989.
Arellano Toledo, Wilma. (2019). El derecho a la transparencia algorítmica en big data e inteligencia articial.
Revista General de Derecho Administrativo, (50).
Binns, Reuben. (2018). Algorithmic Accountability and Public Reason. Philosophy & Technology, 31(4),
543-556.
Boyd, Danah. (12 d’abril de 2017). Toward Accountability. Data, Fairness, Algorithms, Consequences
[Apunt de blog]. Points.
Bourcier, Danièle i De Filippi, Primavera. (2018). Transparence des algorithmes face à l’open data: quel statut
pour les données d’apprentissage?. Revue Française d’Administration Publique, 167(3), 525-537.
Brauneis, Robert i Goodman, Ellen P. (2017). Algorithmic transparency for the smart city. Yale Journal of
Law & Technology, 20, 103-176.
Coglianese, Cary i Lehr, David. (2019). Transparency and Algorithmic Governance. Administrative Law
Review, 71(1).
Desai, Deven R. (2017). Trust but Verify: A Guide to Algorithms and the Law. Harvard Journal of Law and
Technology, 31, 1-64.
Desmoulin-Canselier, Sonia i Métayer, Daniel Le. (2019). Algorithmic Decision Systems in the Health and
Justice Sectors: Certication and Explanations for Algorithms in European and French Law. European
Journal of Law and Technology, 9(3), 46-54.
Diakopoulos, Nicholas. (2014). Algorithmic accountability reporting: on the investigation of Black Boxes.
Nova York: Tow Center for Digital Journalism.
Diakopoulos, Nicholas. (2016). Accountability in algorithmic decision making. Communications of the
ACM, 59(2), 56-62.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 222
Diakopoulos, Nicholas, Friedler, Sorelle, Arenas, Marcelo, Barocas, Solon, Hay, Michael, Howe, Bill i
Zevenbergen, Bendert. (2017). Principles for Accountable Algorithms and a Social Impact Statement
for Algorithms.
Doshi-Velez, Finale i Kortz, Mason. (2017). Accountability of AI Under the Law: The Role of Explanation.
Cambridge, MA: Berkman Klein Center Working Group on Explanation and the Law, Berkman Klein
Center for Internet & Society working paper.
Edwards, Lilian i Veale, Michael. (2017). Slave to the Algorithm: Why a Right to an Explanation Is Probably
Not the Remedy You Are Looking for. Duke Law & Technology Review, 16, 18-84.
Hall, Patrick i Gill, Navdeep. (2018). An Introduction to Machine Learning Interpretability. An Applied
Perspective on Fairness, Accountability, Transparency, and Explainable AI. Sebastopol: O’Reilly
Media.
Ferguson, Andrew G. (2017). Policing Predictive Policing, Washington University Law Review, 94(5), 1109-1189.
Fink, Katherine. (2018). Opening the government’s black boxes: freedom of information and algorithmic
accountability. Information, Communication & Society, 21, 1453-1471.
Garnkel, Simson, Matthews, Jeanna, Shapiro, Stuart S. i Smith, Jonathan M. (2017). Toward algorithmic
transparency and accountability. Communications of the ACM, 60(9), 5.
Geiger, Stuart R. (2017). Beyond opening up the black box: Investigating the role of algorithmic systems in
Wikipedian organizational culture. Big Data & Society, 4(2).
Kroll, Joshua A, Barocas, Solon, Felten, Edward W., Reidenberg, Joel. R., Robinson, David G. i Yu, Harlan.
(2017). Accountable algorithms. University of Pennsylvania Law Review, 165(3), 633-705.
Leenes, Ronald, Palmerini, Erica, Koops, Bert-Jaap, Bertolini, Andrea, Salvini, Pericle i Lucivero, Federica.
(2017). Regulatory challenges of robotics: some guidelines for addressing legal and ethical issues.
Law, Innovation and Technology, 9(1), 1-44.
Lepri, Bruno, Oliver, Nuria, Letouzé, Emmanuel, Pentland, Alex i Vinck, Patrick. (2017). Fair, Transparent,
and Accountable Algorithmic Decision-making Processes. Philosophy & Technology, 31(3), 1-17.
Mancosu, Giorgio. (2016). La transparence publique à l’ère de l’Open Data. Étude comparée Italie-France
(Tesi doctoral, Università degli Studi di Cagliari i Université Paris 2 Panthéon-Assas).
Mittelstadt, Brent. (2016). Auditing for Transparency in Content Personalization Systems. International
Journal of Communication, 10, 4991-5002.
Mulligan, Deirdre K i Bamberger, Kenneth A. (2018). Saving Governance-by-Design. California Law
Review, 106, 697-784.
Olhede, Soa i Rodrigues, Russell. (2017). Fairness and transparency in the age of the algorithm. Signicance,
14, 2, 8-9.
Pasquale, Frank. (2011). Restoring Transparency to Automated Authority. Journal on Telecommunications
& High Technology Law, 9, 235-252.
Sandvig, Christian, Hamilton, Kevin, Karahalios, Karrie i Langbort, Cedric. (2014). Auditing Algorithms:
Research Methods for Detecting Discrimination on Internet Platforms [Comunicació presentada a
“Data and Discrimination: Converting Critical Concerns into Productive Inquiry,” precongrés del 64th
Annual Meeting of the International Communication Association. 22 de maig de 2014, Seattle, WA,
Estats Units.]
Sangüesa, Ramon. (2018). Inteligencia articial y transparencia algorítmica: “It’s complicated”. BiD: Textos
Universitaris de Biblioteconomia i Documentació, (41).
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 223
Selbst, Andrew D. i Barocas, Solon. (2018). The Intuitive Appeal of Explainable Machines. Fordham Law
Review, 87(3), 1085-1139.
Tutt, Andrew. (2017). An FDA for Algorithms. Admininstrative Law Review, 69(1), 83-123.
Vedder, Anton i Naudts, Laurens. (2017). Accountability for the use of algorithms in a big data environment.
International Review of Law, Computers & Technology, 31(2), 206-224.
Zarsky, Tal. (2016). The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efciency
and Fairness in Automated and Opaque Decision Making. Science, Technology, & Human Values,
41(1), 118-132.
Zerilli, John, Knott, Alistair, Maclaurin, James i Gavaghan, Colin. (2018). Transparency in Algorithmic and
Human Decision-Making: Is There a Double Standard?. Philosophy & Technology, 1-23.
3.6 Bona administració i noves eines per lluitar contra la corrupció
Dins d’aquest apartat el lector trobarà referències sobre l’ús de les noves eines tecnològiques per lluitar
contra la xacra de la corrupció i la mala gestió dels recursos públics. Aquest és un àmbit encara per explorar
amb cura.
Bertot, Jonh C., Jaeger, Paul T. i Grimes, Justin M. (2010). Using ICTs to create a culture of transparency:
E-government and social media as openness and anti-corruption tools for societies. Government
Information Quarterly, 27, 264-271.
Capdeferro Villagrasa, Oscar. (2019). Las herramientas inteligentes anticorrupción. Revista General de
Derecho Administrativo, (50).
Cerrillo i Matínez, Agustí. (2016). El papel de los medios electrónicos en la lucha contra la corrupción.
Revista Vasca de Administración Pública, 104, 199-235.
Ponce Solé, Juli. (2018). La prevención de riesgos de mala administración y corrupción, la inteligencia
articial y el derecho a una buena administración. Revista internacional de Transparencia e Integridad,
6, 1-19.
Lourenço Rui, Pedro, Piotrowski, Suzane i Ingrams, Alex. (2015). Public Accountability ICT Support: A
Detailed Account of Public Accountability Process and Tasks. Electronic Government. EGOV 2015.
Lecture Notes in Computer Science, 9248, 105-117.
Martins Joao, Fernandes Bruno, Rohman Ibrahim i Veiga Linda. (2018). The War on Corruption: The Role
of Electronic Government. Electronic Government. EGOV 2018. Lecture Notes in Computer Science,
11020, 98-109.
3.7 Ètica en l’ús dels algoritmes i de la intel·ligència articial
Un dels aspectes que més ha preocupat la doctrina quant als algoritmes és com garantir que els poders
públics els utilitzin de manera ètica i al servei de l’interès general. En aquest apartat el lector trobarà lectures
suggerents al respecte.
Cammilleri, Anne. (2018). Gagner la guerre du futur considérations juridiques et éthiques sur l’intelligence
articielle. Les Cahiers de Propriété Intellectuelle, 30(3), 767-788.
Colmenarejo Fernández, Rosa. (2018). Ética aplicada a la gestión de datos masivos. Anales de la Cátedra
Francisco Suárez, 52, 113-129.
Etzioni, Amitai i Etzioni, Oren. (2016). AI assisted ethics. Ethics and Information Technology, 18(2), 149-156.
Etzioni, Amitai i Etzioni, Oren. (2016). Designing AI Systems that Obey Our Laws and Values.
Communications of the ACM, 59, 29-31.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 224
Etzioni, Amitai i Etzioni, Oren. (2016). Keeping AI legal. Vanderbilt Journal of Entertainment & Technology
Law, 19(1), 133-146.
Floridi, Luciano. (2018). Soft ethics and the governance of the digital. Philosophy & Technology, 31(1), 1-8.
Floridi, Luciano, Cowls, Josh, Beltrametti, Monica, Chatila, Raja, Chazerand, Patrice, Dignum, Virginia,
Luetge, Christoph, Madelin, Robert, Pagallo, Ugo, Rossi, Francesca, Schafer, Burkhard, Valcke, Peggy
i Vayena, Ef. (2018). AI4People –An Ethical Framework for a Good AI Society: Opportunities,
Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689-707.
Kritikos, Michael. (2018). “What if technologies had their own ethical standards?” [Apunt de blog]. Scientic
Foresight (STOA): What if?.
Kritikos, Michael. (2018). “What if algorithms could abide by ethical principles?” [Apunt de blog]. Scientic
Foresight (STOA): What if?.
Martínez Martínez, Ricard. (2017). Cuestiones de ética jurídica al abordar proyectos de Big Data. El contexto
del Reglamento general de protección de datos. Dilemata, 24, 151-164.
Mittelstadt, Brent, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra i Floridi, Luciano. (2016). The ethics
of algorithms: Mapping the debate. Big Data & Society, 3(2), 1-21.
Steels, Luc i López de Mantaras, Ramon. (2018). The Barcelona declaration for the proper development and
usage of articial intelligence in Europe. AI Communications, 31, 485-494.
3.8 Cadena de blocs (blockchain) i administracions públiques
Pel que fa a l’ús de les cadenes de blocs a les administracions públiques, els treballs teòrics són realment
escassos i alguns d’ells força recents.
Alonso Suárez, Lorena. (2018). Blockchain en la administración pública. Dins Marcos R. Torres Carlos,
Andrea Garrido Juncal, José María Miranda Boto, César García Novoa (dir.) i Diana Santiago Iglesias
(dir.), 4ª Revolución industrial: impacto de la automatización y la inteligencia articial en la sociedad
y la economía digital (p. 477-498). Cizur Menor: Thomson Reuters Aranzadi.
Barraud, Boris. (2018). Les blockchains et le droit. Revue Lamy Droit de l’immatériel, 48-62.
Cuadrado Malasaña, Fernando. (2017). Blockchain eta haren aplikazioak administrazio publikoetan.
Administrazioa Euskaraz, 98, 13-15.
Ølnes, Svein. (2106). Beyond Bitcoin Enabling Smart Government Using Blockchain Technology. Electronic
Government. EGOV 2016. Lecture Notes in Computer Science, 9820, 253-264.
Ølnes, Svein, Ubacht, Jolien i Janssen, Marijn. (2017). Blockchain in government: Benets and implications
of distributed ledger technology for information sharing. Government Information Quarterly, 34(3),
355-364.
3.9 Contractació pública digital
Finalment, en aquest darrer punt del recull bibliogràc citem dues referències a un dels àmbits que més
evolucionarà a curt termini, el de la contractació pública. Les noves eines tecnològiques revolucionaran què
i com contracta el nostre sector públic.
Gallego Córcoles, Isabel. (2018). La contratación pública digital. Dins Marcos R. Torres Carlos, Andrea
Garrido Juncal, José María Miranda Boto, César García Novoa (dir.) i Diana Santiago Iglesias (dir.),
4ª Revolución industrial: impacto de la automatización y la inteligencia articial en la sociedad y la
economía digital (p. 435-460). Cizur Menor: Thomson Reuters Aranzadi.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 225
Martín Delgado, Isaac. (2018). Contratación pública electrónica e innovación administrativa. Dins Manuel
Fernández Salmerón (dir.) i Rubén Martínez Gutiérrez (dir.), Transparencia, innovación y buen
gobierno en la contratación pública (p. 75-100). València: Tirant lo Blanch.
4 Resolucions sobre l’ús d’algoritmes i intel·ligència articial per part dels poders públics
En aquest epígraf ens fem ressò d’algunes sentències judicials i resolucions d’òrgans de garantia dels drets
dels ciutadans que han tractat de l’ús d’algoritmes i la seva incidència en els drets de les persones. La majoria
d’aquests pronunciaments enjudicien el dret d’accés a l’algoritme utilitzat per prendre una determinada
decisió de caràcter administratiu o penal.
4.1 Catalunya
Comissió de Garantia del Dret d’Accés a la Informació Pública. Resolució de 21 de setembre de 2016,
d’estimació de les Reclamacions 123/2016 i 124/2016 (acumulades).
Resum: El dret de defensa dels candidats que participen en el procediment de selecció dels membres dels
tribunals de correcció de les PAU exigeix poder conèixer la identitat de les persones nalment seleccionades.
Tanmateix, el fet que la persona reclamant només demani el DNI dels candidats als efectes [sic] de comparar-
lo amb el de les persones que es van presentar en convocatòries anteriors fa que sigui sucient amb facilitar-
li les quatre últimes xifres del DNI dels candidats. L’algoritme matemàtic que determina la selecció dels
candidats és informació pública a la qual han de poder accedir els diversos candidats. El límit de l’article
14.1.k LTAIPBGE només és aplicable, a Catalunya, quan el secret o la condencialitat en el procediment en
qüestió tramitat per l’Administració sigui establert per una norma amb rang de llei.
4.2 França
Commission d’accès aux documents administratifs. Avis n° 20144578 du 8 janvier 2015.
Resum: la commission rappelle que le code source d’un logiciel est un ensemble de chiers informatiques
qui contient les instructions devant être exécutées par un micro-processeur. Elle estime que les chiers
informatiques constituant le code source sollicité, produits par la direction générale des nances publiques
dans le cadre de sa mission de service public, revêtent le caractère de documents administratifs, au sens
de l’article 1er de la loi du 17 juillet 1978. Ce code est, de ce fait, communicable à toute personne qui le
demande, conformément à l’article 2 de la même loi, dès lors, compte tenu des dispositions du g du 2° du I de
l’article 6 de cette loi, que sa communication ne paraît pas porter pas atteinte à la recherche des infractions
scales.
Aquesta decisió fou conrmada posteriorment pel Tribunal Administratiu de París, en Sentència de 10 març
de 2016 (Sentència núm. 1508951/5-2).
4.3 Itàlia
Tribunal Administratiu Regional de Lazio (Secció Tercera). Sentència de 14 de febrer de 2017. Aquest
pronunciament s’analitza aquí: Mancosu, Giorgio (2018). Les algorithmes publics déterministes au prisme
du cas italien de la mobilité des enseignants. Revue Générale du Droit On Line, 29646.
4.4 Estats Units
U.S Suprem Court. Loomis v. Wisconsin Petition for certiorari denied on June 26, 2017.
Resum: issues: (1) Whether it is a violation of a defendant’s constitutional right to due process for a trial
court to rely on the risk assessment results provided by a proprietary risk assessment instrument such as the
Correctional Offender Management Proling for Alternative Sanctions at sentencing because the proprietary
nature of COMPAS prevents a defendant from challenging the accuracy and scientic validity of the risk
assessment; and (2) whether it is a violation of a defendant’s constitutional right to due process for a trial
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 226
court to rely on such risk assessment results at sentencing because COMPAS assessments take gender and
race into account in formulating the risk assessment.
5 Informes, resolucions i documents de treball de diverses institucions
AI-HLEG. Grup d’Expets d’Alt Nivell en Intel·ligència Articial. (2018). Draft Ethics Guidelines for
Trustworthy AI. Working Document for stakeholders’ consultation, Brussel·les, 18.12.2018.
Asilomar AI Principles. (2017). Principles developed in conjunction with the 2017 Asilomar conference
[Benevolent AI 2017].
Austràlia. Australian Information Commissioner. (2016). Consultation draft: Guide to big data and the
Australian Privacy Principles.
Austràlia. Institut of Public Administration. (2018). In brief - Articial intelligence in the public sector.
Institut of Public Administration.
Estat espanyol. Ministerio de Ciencia, Innovación y Universidades. (2019). Estrategia española de I+D+I en
inteligencia articial.
Catalunya. Generalitat de Catalunya. Departament de Polítiques Digitals i Administració Pública. (2019).
Catalonia.AI.
Catalunya. Generalitat de Catalunya. Departament d’Empresa i Coneixement. (2018). L’impacte laboral de
la Indústria 4.0 a Catalunya.
Catalunya. Generalitat de Catalunya. (2017). Llum verda al Pla d’Acció del Pacte Nacional per a la Societat
Digital.
Consell d’Europa. Comitè de Minitres. (2017). Reply to Recommendation 2102 (2017)1. Technological
convergence, articial intelligence and human rights.
Consell d’Europa. Jean-Yves Déaut (2017). Technological convergence, articial intelligence and human
rights [Informe, doc 14432]. Committee on Culture, Science, Education and Media.
Consell d’Europa. Consultative committee of the Convention for the protection of individuals with regard to
automatic processing of personal data. (2018). Report on Articial Intelligence. Articial Intelligence
and Data Protection: Challenges and Possible Remedies.
Consell d’Europa. (2018). European ethical Charter on the use of Articial Intelligence in judicial systems
and their environment. European Commission for the Efciency of Justice.
Consell d’Europa. (2019). Declaration by the Committee of Ministers on the manipulative capabilities of
algorithmic processes.
Consell d’Europa. (2019). Governing the Game Changer – Impacts of articial intelligence development on
human rights, democracy and the rule of law
Consell d’Europea. Assemblea Parlamentària. (2017). Recommendation 2102 (2017)1, de 28 d’abril.
Technological convergence, articial intelligence and human rights.
EUA. Executive Ofce of the President National Science i Technology Council Committee on Technology.
(2016). Preparing for the Future of Articial Intelligence.
EUA. Executive Ofce of the President. (2014). Big Data: Seizing Opportunities, Preserving Values.
EUA. Federal Financial Supervisory Authority. (2018). Big data meets articial intelligence. Challenges and
implications for the supervision and regulation of nancial services.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 227
EUA. FTC, Federal Trade Commission. (2016). Big Data: A Tool for Inclusion or Exclusion?
EUA. Government Accountability Ofce. (2018). Articial Intelligence. Emerging Opportunities, Challenges,
and Implications for Policy and Research.
EUA. Government Accountability Ofce. (2018). Trends affecting Government and Society.
França. Commission Nationale de l’Informatique et des Libertés. (2017). How can humans keep the upper
hand? The ethical matters raised by algorithms and articial intelligence.
França. Conseil d’État. (2014). Le numérique et les droits fondamentaux. París: Conseil d’Etat.
França. Primer Ministre. (2018). Donner un sens à l’intelligence articielle : pour une stratégie nationale et
européenne.
Forum on the Socially Responsible Development of AI. (2017). Montreal Declaration for a Responsible
Development of Articial Intelligence (2017) [Announced at the conclusion of the Forum on the
Socially Responsible Development of AI].
ICDPPC (International Conference of Data Protection and Privacy Commissioners). (2014). Resolución
sobre Big Data. Las amenazas del big data [36th International Conference, Mauritius].
ICDPPC (International Conference of Data Protection and Privacy Commissioners). (2016). Articial
intelligence, Robotics, Privacy and Data Protection. Room Document for the 38th International
Conference on Data Protection and Privacy Commissioners in Marrakech.
ICDPPC (International Conference of Data Protection and Privacy Commissioners). (2018). Declaration on
Ethics and Data Protection in Articial Intelligence, 40 Conferencia Internacional de protección de
datos en Bruselas.
IEEE. (2016-2017). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous
and Intelligent Systems.
Institut d’Estudis de la Seguretat. (2016). La ciberseguretat a Catalunya. Informe 2016 de l’Observatori del
Risc.
International Telecommunication Union (ITU). (2018). Inteligencia articial para el bien en el mundo.
International Working Group on Data Protection in Telecommunications. (2014). Working Paper on Big
Data and Privacy. Privacy principles under pressure in the age of Big Data analytics. 55th Meeting.
Itàlia. Agenzia per l’Italia Digitale e Dipartimento della funzione pubblica. (2018). L’intelligenza articiale
al servizio del cittadino.
Regne Unit. Government Ofce for Science. (2016). Articial intelligence: opportunities and implications
for the future of decision making.
Regne Unit. Cambra dels Comuns. Science and Technology Committee. (2016). Robotics and articial
intelligence (No. Fifth Report of Session 2016-17).
Regne Unit. Cambra dels Comuns. (2016). The big data dilemma.
Regne Unit. Cambra dels Lords. (2018). AI in the UK: ready, willing and able?, (“AIUK”).
Stanford University. (2016). Articial Intelligence and Life in 2030.
Unió Europea, Agència pels Drets Fonamentals. (2018). #BigData: Discrimination in data-supported decision
making, European Union Agency for Fundamental Rights.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 228
Unió Europea. Comissió Europea. (2018). Anexo a la Comunicación. Plan coordinado sobre la Inteligencia
articial COM(2018) 795 nal.
Unió Europea. Comissió Europea. (2018). Comunicación. Plan coordinado sobre la Inteligencia articial
COM(2018) 795 nal.
Unió Europea. Comissió Europea. (2018). Comunicació de la Comissió al Parlament Europeu, al Consell
Europeu, al Consell, al Comitè Econòmic i Social i al Comitè de les Regions: Inteligencia articial
para Europa [COM(2018) 237 nal].
Unió Europea. Comissió Europea. (2015). Future-proong eGovernment for a Digital Single Market.
Unió Europea. Comissió Europea. EGE, European Group on Ethics in Science and New Technologies.
(2018). Statement on Articial Intelligence, Robotics and ‘Autonomous’ Systems.
Unió Europea. Parlament Europeu. (2017). Resolución de 14 de marzo de 2017, sobre las implicaciones de
los macrodatos en los derechos fundamentales: privacidad, protección de datos, no discriminación,
seguridad y aplicación de la ley (2016/2225(INI).
Unió Europea. Parlament Europeu. (2017). Resolución del Parlamento Europeo, de 16 de febrero de 2017,
con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica.
Unió Europea. Parlament Europeu. STOA. (2016). Ethical Aspects of Cyber-Physical Systems.
Unió Europea. Parlament Europeu. STOA. (2016). Legal and ethical reections concerning robotics.
Unió Europea. Supervisor Europeu de Protecció de Dades. (2015). Dictamen 4/2015. Hacia una nueva ética
digital. Datos, dignidad y tecnología.
Unió Europea. Supervisor Europeu de Protecció de Dades. (2015). Repport 7/2015. Meeting the challenges
of big data, A call for transparency, user control, data protection by design and accountability.
Unió Europea. Supervisor Europeu de Protecció de Dades. (2016). Repport 8/2016. “EDPS Opinion on
coherent enforcement of fundamental rights in the age of big data”.
World Economic Forum. (2011). Personal Data: The Emergence of a New Asset Class.
World Wide Web Foundation. (2017). Algorithmic Accountability. Applying the concept to different country
contexts.
6 Informes i documents de treball de bancs i d’empreses tecnològiques o consultores
Accenture. (2018). Country Spolights. Why Articial Intelligence is the Future of Growth.
BBVA. (2018). Cómo construir una inteligencia articial más ética y transparente.
BCG. (2019). The Citizen’s Perspective on the Use of AI in Government. BCG Digital Government
Benchmarking.
Bussines Service Association. (2108). AI and Digital Public Services.
Capgemini Consulting. (2107). Unleashing the potential of ArticialIntelligence in the Public Sector.
Deloitte. (2018). Articial Intelligence Innovation Report.
IBM Center for The Business of Government. (2018). Delivering Articial Intelligence in Government:
Challenges and Opportunities.
IBM Center for The Business of Government. (2018). The future has begun. Using articial intelligence to
transform government.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 229
McKinsey Global Institute. (2011). Big data: The next frontier for innovation, competition, and productivity.
Minsait (Indra Company). (2019). El potencial innovador en el sector público.
Nexus IT. La inteligencia articial en la contratación pública [Presentació al II Congreso anual de la
contratación pública, Barcelona 13-14 de novembre de 2018].
Observatorio del Sector Público de IECISA (OSPI). (2017). Documento de conclusiones. Inteligencia
articial y su aplicación en los servicios públicos.
Observatorio del Sector Público de IECISA (OSPI). (2018). Documento de conclusiones. Aplicaciones de
Blockchain en el Sector Público.
Partnership on AI. (2018). Tenets.
Price Waterhouse Coopers. (2017). Sizing the Prize: What’s the Real Value of AI for Your Business and How
Can You Capitalise?.
7 Miscel·lània de recursos a la xarxa i articles de divulgació
Ansón, Antonio. (2017). Las tres fases de la automatización de la administración pública [Apunt de blog].
Trabajando más por un poco menos.
Almonacid, Víctor. (abril de 2018). Guía básica para la implantación de #blockchain en la Administración
[Apunt de blog]. Nosoloaytos.
Bernal Blay, Miguel Ángel. (2019). Blockchain y contratación pública [Apunt de blog]. Observatorio de la
Contratación Pública.
Campos Acuña, Concepción. (10 d’octubre de 2017). 5 ejemplos de Inteligencia Articial (IA) en la
Administración pública [Apunt de blog]. El Blog de Concepción Campos.
Campos Acuña, Concepción. (30 de novembre de 2018). El futuro del empleo público ante los retos de la
Inteligencia Articial [Apunt de blog]. El Blog de Concepción Campos.
Card, Dallas. (juliol de 2017). The black box metaphor in machine learning [Apunt de blog]. Blog Towards
Data Science.
Center for Public Impact. (octubre de 2018). How to make AI work in government and for people.
D’Ulisse, Hugo. (octubre de 2018). Articial intelligence: Is it really worth it? [Apunt de blog]. Public sector
executive.
Dans, Enrique. (2018). Autobuses autónomos: reinterpretando el transporte público [Apunt de blog]. Blog
Enrique Dans.
Derecho Administrativo e Inteligencia Articial. (2019). Conclusiones del I Seminario Internacional de la
Red DAIA.
Escola d’Administració Pública de Catalunya. (2019). European Public Mosaic (EPuM). Open Journal on
Public Service. Articial Intelligence.
Filer, Tanya. (2019). Developing AI for Government: What role and limits for the private sector? [Apunt de
blog]. Blog of Bennett Institute for Public Policy, Cambridge.
García Herrero, Jorge. (2017). ¿Cómo auditar un algoritmo? [Apunt de blog]. Blog de Jorge García Herrero.
Gillespie, Tarleton i Seaver, Nick. (2015). Critical algorithm studies: A reading list [Apunt de blog]. Social
Media Collective.
Clara I. Velasco Rico
Dossier sobre l’Administració a l’era digital
Revista Catalana de Dret Públic, núm. 58, 2019 230
Huesca, Erik. (10 de desembre de 2018). Sistemas inteligentes para atender al ciudadano desde el ciudadano
[Apunt de blog]. Revista u-Gob.
Ismail, Nick. (10 de juliol de 2018). What are the 5 biggest problems articial intelligence will solve in the
public sector? [Apunt de blog]. Information Age.
Jacobs, Richard. (2014). Exploring AI, Robotics in Public Administration Ethics [Apunt de blog]. PA Times.
American Society for Public Administration (ASPA).
Jiménez, Sergio. (2 de juliol de 2018). Lo que la inteligencia humana no busca, la inteligencia articial no lo
presta [Apunt de blog]. Revista u-Gob.
Larson, Christina. (agost de 2018). Who needs democracy when you have data? [Apunt de blog]. MIT
Technology Review.
Martinho-Truswell, Emma. (gener de 2019). How AI Could Help the Public Sector [Apunt de blog]. Harvard
Business Review Technology.
MChangama, Jacob i Liu, Hin Yan. (desembre de 2108). The Welfare State Is Committing Suicide by
Articial Intelligence [Apunt de blog]. Foreign Policy.
Merh, Hila. (agost de 2017). Articial Intelligence for Citizen Services and Government [Apunt de blog].
Harvard Ash Center Technology & Democracy Fellow.
Prieto, Javier. (2018). Machine learning, redes neuronales y el cambio en el empleo público. Revista Nova-
Gob, (2), 40-43.
Ramió, Carles. (2018). ¿Puede la Administración Pública liderar la revolución de la robótica?. Revista
Novagob, (3), 40-45.
Ramió, Carles. (5 de desembre de 2018). ¿Puede la inteligencia articial secuestrar a la democracia? (I)
[Apunt de blog]. Blog de espublico.
Ramió, Carles. (7 de desembre de 2018c). ¿Puede la inteligencia articial secuestrar a la democracia? (II)
[Apunt de blog]. Blog de espublico.
Ramió, Carles. (27 d’octubre de 2018). Se acerca la revolución de la robótica en la Administración Pública
(I) [Apunt de blog]. Blog de espublico.
Ramió, Carles. (10 de novembre de 2018). Se acerca la revolución de la robótica en la Administración
Pública (II) [Apunt de blog]. Blog de espublico.
Ramió, Carles. (9 d’octubre de 2018). Cifras sobre el potencial impacto de la robotización en las
Administraciones Públicas. [Apunt de blog]. Blog de espublico.
Ramió, Carles. (22 d’octubre de 2018). Una organización postmoderna del empleo público [Apunt de blog].
Blog de espublico.
Sánchez Zaplana, Antonio. (24-26 d’octubre de 2018). 5 problemas del Sector Público que la Inteligencia
Articial puede solucionar [Apunt de blog]. Blog de la Red Novagob.
Winelds, Alan. (abril de 2019). An Updated Round Up of Ethical Principles of Robotics and AI [Apunt de
blog]. Alan Winelds’ Web Log.
Yiu, Chris. (2012). The Big Data Opportunity. Making government faster, smarter and more personal [Apunt
de blog]. London: Policy Exchange.
