Poder tecnológico y políticas paternalistas. La gobernanza algorítmica a través de hypernudges
| Autor | Jesús Ignacio Delgado Rojas |
| Cargo del Autor | Profesor del Departamento de Filosofía del Derecho de la Universidad de Sevilla |
| Páginas | 81-104 |
81
CAPÍTULO CUARTO.
Poder tecnológico y políticas paternalistas.
La gobernanza algorítmica a través de hypernudges
J I D R
1. INTRODUCCIÓN
La sociedad del siglo XXI está inmersa en la denominada “revolución de
los datos masivos” (Mayer-Schönberger y Cukier, 2013: 6-7), lo cual implica
una profunda transformación en la forma en la que se ha venido entendiendo
la humanidad. Responsables de dichos cambios son los importantes avances
alcanzados en diversos ámbitos como la Inteligencia Artificial, los sistemas de
Big Data o la robótica. Este capítulo se centra en cómo la industria tecno-
lógica está aprovechando dichos sistemas de Big Data para transformar los
masivos datos digitales personales, obtenidos a partir de las decisiones que los
individuos toman en la red, en información con un alto valor económico.
La combinación del inmenso volumen de datos procedentes de las nu-
merosas fuentes que los generan y de las tecnologías que los almacenan, ha
traído consigo innegables beneficios de diversa índole. Sin embargo, el tra-
tamiento de dicha información y su posterior uso (con fines comerciales o
estratégicos, principalmente) ocasiona injerencias en la vida privada de los
individuos, lo que implica sin duda una amenaza, sobre todo, a aquellos dere-
chos fundamentales que han de protegerla. El Big Data supone un salto cua-
litativo muy impor tante que coloca a quien dispone de los datos, y del cono-
cimiento y técni cas para procesarlos, en una situación de ventaja competitiva
sin preceden tes (Pasquale, 2015). Quien tiene los datos, tiene el poder: y los
individuos pasan a convertirse en una especie de sujeto datístico bajo el paradig-
ma de una data society:
Una ‘sociedad de datos’, que no sólo se rige por los datos como en su adve-
nimiento fue la sociedad de la información y el conocimiento, sino que está
1 Profesor del Departamento de Filosofía del Derecho de la Universidad de Sevilla. jdrojas@us.es.
ORCID ID 0000-0002-3818-5990.
Jesús Ignacio Delgado Rojas
82
íntimamente impregnada de ellos, llegando a implicar y moldear al hombre
mismo como un data subject (Faini, 2019: XVII).
Sostendré que la forma de conocimiento que se obtiene de los com-
portamientos digitales de los usuarios a través de los sistemas de Big Data es
preocupante no sólo por sus implicaciones para la privacidad, sino también
por la manera concreta en que esos datos se están utilizando para moldear
la toma de decisiones individuales al servicio de los intereses de los gigantes
tecnológicos (las llamadas Big Tech: sobre todo, Google, Amazon, Apple, Meta
y Microsoft). Mi argumento central es que, con la tecnicidad y sofisticación
de sus procesos algorítmicos subyacentes, estos sistemas tecnológicos están in-
fluyendo peligrosamente en el diseño y toma de decisiones humanas de for-
ma paternalista: lo que se consigue a través de hypernudges (Yeung, 2017). Al
configurar y, por tanto, personalizar el contexto informativo de elección del
usuario, normalmente mediante el análisis algorítmico de flujos de datos pro-
cedentes de múltiples fuentes que pretenden ofrecer información predictiva
sobre nuestros hábitos y preferencias, estos nudges moldean las decisiones del
usuario en las direcciones preferidas por el “arquitecto de la elección” (quien
tiene la responsabilidad de organizar el contexto en el que se toma la deci-
sión) a través de procesos sutiles y discretos, pero extraordinariamente poten-
tes. Trataré de ofrecer una aproximación por la que evaluar las problemáticas
consecuencias persuasivas y manipuladoras para la autonomía personal que
genera la implementación de estos nudges a través de técnicas de Big Data.
2. BIG DATA COMO TÉCNICA DE REGULACIÓN EN EL DISEÑO
PREVIO DE OPCIONES ELEGIBLES
Las técnicas algorítmicas de Big Data, o “gobernanza algorítmica” (O’Reilly,
2013), pretenden sistemáticamente influir en el comportamiento de los indi-
viduos. Las decisiones humanas están determinadas no sólo por las delibera-
ciones racionales de las opciones disponibles, sino también por el diseño del
entorno de elección en el que se presenta la información, que puede ejercer
una influencia subconsciente en el resultado. En otras palabras, lo que se elige a
menudo depende de cómo se presentan las opciones, por lo que la arquitectura
de la elección altera el comportamiento de las personas de forma predecible.
La política conductual es el estudio de cómo los gobiernos logran los
objetivos de política pública a través de nuevos instrumentos regulativos que
promueven un mejor cumplimiento de las normas. Para mejorar así la cali-
dad de la legislación y su grado de obediencia, los científicos conductuales
exploran cómo funcionan los sesgos y atajos cognitivos, la importancia de las
Para continuar leyendo
Solicita tu prueba