Capítulo quinto. Inteligencia artificial, sesgo y corrupción privada en perjuicio de los consumidores
| Autor | Miguel Ángel Moreno Navarrete |
| Páginas | 111-140 |
Capítulo quinto
Inteligencia artificial, sesgo y corrupción privada
en perjuicio de los consumidores
M Á M N
Profesor Titular de Derecho Civil
Universidad de Granada
Sumario: I. Mercado digital, IA, precios y protección de los consumidores. II. Sesgo
IA en el precio: por diseño y algorítmico. modelo Deep Learning-IA
con sesgo discriminatorio intencionado. III. La prácticas de segmenta-
ción de precios mediante uso de ia. ¿son lícitas respecto de los consumi-
dores? 1. La discriminación IA de los consumidores por el precio como
acto de competencia desleal. 2. Discriminación IA de los consumidores
por el precio. ¿Actividad punible? 2.1. El diseño de la IA a partir de da-
tos de entrada de procedencia ilícita con perjuicio de los consumidores.
2.2. La actividad discriminatoria de los consumidores por el precio de los pro-
ductos o servicios en sistemas IA. IV. Soluciones: derecho de información,
transparencia e inteligencia artificial explicable. V. Conclusiones.
I. MERCADO DIGITAL, IA, PRECIOS Y PROTECCIÓN DE LOS
CONSUMIDORES
Desde los años 90 del siglo pasado, Internet cambió nuestras vidas. Se convir-
tió en la plataforma habitual de libre circulación de información. Desde ese tiem-
po, en la Red operan personas, datos y modelos de negocio; y su gobierno se basa
más en la confianza que en la protección que dispensan normas jurídicas específi-
cas, muy generalistas, con vocación de control administrativo del tráfico jurídico,
según mi opinión, y contrarias a la globalización y el efecto de control total que la
Red produce en el usuario. En definitiva, compartimos información, compramos,
etc., porque las empresas nos producen confianza, no por las normas que nos
protegen; e interactuamos por hábitos, negocios o necesidad.
En el denominado “Internet del valor”, el binomio ciudadano-leads o po-
tencial cliente se antepone al valor persona modificando las propias estructuras
del Derecho, y del Derecho civil en particular. Se hace necesario el estableci-
miento de normas y reglas jurídicas que consideren a la persona como “ser de
DOI: 10.14679/2436
112 Miguel Ángel Moreno Navarrete
DOI: 10.14679/2436
fines” 1 y no como instrumento mercantil. Pues, como dice Martínez de Aguirre,
el sentido y finalidad del Derecho civil es “la protección y servicio a la persona,
entendida como ser humano” 2.
Hoy en día, en el mercado en línea, en los procesos de toma de decisiones en las
relaciones comerciales cliente-empresa, se está interponiendo poco a poco la inteligen-
cia artificial 3 (en adelante, IA), como instrumento que sustituye la voluntad humana,
automatizándola. Incluso puede hablarse de vendedores o prestadores inteligentes.
El problema es que las arquitecturas de redes neuronales operan en una atmós-
fera no controlada por los consumidores, incluso, puede darse el caso de que ni por
la propia empresa. Fundamentalmente porque son imperceptibles para el consumi-
dor medio, lo que es contrario a la debida información y transparencia. Y la aplica-
ción directa o subyacente de arquitecturas IA puede producir sesgos discriminatorios
entre consumidores, distinguiendo unos de otros, con perjuicio, fundamentalmente
económico. Dicha discriminación o sesgo puede realizarse de manera inconsciente,
por errores en el origen de datos o en el diseño; o de forma consciente, mediante la
manipulación humana de estos, o de otras IA, en la fase de desarrollo (diseño).
Como dice Cogwill y Tucker, la injusticia algorítmica puede originarse a par-
tir de predicciones algorítmicas sesgadas o de objetivos algorítmicos sesgados 4.
Pero también, como expone Abrardi et. Al., los resultados de la IA pueden resul-
tar discriminatorios también porque el propio algoritmo aprenderá a estar sesga-
do en función de los datos de comportamiento que lo alimentan 5, es decir, en los
datos de origen de los modelos IA. Lo que nos lleva directamente a las cuestiones
sobre la privacidad y su protección.
Son muchas las cuestiones jurídicas que nos podemos plantear sobre lo expues-
to, pero, para este trabajo, nos vamos a centrar en el sesgo o discriminación que
afectan al precio de los productos o servicios y que discrimina a los consumidores.
¿Qué es la discriminación de precios en línea? Según Zuiderveen y Poort, es:
«la diferenciación del precio en línea de productos o servicios idénticos en parte
basado en la información que una empresa tiene sobre un cliente potencial 6». De
1 Díez-Picazo, L. «El sentido histórico del Derecho civil». Revista General de Legislación y
Jurisprudencia. Segunda época, XXXIX (1959), p. 642.
2 Martínez de Aguirre, C. El Derecho civil a finales del siglo XX. Madrid: Ed. Tecnos, 1991,
p. 111.
3 Fundamentalmente mediante técnicas de aprendizaje automático (machine lear-
ning) o profundo (deep Learning, redes neuronales).
4 Cogwill, B. - Tucker, C. «Algorithmic Fairness and Economics». Columbia Business School
Research Paper, February 14 (2020), ed. electrónica (http://dx.doi.org/10.2139/ssrn.3361280).
5 Abrardi, L. et. Al. «Artificial intelligence, firms and consumer behavior: A survey».
Journal of Economic Surveys, Vol. 36, Issue 4 (2022), ed. electrónica (https://doi.org/10.1111/
joes.12455).
6 Zuider veen, F. - Poort, J. «Online Price Discrimination and EU Data Privacy Law».
Journal of Consumer Policy, 40 (2017), ed. electrónica (https://doi.org/10.1007/s10603-017-
9354-z). Interesante es un estudio sobre la política de discriminación de precios del trans-
porte en la Ciudad de Chicago a partir de datos demográficos, en: Pandey, A. - Caliskan, A.
Para continuar leyendo
Solicita tu prueba