¿Quién controla al algoritmo y cómo? De la independencia judicial y del régimen jurídico-constitucional del organismo de control

AutorPere Simón Castellano
Cargo del AutorProfesor contratado Doctor (acreditado ANECA desde 2015) en la Universidad Internacional de la Rioja UNIR
Páginas203-226
203
El marco normativo actual, en relación con el uso y aplicación de la IA,
tanto por parte del sector privado como en el ámbito del sector público, resul-
ta insuciente y claramente insatisfactorio (C H, 2020a) desde el
prisma de las garantías jurídicas.
¿Las iniciativas legislativas o gubernamentales podrían acabar con esta
laguna garantista en un futuro inmediato o cercano? La denominada Carta
de Derechos Digitales, como propuesta de lege ferenda, que hemos citado
supra y que actualmente se encuentra en fase de consulta pública108, incorpora
o menciona en el artículo XXV, intitulado «Garantía de los derechos en los
108 Disponible en: shorturl.at/bxDIQ (fecha de última consulta: 17 de noviembre de
2020).
CAPÍTULO IV
¿QUIÉN CONTROLA AL ALGORITMO Y
CÓMO? DE LA INDEPENDENCIA JUDICIAL Y
DEL RÉGIMEN JURÍDICO-CONSTITUCIONAL
DEL ORGANISMO DE CONTROL
SUMARIO: 1. Problemas, riesgos y sesgos de la IA. 2. La independencia
judicial y el órgano de control. 2.1. La jurisdiccionalidad desde el diseño y
por defecto. 3. Recapitulando. A modo de conclusión.
JUSTICIA CAUTELAR E INTELIGENCIA ARTIFICIAL LA ALTERNATIVA A LOS ATÁVICOS HEURÍSTICOS JUDICIALES
PERE SIMÓN CASTELLANO
204
entornos digitales», hasta tres instrumentos o vías de garantía de los citados
derechos.
La primera es la vía de la autorregulación, que ya hemos criticado an-
teriormente. Dice el texto que se impulsarán mecanismos de autorregulación
transparentes que contemplen los criterios y los procedimientos que deter-
minan en este ámbito la actuación de los prestadores e incorporen procedi-
mientos de reclamación y revisión de las decisiones de retirada de contenidos.
«Mecanismos de autorregulación transparentes», impulsados de manera dis-
crecional por los gobiernos de turno, para que los proveedores de servicios de
la sociedad de la información, entre los que cabe incluir obviamente los pres-
tadores de servicios de IA, contemplen criterios y procedimientos que encajen
y respeten los llamados derechos digitales. Parece más que una garantía una
declaración de buenas intenciones. Los gobiernos se comprometerán e im-
pulsarán mecanismos de autorregulación, para que los prestadores los tengan
en cuenta y adapten los procesos de negocio a principios y criterios legales.
Añade la citada Carta, en el artículo XXV, apartado 3, que se promoverán
mecanismos de autorregulación regulada y procedimientos de resolución al-
ternativa de conictos. Nuevamente, declaración de buenas intenciones. El
impulso sin capacidad coercitiva u obligación ex lege acompañada de régi-
men sancionador corre el riesgo de quedarse en un intento tan noble como
iluso. Además, siendo de entrada el «impulso» algo tan genérico e intangible
como ciertos derechos de naturaleza prestacional, incluso algunos reconocidos
ex constitutione, que ni están ni se les espera cuando el titular trata de ejercer
sus facultades subjetivas en el caso concreto.
¿Autorregulación para los prestadores de servicios de IA? Es poco facti-
ble hablar de autorregulación cuando las empresas privadas ocultan el código
hasta para su empleo en el marco del seno del proceso judicial, por ejemplo,
en el caso Wisconsin v. Loomis. ¿Qué incentivos pueden ofrecerse para el
«impulso» de la autorregulación regulada y el compromiso en el ámbito del
desarrollo y comercialización de sistemas de IAJVR? ¿El consumidor, el clien-
te, esto es, las administraciones de justicia de los distintos Estados escogerán
al prestador teniendo en cuenta el valor añadido que ofrece el respeto a esos
principios? Nos parece un enfoque erróneo para los sistemas de IAJVR, que
como venimos defendiendo, o se desarrollan inhouse o se adquieren, no por

Para continuar leyendo

Solicita tu prueba

VLEX utiliza cookies de inicio de sesión para aportarte una mejor experiencia de navegación. Si haces click en 'Aceptar' o continúas navegando por esta web consideramos que aceptas nuestra política de cookies. ACEPTAR