De algoritmos y otras palabras inquietantes

Uno de los efectos colaterales de la pandemia ha sido el impulso experimentado en el proceso de digitalización del sector público, que ya se había iniciado años atrás. Y, con ella, se ha asistido en los últimos tiempos a una creciente utilización de la inteligencia artificial y de los algoritmos en la adopción de decisiones por parte de las Administraciones públicas.

Las indudables ventajas que, en términos de eficacia y economía, supone el empleo de sistemas de decisiones automatizadas basadas en algoritmos -tanto en el ámbito público como privado- no pueden soslayar los riesgos que conllevan para los derechos e intereses de la ciudadanía; riesgos que se condensan en el temor genérico a que el ser humano se convierta en un mero objeto de los programas informáticos.

De ahí que desde hace algunos años se haya alertado de la necesidad de avanzar en la transparencia de estos procesos de toma de decisiones –singularmente opacos cuando de algoritmos de aprendizaje automático se trata-, a fin de asegurar que los ciudadanos estén en condiciones de supervisar las decisiones que les afecten.

Y lo cierto es que la entrada en vigor del Reglamento General de Protección de Datos vino a poner el problema de la rendición de cuentas algorítmica en el centro de las discusiones sobre el uso de la inteligencia artificial. Aunque engarza con algunas previsiones ya establecidas en la derogada Directiva 95/46, supone para los afectados un notable avance desde el punto de vista de la transparencia y el acceso a información relevante sobre las decisiones adoptadas por el responsable. Pues, pese a que haya generado un encendido debate doctrinal, hay argumentos suficientes para sostener que del RGPD [artículo 15.1.h) en conexión con el artículo 22.3 y el Considerando 71] no se deriva tan sólo un derecho del afectado a que se le explique en abstracto la funcionalidad del sistema de decisiones automatizada, sino también –al menos en los supuestos mencionados en el art. 22.3- el derecho a la explicación de la específica decisión de la que ha sido objeto.

Ahora bien, este nuevo derecho a la explicación de la concreta decisión algorítmica se ciñe al sector material al que se circunscribe el artículo 22 RGPD, a saber, a las decisiones basadas exclusivamente en un tratamiento automatizado. Quedan, pues, extramuros del ámbito de cobertura del citado artículo aquellos casos frecuentes en que el resultado del algoritmo sirve de apoyo para la adopción final de la decisión por parte de un ser humano. Por otro lado, tampoco cabe soslayar el hecho de que, por lo general, los individuos afectados carecen de la suficiente cualificación técnica para comprender la “lógica aplicada” en estos procesos de toma de decisiones. No en balde ha hecho fortuna una ingeniosa definición de “algoritmo” que refleja en términos humorísticos su carácter difícilmente descifrable: “Palabra usada por los programadores cuando no quieren explicar lo que han hecho” (Maja Brkan/Grégory Bonnet).

En este contexto, se hace evidente que el derecho de acceso a la información pública consagrado en la legislación de transparencia puede complementar las debilidades que a este respecto muestra el derecho fundamental a la protección de datos tal y como ha quedado configurado en el RGPD. Mientras que la amplitud con que se define la titularidad del derecho permite que sean especialistas los que accedan a la información sobre el algoritmo (organizaciones no gubernamentales, periodistas, etc.); la no menos generosa definición de lo que sea “información pública” abre el paso a que las solicitudes tengan por objeto el entero algoritmo o su código fuente. Las posibilidades que proporciona esta vía para tutelar los derechos de la ciudadanía ante las decisiones automatizadas de las Administraciones públicas no deberían ser infravaloradas. Así lo atestigua la Resolución 58/2021 del Consejo de Transparencia y Buen Gobierno, de 20 de mayo, que concedió el acceso al algoritmo utilizado para el cálculo de las pensiones.

Comparte esta entrada:

Share on facebook
Share on twitter
Share on linkedin

Deja una respuesta

Tu dirección de correo electrónico no será publicada.