El ciudadano frente al Estado digital

Cálculo de la factura de la luz. Europa Press

Tras detectar ciertos errores en su funcionamiento, la fundación Civio presentó en 2019 un recurso contencioso-administrativo pidiendo que se hiciese público su código fuente. En él se encuentran las pautas que guían el funcionamiento de Bosco. Una herramienta que determina, en buena medida, qué ciudadano accede a un descuento en su factura de la luz por razón de su vulnerabilidad.

La petición ha sido denegada por la Justicia en una reciente sentencia que descansa en dos motivos: los derechos de propiedad intelectual del programa y el riesgo para la seguridad pública que comportaría la publicación de la información que explica cómo funciona Bosco.

La digitalización lleva ya tiempo presente en todas las políticas proyectadas a medio-largo plazo. Junto con la transición ecológica, digitalizar Europa es uno de los principales propósitos que pretende fomentar la Unión con su programa de fondos.

La digitalización vertebra ya buena parte de las políticas comunitarias, tal y como refleja el ambicioso reglamento de inteligencia artificial que se está gestando en Bruselas. Que estos procesos se estén trasladando al sector público es lógico. Las ventajas de una Administración digital son notables, pues permite que los ciudadanos reciban una gama de servicios mucho más amplia de una forma mucho más eficiente.

"En un Estado digital, un ciudadano debe poder saber cómo actúan los algoritmos de la Administración pública"

Pero la eficiencia, por muy deseable que sea en el ámbito público, no puede servir de pretexto para reducir los derechos de los ciudadanos. En un Estado de derecho, la Administración ostenta unas competencias determinadas que se ejercen a partir de actuaciones regladas. Que exista y se conozca el reglamento no sólo nos asegura un poder limitado, sino que garantiza al ciudadano conocer cómo es el proceso que debe seguirse para alcanzar esas decisiones, previniendo arbitrariedades.

Al igual que conocemos qué criterios guían al funcionario físico, en un Estado digital un ciudadano debe poder saber cómo actúa el algoritmo. Es decir, qué pautas sigue para tomar una decisión o para condicionar esta, como sucede con el uso de Bosco.

De hecho, en la recientemente publicada Carta de derechos digitales (un documento no vinculante redactado por un grupo de expertos a propuesta del Gobierno) este derecho es uno de los que se insta a promover dentro de las relaciones digitales de los ciudadanos con las Administraciones.

"El desarrollo del código fuente de un programa informático empleado por la Administración tiene una orientación ideológica"

Conocer esta información puede tener más relevancia que un descuento en la factura de la luz. Un buen ejemplo es el de E. Loomis, un ciudadano de Wisconsin que se enfrentaba a un juicio criminal tras haber sido detenido conduciendo un coche involucrado en un tiroteo. Durante el juicio, su perfil fue valorado por el programa Compas, que aconsejó su ingreso en prisión al determinar que reunía una serie de condiciones que le hacían propenso a la reincidencia. Loomis inició entonces un periplo judicial para obligar a hacer público el funcionamiento del programa que le enviaba a prisión.

En un Estado de derecho un ciudadano debe tener derecho a conocer las circunstancias que se valoran para determinar su ingreso en prisión, y también por qué se le deniega una ayuda. Porque, aunque decirlo pueda parecer un dislate, un algoritmo no tiene por qué ser una herramienta imparcial y aséptica.

Lo señalaba la politóloga Virginia Eubanks hace unas semanas en El País Semanal. El código fuente de un programa informático empleado por la Administración se desarrolla atendiendo a propósitos que, como toda política, tienen una orientación ideológica. Permitir al Estado que nos administre digitalmente exige ser consciente de sus riesgos y dotarnos de derechos digitales que mantengan nuestro estatus ciudadano.

*** Guillermo Setién es abogado.