¿Será el derecho administrativo del futuro sólo un conjunto de algoritmos?

En un reciente libro de Carles Ramió, Catedrático de Ciencia Política y de la Administración en la Universidad Pompeu Fabra, con el sugerente título de “Inteligencia artificial y administración pública: robots y humanos compartiendo el servicio público”, desarrolla el autor un interesante pronóstico de lo que, a su juicio, supondrá la implantación imparable de la inteligencia artificial y la robótica en las actuales estructuras de la Administración Pública. 

Sin poder resumir aquí todo el contenido del libro, -es mejor leerlo-, coincido con el autor en que la progresiva implantación de estas tecnologías, actualmente desarrolladas en su práctica totalidad por el sector privado, va a suponer un profundo revulsivo para las propias Administraciones Públicas, que se verán inmersas en medio de un importante dilema: o bien adquieren y aplican herramientas y algoritmos desarrollados por la iniciativa privada, con lo que ello tiene de riesgo de comprar “cajas negras”, que no garantizan los principios de transparencia, equidad, igualdad, objetividad y protección de la privacidad, que son la base de la propia existencia de las Administraciones Públicas o, por el contrario, asumen que han de liderar la creación y el control de estas  herramientas y generar sus propios algoritmos, diseñados para atender las necesidades de los ciudadanos garantizando los mencionados principios.

Coincido con Ramió cuando remarca: “La administración pública tiene que liderar este proceso para regularlo, para preparar a la sociedad, para definir algoritmos con una cierta vocación pública, ahora todos los están creando desde el sector privado y lógicamente siguiendo sus intereses”.

En el año 2014, en una entrada de mi blog titulada “¿Será la normativa catastral del futuro sólo un conjunto de algoritmos?, - puedes verla en: https://catastreros.blogspot.com/2014/10/sera-la-normativa-catastral-del-futuro.html  -, me hacía eco de un interesante trabajo publicado por un grupo de catastreros suizos, donde reflexionaban sobre cómo la moderna tecnología aplicada a la medición de la tierra incidirá en las funciones de las administraciones catastrales europeas.

Partiendo de una idea sugerente basada en la rápida evolución de las tecnologías, que cada vez nos aportan instrumentos capaces de obtener mayores niveles de precisión sin intervención de topografía tradicional, concluyen que será el territorio quien nos señalará nuestra posición con una precisión absoluta, lo que supone que será el propio territorio el que se convierta automáticamente en el mapa que abarca todos los mapas. El territorio será el mapa.

Como consecuencia llegan a la siguiente conclusión, en relación con los funcionarios del catastro: “La segunda consecuencia teórica y práctica se refiere al reconocimiento legal de los algoritmos. Hasta ahora trabajamos en definir las bases de datos de objetos, capas catastrales, etc., pero a partir de ahora, además de todas las bases de datos existentes o futuras, también estaremos obligados a archivar algoritmos. Estos algoritmos requerirán ahora una certificación oficial, ya que serán la base de la reconstrucción de los conjuntos de datos y los datos”. “El algoritmo que sirve de base para obtener el dato tendrá que ser legal y necesitará ser controlado a través de, por ejemplo, trabajos de medición.”

Puedes encontrar este documento, titulado “Beyond limits: Go 4Dimension cadastre”,  en: https://www.cadastre.ch/en/services/publication.detail.document.html/cadastre-internet/en/documents/Diskussionspapier-1-2014-DimensionCadastre-en.pdf.html

Esta misma reflexión es aplicable a toda la actividad pública, y es la que nos hace preguntarnos si el Derecho Administrativo del futuro será un conjunto de algoritmos, y cuál es el papel que desarrollarán los empleados públicos respecto a los mismos. En este sentido, aunque no me cabe duda de que estas tecnologías impactarán profundamente en la Administración Pública y los funcionarios, tampoco dudo que serán estos los que defiendan los grandes valores que son la base de nuestro modelo democrático. Y eso lo harán haciendo coincidir las más modernas tecnologías con los “viejos y buenos principios”, que hace casi 100 años, impulsaron a Kelsen, en la Constitución austriaca de 1920, a afirmar que : “La administración del Estado en su totalidad no puede actuar sino  auf graund der gesetze (sobre el fundamento de la Ley)”.

Como consecuencia, se nos presenta un futuro en el que la aplicación de la inteligencia artificial  y la robótica tendrán que cumplir, para que realmente sean aplicadas en un país democrático, tres características básicas:

-En primer lugar, los procedimientos administrativos basados en modelos de inteligencia artificial construidos sobre algoritmos, deberán ser “transparentes”, lo que significa que deberán ser “publicables” en el Boletín Oficial correspondiente, ajustándose a la norma de rango que le corresponda (Ley, reglamento, circular…).

-En segundo lugar, los algoritmos deberán poder ser entendidos, sino por la totalidad de los ciudadanos, si al menos por un colectivo de profesionales ajenos a la Administración Pública, suficientemente amplio en número, y capaces de comprobar sus características y efectos. Para empezar, los asesores fiscales tendrán que convertirse en “comprobadores de algoritmos”, si quieren seguir dando un buen servicio a sus clientes.

-Y en tercer lugar, serán finalmente los jueces y tribunales quienes determinen si los algoritmos que usen las administraciones públicas “sirven con objetividad los intereses generales y actúan de acuerdo con los principios de eficacia, jerarquía, descentralización, desconcentración y coordinación”, y por supuesto, “con sometimiento pleno a la ley y al Derecho”, lo que obligará también a los profesionales del poder judicial a adaptarse a estos nuevos procedimientos.

Si no se dan estas características, difícilmente podrá aplicarse la inteligencia artificial y la robotización en las Administraciones públicas de los países democráticos (salvo que dejen de ser “democráticos”). Nos encontraríamos ante la grave amenaza descrita por Cathy O’Neil en su conocido libro “Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia”. 

Esto ya lo hemos visto en un ejemplo concreto. En el año 2004, Julio Gallego Mora-Esperanza, -un gran funcionario de la Dirección general del Catastro, experto en modelos de valoración automatizada de inmuebles-, publico en la revista CT-Catastro un importante artículo titulado “La inteligencia artificial aplicada a la valoración de inmuebles: un ejemplo para valorar Madrid”.  En el trabajo demostraba cómo la aplicación de redes neuronales ofrecía resultados muy adecuados para la valoración catastral de los inmuebles, lo que permitiría, dada la potencia de estas herramientas, desarrollar procesos masivos y ágiles para la asignación de valores catastrales en todo el país. Siendo positivas las conclusiones obtenidas, ¿por qué no se aplicó esta metodología?. La respuesta está en la seguridad jurídica: el modelo era una “caja negra” cuya transcripción en un formato de “Real Decreto de valoración catastral” era imposible, lo que suponía que, si hubiera sido aplicado, habría sido inmediatamente anulado por los jueces por la indefensión que causaría sobre los ciudadanos. Puedes ver el artículo en.

http://www.catastro.meh.es/documentos/publicaciones/ct/ct50/_2E.pdf