Inteligencia artificial y Derecho Administrativo

Federico A. Castillo Blanco

Las cosas avanzan rápido. Más rápido, inclusive, que nuestra capacidad de comprensión. Y es que, cada día que pasa, llevamos los límites de lo posible un poco más allá. Seguramente esta reflexión preliminar se puede aplicar a variados campos (la biomedicina, la astrofísica, la electrónica, etc.). Lo cierto es que la respuesta del  Derecho, y más específicamente en lo que me afecta el Derecho Administrativo, a esos cambios suele ser mucho más lenta.  La Administración pública ha perdido en buena medida el liderazgo que la caracterizó hasta el pasado siglo y hoy la innovación, sin perjuicio de relevantes ejemplos en el campo público, se encuentra liderada por el mundo privado.

Específicamente, y en lo que se refiere a esta breve reflexión, la inteligencia artificial está transformando los paradigmas que regían nuestra forma de enfocar numerosos problemas (lo ha puesto de relieve Valls Prieto en este mismo espacio) y me temo que el Derecho no ha tomado todavía buena cuenta de ello. En efecto, del paradigma weberiano, de subsunción deductiva de normas abstractas previamente establecidas, empezamos a enfrentarnos a nuevas lógicas, basadas más en cálculos de probabilidades para encontrar solución a muchas de las prestaciones que la Administración pública ofrece a los ciudadanos como ya acontece en la medicina (detección del cáncer a título de ejemplo). Y este cambio de paradigma nos obligará en el mundo jurídico, a buen seguro, a reflexionar más decididamente sobre las instituciones en que asentamos el conjunto de garantías y derechos de la ciudadanía.

La toma de decisiones automatizadas por la Administración pública y la revolución que viene.

Como sabemos la utilización de la computación no es nueva en el campo de las prestaciones públicas a los ciudadanos. Es frecuente y habitual en el sector público la utilización de tecnología informática para operaciones de cálculo y comprobación. Baste, a estos efectos, referirnos a la Administración tributaria en sus procedimientos de comprobación o para prevenir conductas irregulares en la actuación administrativa en la Generalidad Valenciana. Decisiones, en todo caso, en que la tecnología tan solo tien una finalidad mecánica y auxiliar y, con ello, sin un impacto decisivo en la arquitectura del mundo jurídico (Valero Torrijos, Cerrillo y Martínez, etc). Lo novedoso, lo que en buena medida puede representar una capacidad transformadora en el sector público, es el increíble y rápido desarrollo de una tecnología, que si bien aún no es equiparable al razonamiento humano, presenta en términos de eficacia una capacidad valorativa y probabilística que incrementa las posibilidades de adoptar una buena (o mejor) decisión. Y esto ya es otra cosa distinta a la meramente auxiliar.

En efecto, como puede leerse en el Libro Blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza publicado por la Comisión Europea en Bruselas el 19.2.2020, (COM(2020) 65 final), “la inteligencia artificial es una combinación de tecnologías que agrupa datos, algoritmos y capacidad informática” que permite que las máquinas puedan percibir, comprender, actuar y aprender para ampliar las capacidades humanas produciendo beneficios a los ciudadanos y a las empresas.

Los beneficios mencionados surgirán del empleo de la IA en los servicios de interés público, por ejemplo, “mediante una reducción de los costes de la prestación de servicios (transporte, educación, energía y gestión de los residuos), una mayor sostenibilidad de los productos, o proporcionando a los servicios y fuerzas de seguridad las herramientas adecuadas para que aseguren la protección de los ciudadanos, garantizando correctamente el respeto de sus derechos y libertades”.

El Libro Blanco identifica tres sectores que se verán afectados: el sector público, el sector privado y sector transversal de la investigación.  En lo que se refiere al sector público, señala que objetivo de “promover la adopción de la IA por parte del sector público” y proclama que: “resulta fundamental que las Administraciones Públicas, los hospitales, los servicios públicos y de transporte, los supervisores financieros y otras áreas de interés público empiecen a adoptar rápidamente productos y servicios que se basen en la inteligencia artificial en sus actividades. Se hará especial hincapié en los sectores de la atención sanitaria y el transporte, en los que la tecnología está suficientemente desarrollada para una adopción a gran escala”.

En cualquier caso, ya se están produciendo, a través de la IA, algunas innovaciones en nuestras formas de producir políticas. Ciertamente, los pioneros son los países anglosajones donde se puede citar el caso de la regulación inteligente o regulatory sandbox o, como destaca Cerrillo y Martínez en el caso de Estados Unidos, la prevención de riesgo de incendio de los edificios (Atlanta) o de riadas (Hampton) o identificar los locales que serán objeto de inspección (Las Vegas, Chicago). También se utiliza el procesamiento del lenguaje natural y los algoritmos de aprendizaje automático para revisar las solicitudes formuladas por los ciudadanos (Portal Federal Business Opportunities), para asignar subvenciones o evaluar profesores (Nueva York), mejora de la gestión pública, por ejemplo, en la gestión del tráfico (Pittsburg) o, por último, a través de chatbots, las administraciones públicas dan respuesta a las preguntas formuladas por la ciudadanía (U.S.Citizenship and Immigration Services).

En Europa en general, y en España en particular, vamos un paso detrás. Más allá de esa estrategia europea, que en nuestro país se ha traducido más recientemente en un interesante documento, en realidad, y como se ha denunciado por la doctrina, más solvente (Poncé Solé, Boix Palop, etc.) el problema se ha traducido como un asunto privado (aunque sea aplicable al sector público): la protección de datos. O todavía peor, en forma defensiva, como acontece en Alemania con el uso de algoritmos en aquello que afecte a los derechos de la ciudadanía. Y, sin embargo, esta realidad que se acerca va mucho más allá. En nuestro caso, las célebres Leyes 39 y 40/2015 son un paso atrás en este concreto aspecto como ya se ha señalado por Valero Torrijos. Del reciente reglamento aprobado (RD 2013/2021) sólo se puede decir lo mismo.

Algunos de los retos pendientes derivados de la utilización de IA.

Como ya se puso de manifiesto el salto adelante, y por ahora en el vacío, que suponen las nuevas funcionalidades de la IA obligaría a revisar la perspectiva tradicional derivada de la lógica weberiana. Por decirlo de una vez las maquinas, aunque sea de modo incipiente, comienza a pensar y, a la vez, lo hacen con una lógica distinta fundamentada, en gran medida, en el cálculo de probabilidades. No en la subsunción racional que habitualmente utilizamos para alcanzar la solución jurídicamente correcta.

Los problemas que esto plantea, en la medida que la IA avance y se generalice en la toma de decisiones de nuestras Administraciones públicas, van a ser mayúsculos y nos obligan a tener otro ángulo de visión. Ya está ocurriendo de hecho en otros lares respecto de aspectos nucleares de nuestro acerbo jurídico como, a título de ejemplo, la determinación de la presunción de inocencia.

En lo que a la Administración pública respecta, y más específicamente en lo que se refiere a procedimientos y políticas que pueden afectar a garantías y derechos de los ciudadanos, las polémicas que se están planteando son de lo más sugerentes. Desde si debe existir un procedimiento debido para su correcta utilización como ha puesto de relieve Ponce Solé, hasta inclusive si los algoritmos son normas reglamentarias, como ha planteado Boix Palop, con las inevitables consecuencias de dicha calificación en cuanto al procedimiento de elaboración, participación en la misma, evaluación y demás requisitos establecidos hasta la posibilidad de recursos indirectos contra los mismos. La necesaria motivación de los actos administrativos que se sustentan en éstos o la invalidez de los mismos como ha resaltado Gamero Casado, entre otros aspectos, también se han puesto de relieve.

Su impacto no será menor en materia de organización y empleo público. Ya nos hemos referido a ello en otra entrada a este blog, pero simplemente basta con que pensemos en materia organizativa en que será necesaria la transformación de nuestras organizaciones administrativas, no a pequeña escala o en pequeños nichos, sino con la necesaria audacia para preparar los que el presente siglo nos deparará.

Todo ello hace relevante que el Derecho público en general, pero específicamente el Derecho administrativo, tome buena nota de las reflexiones y conclusiones que la Red de Derecho Administrativo e Inteligencia Artificial (DAIA), tras su II Seminario Internacional, realizó recientemente y que marcan un camino ineludible en la lógica en que deberemos desenvolvernos.

Related Posts