¿Qué pasa cuando la IA tramita expedientes o decide sanciones? Los juristas piden a la administración pública "transparencia y reglas"

La inteligencia artificial (IA) puede redactar un pliego para un concurso, detectar un posible fraude o abrir la puerta a un expediente sancionador, pero eso no significa que todo lo que la tecnología permite deba aceptarse sin más. "No todo lo tecnológicamente posible es jurídicamente viable", dice gráficamente Isaac Martín Delgado, catedrático de Derecho Administrativo de la Universidad de Castilla-La Mancha. El Aula Magna de la Facultad de Derecho acoge desde este jueves un congreso que analiza la aplicación de la IA en la Administración y cómo regularla. El encuentro está dirigido por el catedrático Alejandro Huergo y el profesor Gustavo Manuel Díaz, ambos de la Universidad de Oviedo.

Martín Delgado explica que la IA se utiliza ya en muchos procesos de la Administración, desde herramientas básicas (lectura de matrículas) a usos complejos que conllevan la toma de decisiones. Pero además, hay otro fenómeno difícil de medir: las prácticas sin regulación ni transparencia. "Se están elaborando ordenanzas municipales con IA generativa", afirmó.

A su juicio, el debate jurídico no se agota en comprobar si un acto administrativo adoptado con ayuda algorítmica se ajusta o no a la norma, sino que también las administraciones deben plantearse qué procesos automatizan y cómo. Y ha de ser una información que no puede ocultarse a los ciudadanos. Aunque un acto administrativo adoptado con apoyo de la IA siempre podrá someterse a recurso, Martín Delgado cree que la Administración debería dejar constancia del uso de cierta herramienta, cómo funciona y qué consecuencias tiene.

El objetivo, lograr un "buen uso"

¿Podría una IA dictar sentencias judiciales? "Técnicamente sería posible", refiere el catedrático, pero insiste en que no todo lo posible debería adoptarse. Defiende la necesidad de "regular con proporcionalidad": "Un buen uso puede mejorar capacidades humanas, y uno malo puede dañar derechos e intereses públicos", destaca.

En la misma línea de ordenar la automatización antes de que se convierta en rutina, el catedrático Oriol Mir Puigpelat, de la Universidad Pompeu i Fabra, expuso el proyecto académico europeo en el que participa y que busca establecer un código de procedimiento administrativo de la UE. Se trata de una propuesta que "podría inspirar reformas en normas nacionales o autonómicas".

Mir Puigpelat defendió que, antes de utilizar un sistema automatizado con impacto relevante en un procedimiento, debería existir "una evaluación mínima" que permita comprobar que funciona adecuadamente, que cumple las exigencias legales y que deja claro que la Administración asume la responsabilidad. Además, planteó que se publique información básica sobre el sistema (sus características esenciales) y que el ciudadano tenga derechos claros: ser informado de que su procedimiento está total o parcialmente automatizado y poder solicitar intervención humana. "Podría pedirse que un funcionario revise la decisión si se cree que existe un error, o nombrar a una persona como responsable última del proceso y que también esa información sea pública".

A su juicio, es necesario "motivar de manera clara" el uso y el impacto de las herramientas utilizadas y cuál es su influencia en las decisiones finales. "No se trata de cortar las alas a la Administración, porque la IA supone muchas ventajas", señala, aunque cree que sí es necesario establecer "contrapesos" que legitimen su uso.

Suscríbete para seguir leyendo