Diella: la primera ministra generada con Inteligencia Artificial
El primer ministro de Albania, Edi Rama, anunció en septiembre de este año una posible solución al gran problema de corrupción que arrastra el país: una ministra generada con Inteligencia Artificial que favorezca la transparencia nacional. Así pues, el ministro la presentaba diciendo: “Diella no duerme nunca, no necesita que le paguen, no tiene intereses personales, no tiene primos, y los primos son un gran problema en Albania”. En concreto, es ministra de Obras Públicas y su principal objetivo es revisar y adjudicar todas las licitaciones públicas para librarlas por completo de corrupción mediante un algoritmo. Fue nombrada Diella cuando empezó a existir a principios de 2025 como un asistente virtual en la plataforma online de la administración estatal, e-Albania, cuya función era agilizar, resolver y facilitar gestiones públicas a los habitantes. Aunque continúa presente en este portal, actualmente cuenta con “plenos poderes” en su nuevo cargo y está diseñada para operar de forma autónoma.
En primer lugar, hay que considerar que el gobierno no ha aclarado la cuestión de la responsabilidad en caso de errores o abusos. Además, el hecho de que se desconozca cómo funciona y el código que tiene detrás no hace más que oscurecer el problema. Blue Tiyavorabun, asesor de políticas públicas en la Asociación Europea de Derechos Digitales (EDRi), advierte que “la IA y otros algoritmos utilizados en las administraciones públicas de numerosos países tienen un largo historial de opacidad y discriminación”.
Por último, resaltar que el decreto presidencial, que autorizaba a Edi Rama a supervisar la creación de un ministro público, fue firmado sin llevarse a cabo consulta pública alguna ni un proceso electoral. Lo cual también plantea un debate sobre su legitimidad jurídica si además se tiene en cuenta que Albania no cuenta con un marco legal ni constitucional que contemple la existencia de un cargo público generado con IA, que opere con autonomía y tome decisiones vinculantes sin supervisión. Esto ha hecho surgir una gran crítica sobre el hecho de poner en las manos digitales de empresas privadas -que a menudo no funcionan correctamente- el peso de decisiones públicas que afectarán a los habitantes de todo el país.
Si bien la implementación de la IA en la administración pública puede resultar eficaz al automatizar procesos rutinarios, ahorrando tiempo, recursos y esfuerzo, siempre corre el riesgo de caer en sesgos y errores que perjudiquen a la sociedad. Así pues, estas incorporaciones necesitan marcos legales y técnicos sólidos y transparentes, así como supervisión humana y responsabilidad.
Carlota Agulló.
Mesas, A. (2025, 11 de octubre). Un algoritmo en el gobierno: Albania nombra ministra a una IA para tapar la corrupción institucional. El Salto https://www.elsaltodiario.com/albania/un-algoritmo-gobierno-albania-nombra-ministra-una-ia-tapar-corrupcion-institucional
La Nación. (2025, 23 de septiembre). “No estoy aquí para remplazar a los humanos”, dice ministra IA de Albania. La Nación. https://www.lanacion.com.py/mundo/2025/09/23/no-estoy-aqui-para-remplazar-a-los-humanos-dice-ministra-ia-de-albania/
VASS. (2024, 10 de septiembre). Gobierno inteligente: Inteligencia Artificial en la Administración Pública. VASS
Pues creo, Carlota, que esto mismo se le habrá pasado por la cabeza a muchos gobiernos y ciudadanos cuando surge un caso de corrupción. Pero ya sabemos que la tecnología no es neutra y está mediada por la cultura. Me pregunto por algo que tú misma indicas en tu post: la responsabilidad. En caso de fallo o, peor aún, ¿quién responde? Puede que, lejos de solucionar un problema, estemos creando otro mayor: la opacidad del poder. No quiero pensar qué sucedería si un gobierno se esconde o escuda detrás de un avatar o de un algoritmo (algo que estamos viendo ahora mismo con los fallos de los cribados sanitarios en Andalucía). En España, por suerte, de momento, existe la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, que obliga a las Administraciones a identificar, a requerimiento del ciudadano, a cualquier funcionario que esté al frente de un asunto o expediente de su interés. El derecho al acceso de la información del ciudadano no estaría completo si vaciamos la identidad del agente actuante. Imaginemos un contribuyente que se enfrenta a una inspección de Hacienda (la temida Hacienda) y desconoce qué funcionario o departamento le está inspeccionando; algo así com "El proceso", de Kafka.
ResponderEliminarRaimundo Díaz Valentín.