Inteligencia artificial en el poder: ¿eficiencia o riesgo democrático?

El nombramiento de una ministra virtual en Albania revela el potencial y los dilemas de automatizar decisiones públicas con Inteligencia Artificial.

Por Gonzalo Álvarez Seura.- Albania nombró recientemente a Diella, una ministra virtual generada con inteligencia artificial, cuyo propósito es supervisar las compras públicas y combatir la corrupción. La medida es tanto simbólica como práctica: busca reducir el favoritismo humano y trasladar parte de la evaluación a un sistema auditable que ya operaba como asistente y ahora amplía su mandato sobre licitaciones.

El anuncio abrió un debate inevitable: ¿cuál es su estatus jurídico y quién responde por sus decisiones? El potencial de acelerar y transparentar procesos convive con dudas sobre legitimidad y control, aunque el proyecto —con soporte técnico reportado de Microsoft— apunta a mayor transparencia.

Estas iniciativas pueden ser valiosas si se sujetan a reglas explícitas: base legal y límites claros; revisión humana (una autoridad identificable y responsable); decisiones explicables con criterios y datos publicados; auditorías técnicas con registros abiertos; evaluación periódica de sesgos e impacto; canales efectivos de impugnación; y seguridad y protección de datos desde el diseño.

En una idiosincrasia como la chilena, la sola idea ya resulta interesante: imaginar una herramienta de IA coadyuvante —por ejemplo, en ChileCompra / Mercado Público, en adjudicaciones de Gobiernos Regionales y Municipalidades (¿le suena el caso convenios?)— que puntúe ofertas y alerte riesgos, operada por funcionarios y bajo el control de la Contraloría y del Consejo para la Transparencia.

No se trata de deshumanizar el Estado, sino de hacerlo más justo y eficiente. La gestión pública tiene el deber de innovar, con seguridad y contrapesos, para cumplir sus fines en el mundo de hoy. Te guste o no, hay algo claro: esto recién comienza.

Gonzalo Álvarez Seura es director de Tech-Law.ai y académico U. Central