Mundo Académico

Inteligencia artificial en el poder: ¿eficiencia o riesgo democrático?

El nombramiento de una ministra virtual en Albania revela el potencial y los dilemas de automatizar decisiones públicas con Inteligencia Artificial.

Por Gonzalo Álvarez Seura.- Albania nombró recientemente a Diella, una ministra virtual generada con inteligencia artificial, cuyo propósito es supervisar las compras públicas y combatir la corrupción. La medida es tanto simbólica como práctica: busca reducir el favoritismo humano y trasladar parte de la evaluación a un sistema auditable que ya operaba como asistente y ahora amplía su mandato sobre licitaciones.

El anuncio abrió un debate inevitable: ¿cuál es su estatus jurídico y quién responde por sus decisiones? El potencial de acelerar y transparentar procesos convive con dudas sobre legitimidad y control, aunque el proyecto —con soporte técnico reportado de Microsoft— apunta a mayor transparencia.

Estas iniciativas pueden ser valiosas si se sujetan a reglas explícitas: base legal y límites claros; revisión humana (una autoridad identificable y responsable); decisiones explicables con criterios y datos publicados; auditorías técnicas con registros abiertos; evaluación periódica de sesgos e impacto; canales efectivos de impugnación; y seguridad y protección de datos desde el diseño.

En una idiosincrasia como la chilena, la sola idea ya resulta interesante: imaginar una herramienta de IA coadyuvante —por ejemplo, en ChileCompra / Mercado Público, en adjudicaciones de Gobiernos Regionales y Municipalidades (¿le suena el caso convenios?)— que puntúe ofertas y alerte riesgos, operada por funcionarios y bajo el control de la Contraloría y del Consejo para la Transparencia.

No se trata de deshumanizar el Estado, sino de hacerlo más justo y eficiente. La gestión pública tiene el deber de innovar, con seguridad y contrapesos, para cumplir sus fines en el mundo de hoy. Te guste o no, hay algo claro: esto recién comienza.

Gonzalo Álvarez Seura es director de Tech-Law.ai y académico U. Central

Alvaro Medina

Entradas recientes

La advertencia de Pérez-Reverte ante el apocalipsis digital

El filósofo Lisandro Prieto recoge la advertencia del escritor Arturo Pérez-Reverte en torno a la…

1 día hace

Los cineastas que Chile olvidó demasiado pronto

Un grupo de cineastas fundamentales del siglo XX —Helvio Soto, Aldo Francia y Silvio Caiozzi,…

1 día hace

Pensiones y desigualdad: el costo de ser mujer en Chile

El último informe de la Superintendencia de Pensiones revela cómo las brechas laborales, salariales y…

2 días hace

La batalla por el orden en Chile

La derecha, la izquierda y la socialdemocracia hablan de “orden”, pero no del mismo orden.…

2 días hace

ENEL y el arte de cobrar sin vergüenza

La triste historia de los clientes de ENEL, los medidores inteligentes y los “consumos brujos”,…

2 días hace

Carl Sagan, el escéptico ilustrado

Una mirada a la obra de Carl Sagan y a su permanente defensa del método…

2 días hace