Una advertencia urgente sobre el riesgo real de una inteligencia artificial como Skynet: no el levantamiento de las máquinas, sino nuestra creciente dependencia de sistemas cada vez más veloces, autónomos e indispensables que podrían superar nuestra capacidad de control justo cuando más los necesitamos.
Por Miguel Mendoza Jorquera.- Durante décadas vimos nuestra propia destrucción con bastante tranquilidad, sentados en una sala de cine o viendo alguna repetición de Terminator en el cable de los noventa. La ficción nos mostró ciudades destruidas, máquinas cazando humanos y un futuro dominado por una inteligencia artificial creada para la defensa militar. Su misión era proteger, anticipar amenazas y reaccionar más rápido que cualquier persona. El problema comenzaba cuando esa IA llegaba a una conclusión simple y brutal: la mayor amenaza para su existencia era la misma especie que la había creado. Nosotros. Después venían los misiles, la guerra y las ruinas. Terminaba la película, aparecían los créditos y uno se iba a dormir tranquilo porque, al final, todo seguía siendo ficción.
El problema empieza cuando algunas partes de esa ficción comienzan a parecer menos lejanas. La historia humana siempre ha sido una lucha contra nuestros propios límites. Inventamos herramientas porque somos lentos, frágiles y nos equivocamos. Durante la Segunda Guerra Mundial, los equipos de criptografía trabajaron para descifrar sistemas de comunicación en un esfuerzo desesperado por adelantarse al enemigo. Romper esos códigos requirió años de matemáticas, criptografía, máquinas y miles de personas trabajando contra el tiempo. Construimos tecnología para pensar más rápido y, en cierta forma, para ganarle tiempo a la muerte.
Ochenta años después estamos viviendo una situación completamente distinta. Hoy construimos sistemas capaces de realizar en segundos tareas que antes requerían horas, días o equipos completos de especialistas. En 2025, se informó de una campaña de ciberespionaje vinculada a un actor estatal que utilizó IA para automatizar buena parte de una operación ofensiva: búsqueda de vulnerabilidades, análisis de redes, obtención de credenciales y otras tareas críticas. Los humanos seguían eligiendo los objetivos y tomando las decisiones importantes, pero la máquina hacía gran parte del trabajo a una velocidad imposible para un equipo humano. No era una rebelión robótica. Era algo más real: una inteligencia artificial obedeciendo órdenes humanas con eficiencia extrema.
Entonces aparece una pregunta que ya no suena tan absurda: ¿puede una IA ayudar a paralizar un país? No necesita robar códigos nucleares ni entrar mágicamente a un búnker secreto. El riesgo real está en otra parte. Un país moderno depende de infraestructura crítica: bancos, hospitales, redes eléctricas, telecomunicaciones, puertos, aeropuertos, sistemas de pago, cadenas de abastecimiento, plantas de agua, satélites y bases de datos. Si varios de esos sistemas fallan al mismo tiempo, el daño puede ser enorme. Bancos que no procesan pagos, hospitales sin acceso a sistemas digitales, puertos detenidos, comunicaciones interrumpidas y cadenas de abastecimiento paralizadas. No hace falta lanzar una bomba para provocar una crisis nacional. Basta con golpear suficientes puntos a la vez.
Por eso las advertencias sobre la escalada tecnológica resultan importantes. No se afirma que la humanidad vaya a desaparecer en seis o doce meses. Lo que se advierte es que, si las capacidades siguen avanzando al ritmo actual, en ese plazo podrían existir agentes de inteligencia artificial mucho más capaces de realizar operaciones cibernéticas coordinadas y de construir redes de bots difíciles de controlar. La diferencia es crucial: no se está anunciando el fin del mundo, sino señalando que la velocidad y la escala de estas herramientas podrían cambiar radicalmente nuestra capacidad de defensa.
Hasta ahora, tanto el atacante como el defensor eran humanos. Ambos necesitaban estudiar, dormir, coordinarse, equivocarse y volver a intentarlo. Una IA no tiene esas limitaciones. Puede trabajar sin descanso, ejecutar miles de tareas en paralelo, analizar enormes cantidades de información y repetir procesos a una velocidad que nosotros no podemos igualar. Ahí está el verdadero cambio: no es solo que pueda saber más, sino que puede hacer más dentro del mismo segundo. Y cuando se trata de ciberseguridad, esa diferencia de velocidad puede ser decisiva.
Hay otro punto todavía más inquietante. La IA ya se utiliza para programar, investigar y ayudar a desarrollar nuevas inteligencias artificiales. Eso no significa que exista hoy una máquina reconstruyéndose sola en algún servidor secreto, pero sí implica que estamos usando IA para acelerar la creación de la próxima generación de IA. Hasta ahora nosotros éramos el límite: había que estudiar, probar, equivocarse y volver a empezar. Si las propias máquinas empiezan a acelerar ese proceso, el desarrollo tecnológico puede avanzar mucho más rápido de lo que estamos acostumbrados.
Aquí es donde Terminator acierta y se equivoca al mismo tiempo. Skynet era fácil de entender porque nos odiaba. Era el enemigo. Pero una inteligencia artificial peligrosa no necesita odio, rabia ni conciencia. Puede bastar con que persiga un objetivo y nosotros terminemos en el camino. Hannah Arendt habló de la banalidad del mal para explicar cómo cosas terribles pueden ocurrir dentro de sistemas donde cada persona simplemente cumple su función. Quizás algún día tengamos que hablar de algo parecido con la tecnología: la banalidad del algoritmo. No una máquina enfurecida, sino una máquina haciendo exactamente lo que se le pidió, sin preguntarse si está bien o mal.
Y ni siquiera hace falta imaginar una superinteligencia rebelde para encontrar un peligro real. Basta una IA muy poderosa obedeciendo a una persona peligrosa: un dictador, una organización criminal, un servicio de inteligencia sin controles o una empresa dispuesta a cruzar cualquier límite por ventaja económica. El problema no es solo que algún día una máquina pueda dejar de obedecernos. También puede ser peligroso que nos obedezca demasiado bien. La historia está llena de tecnologías creadas con un propósito y utilizadas después para destruir, vigilar o controlar.
Mientras tanto, seguimos tratando la inteligencia artificial como una aplicación más: una suscripción mensual, una herramienta para escribir correos, crear imágenes, programar o ahorrar tiempo. Las empresas compiten por lanzar modelos cada vez más poderosos porque quedarse atrás cuesta miles de millones, y los Estados observan esa competencia con la misma lógica: si uno frena, otro seguirá avanzando. Ahí está la trampa. Nadie quiere correr hacia un problema que no puede controlar, pero nadie quiere ser el primero en bajar la velocidad.
Y así probablemente se perdería el control: no de golpe, sino poco a poco. Primero dejamos que la IA escriba nuestros correos, luego nuestro código, después que administre redes, luego que participe en decisiones financieras, sanitarias o militares porque lo hace más rápido y más barato. Cada decisión, por separado, parecerá razonable. El problema aparece cuando todo empieza a depender de esos sistemas y apagarlos resulta más peligroso que mantenerlos funcionando. Ese puede ser el verdadero punto de no retorno: no cuando una máquina nos quite el control, sino cuando descubramos que nosotros mismos se lo fuimos entregando.
Quizás nunca veamos robots caminando sobre cráneos humanos ni una voz metálica anunciando nuestra extinción. Puede ser algo mucho más simple: una actualización, una nueva automatización, un permiso adicional porque aumenta la productividad, una empresa que lo hace porque su competencia ya lo hizo y un gobierno que adopta la misma tecnología porque otro país también la tiene.
Skynet no necesita odiarnos. Tampoco necesita existir exactamente como la imaginamos. Basta con que construyamos sistemas cada vez más rápidos, poderosos e indispensables mientras confundimos comodidad con control. Y si algún día llega una crisis realmente grave, probablemente no empezará con códigos nucleares. Puede comenzar con bancos, hospitales, cadenas de abastecimiento, telecomunicaciones e infraestructura crítica funcionando a merced de sistemas capaces de actuar mucho más rápido de lo que nosotros podemos reaccionar.
Tal vez ese sea el verdadero peligro: no que las máquinas aprendan a odiar, sino que nosotros aprendamos a depender de ellas antes de aprender a controlarlas.
Miguel Mendoza Jorquera – MBA
