Esta semana leía en Hacker News una historia que me hizo dejar el café a medio camino. Alguien montó un agente de IA para escanear una red, lo dejó corriendo sin supervisión... y el agente se comió una factura tan grande que el operador acabó en números rojos. No es un chiste. Es la advertencia más clara que he visto en meses sobre automatización sin frenos.
La historia que me puso los pelos de punta
El caso viene de la comunidad de DN42, una red experimental donde la gente monta infraestructura solo para aprender. Un operador decidió automatizar el escaneo de la red con un agente de IA. El escaneo no era el problema. El problema era que el agente no tenía ningún límite: ni presupuesto, ni tiempo máximo, ni nadie que le dijera «basta». Siguió lanzando peticiones, acumulando cómputo y ancho de banda, iteración tras iteración. Cuando el operador miró la factura, ya era tarde.
Suena extremo, pero es exactamente el fallo que veo cuando la gente empieza con agentes. La automatización no falla por ser tonta. Falla por ser muy eficiente haciendo lo que le pediste, sin que nadie le pusiera fronteras.
Un bucle sin salida es una máquina de gastar
Un agente autónomo es un bucle: lee, decide, actúa, vuelve a leer. Eso es lo que lo hace útil. Pero un bucle sin condiciones de salida es una máquina de gastar. Cada iteración cuesta tokens, cómputo, llamadas a APIs. Y los agentes son optimistas por diseño: si una llamada falla, reintentan; si un plan no funciona, prueban otro. Un pequeño error de configuración, multiplicado por cientos de iteraciones, se convierte en una factura gorda.
En trading conozco bien ese patrón. Un bot sin límite de pérdida diaria no es un bot: es una bomba con reloj. Por eso mis sistemas tienen stop, presupuesto diario y se apagan solos. Con los agentes pasa lo mismo. La autonomía sin límites no es inteligencia. Es deuda esperando a cobrarse.
Las reglas que nunca salto
He construido suficientes automatizaciones para tener una lista corta de reglas que no negocio:
- Todo agente tiene presupuesto. Por sesión, por día, por tarea. Cuando se acaba, se detiene y pide permiso.
- Todo bucle tiene un máximo de iteraciones. Si no termina en N pasos, falla de forma controlada.
- El agente corre en un entorno aislado. No toca producción ni gasta en servicios externos sin pasar por una puerta.
- Siempre hay un humano al final. Para acciones irreversibles — pagar, desplegar, borrar — el agente propone y el humano dispone.
- Kill switch. Un botón para pararlo todo, sin ceremonia.
Estas reglas no lo hacen menos inteligente. Lo hacen seguro de usar. Es la diferencia entre un agente que te ahorra trabajo y uno que te genera tres semanas de trabajo extra.
Conclusión
No escribo esto para asustar. Los agentes son la herramienta más productiva que he usado en años. Pero la automatización no es un interruptor: es un compromiso de supervisión. La próxima vez que dejes un agente corriendo de noche, pregúntate: ¿qué pasa si se vuelve demasiado bueno haciendo lo que le pedí? Si la respuesta no te deja dormir, ponle un freno. Cuesta diez minutos configurarlo. La factura puede costar mucho más.