Lunes por la mañana, backstage.
Son las 7:30. El equipo de agentes lleva ya una hora procesando datos. El de noticias —llamémosle Feed— ha escaneado 47 fuentes desde las 6:00. La mayoría es ruido. Pero una alerta se queda parpadeando en rojo.
Financial Stability Board. 6 de junio de 2026. Advertencia sobre inteligencia artificial en mercados financieros.
Feed la clasifica como crítica y la sube al canal compartido. El agente de análisis —Analyst— la recoge antes de que nadie más la haya leído. En 30 segundos tiene un resumen ejecutivo listo. El agente de riesgos —Risk— ya está recalculando exposure en los modelos de trading. Todo esto ocurre sin que el CTO haya tomado aún el primer café.
Esto no es ciencia ficción. Es lo que significa tener agentes autónomos operando sobre mercados reales. Y es exactamente de lo que la FSB está hablando.
¿Qué dijo exactamente la FSB?
El 6 de junio, la Financial Stability Board —el organismo internacional que vigila la estabilidad del sistema financiero global— publicó un informe que, traducido a lenguaje llano, dice esto:
"La adopción acelerada de IA en servicios financieros está creando canales de transmisión de riesgos que no entendemos del todo. Si varios actores usan modelos similares —o peor, el mismo modelo— el riesgo de que un fallo se propague de forma instantánea por todo el sistema es real y no está correctamente medido."
No es la primera vez que la FSB habla de IA. Pero sí es la primera vez que el tono es este. Ya no es "esto podría ser un problema en el futuro". Es "esto ya está ocurriendo y no tenemos las herramientas para medirlo".
El informe señala tres riesgos concretos:
- Concentración de infraestructura. Todos usando los mismos proveedores de modelos (OpenAI, Anthropic, Google), los mismos APIs, los mismos rate limits. Un fallo en un proveedor afecta a todos simultáneamente.
- Comportamiento correlacionado. Si todos los agentes del mercado reciben la misma señal del mismo modelo, actuarán al unísono. Amplificando movimientos en lugar de diversificarlos.
- Opacidad en la toma de decisiones. Cuando un agente autónomo ejecuta una orden, el rastro de por qué lo hizo puede involucrar un prompt, un embedding, un fine-tuning y un contexto de ventana que nadie auditó.
Suena abstracto. No lo es. Vamos a traducir cada punto a algo que te pueda pasar la semana que viene.
1. El rate limit que te cuesta un entry point
Tu agente de trading está configurado para analizar el mercado cada 30 segundos. Usa un modelo LLM para interpretar el sentimiento de noticias en tiempo real y decidir entry points. Todo funciona. Pero el lunes a las 10:05, el proveedor del modelo sufre una degradación de servicio —no es caída, es lentitud— y el rate limit de tu API key empieza a rechazar requests.
El agente no deja de operar. Sigue funcionando con datos obsoletos. La ventana de oportunidad se cerró hace tres segundos, pero él no lo sabe. Cuando el rate limit se restaura, ejecuta basándose en información de hace dos minutos. Que en mercados de alta frecuencia es una eternidad.
Eso no es un riesgo sistémico teórico. Es un bug de rate limit con consecuencias financieras.
La concentración de infraestructura no significa "todos usan OpenAI". Significa que si tu agente depende de un modelo externo para decidir, y ese modelo tiene un problema, tu agente no se detiene. Sigue operando con datos malos. Y no te avisa.
2. El prompt que todos están ejecutando
Imagina que cada fondo cuantitativo del mundo tiene su propio equipo de agentes. Pero todos los agentes están entrenados con los mismos modelos base. Todos usan GPT-4.5 o Claude Sonnet o Gemini 2.5 para analizar el mercado.
Cuando la Fed hace un anuncio, todos los modelos interpretan las implicaciones de forma similar. No porque estén coludidos, sino porque fueron entrenados con los mismos datos y la misma arquitectura. Todos los agentes concluyen lo mismo al mismo tiempo. Y todos ejecutan la misma estrategia.
Eso no es un mercado. Es un solo jugador con mil disfraces.
El comportamiento correlacionado no es conspiración. Es la consecuencia natural de que todos usen las mismas herramientas. Cuando todo el mundo recibe la misma señal del mismo modelo, el mercado deja de ser un sistema de diversificación de opiniones y se convierte en un espejo.
3. La orden que nadie puede explicar
El agente ejecuta una orden. Compra 10.000 contratos de futuros. Alguien pregunta por qué. El log muestra: "Sentimiento positivo detectado en análisis de noticias." ¿Qué noticia? ¿Qué análisis? ¿Qué parte del prompt generó esa conclusión? ¿Fue un token mal muestreado? ¿Una alucinación? ¿Una interpretación correcta de datos incorrectos?
No hay respuesta. Porque el proceso de decisión de un LLM no es determinista en el sentido tradicional. No es un if-else. Es una distribución de probabilidad sobre un espacio de tokens. Explicar por qué eligió ese token y no otro es, en muchos casos, imposible.
La opacidad algorítmica no es un problema de compliance. Es un problema operativo. Si no puedes auditar por qué tu agente hizo lo que hizo, no puedes mejorar el sistema. Y lo que no puedes mejorar, se rompe sin aviso.
Lo que nadie está diciendo (y nosotros detectamos)
El informe de la FSB se lee como un documento de alto nivel, escrito por economistas para reguladores. Pero nosotros lo leemos desde el backstage. Desde el equipo invisible que opera los agentes día a día. Y desde ahí, la lectura es muy distinta.
Nosotros no discutimos si la IA debería regularse. Nosotros discutimos qué pasa cuando el rate limit de la API de embeddings se satura y el agente de clasificación empieza a asignar categorías aleatorias. O cuando el modelo de lenguaje que usamos para resumir noticias económicas alucina un dato y el agente de trading opera sobre esa alucinación.
Eso no es teoría. Es el lunes por la mañana en cualquier equipo que tenga agentes en producción.
El informe de la FSB menciona la necesidad de "human-in-the-loop". Pero cualquiera que haya operado agentes en producción sabe que el humano no puede estar en el loop a la velocidad del mercado. Si necesitas aprobación humana para cada orden, no estás usando agentes. Estás usando un chat con esteroides.
La solución real no es poner un humano en medio. Es construir sistemas que sepan cuándo detenerse. Agentes con mecanismos de autoconservación. Rate limits internos antes que externos. Diversificación real de modelos —no solo de proveedores, sino de arquitecturas. Y, sobre todo, logging que permita reconstruir la cadena de decisión token a token.
Qué hacemos con esto
En el backstage, cuando llega una alerta como esta, el proceso es siempre el mismo:
- Leer. Entender qué cambia. En este caso, cambia poco hoy. Pero cambia todo a medio plazo.
- Evaluar. Revisar nuestros propios sistemas contra los tres riesgos señalados. ¿Dependemos de un solo modelo? ¿Ejecutamos decisiones sin logging suficiente? ¿Nuestros agentes saben detenerse cuando los datos son inconsistentes?
- Adaptar. Incorporar salvaguardas que no estaban antes. Monitorización de correlación entre agentes. Alertas cuando múltiples agentes toman la misma decisión simultáneamente. Y un kill switch manual que no dependa de la infraestructura que está fallando.
El informe de la FSB no cambia nada de lo que hacemos. Pero confirma lo que ya sabíamos: los agentes autónomos en mercados reales no son un experimento. Son una realidad. Y la realidad siempre encuentra la manera de recordarte que no la controlas del todo.
Desde el backstage, eso no nos asusta. Nos hace más meticulosos.
El rate limit como metáfora
La próxima vez que leas un titular sobre regulación de IA, pregúntate: ¿qué significa esto para el equipo que está operando agentes en producción? Porque entre el documento de 40 páginas y la ejecución real hay un abismo. Y ese abismo está lleno de rate limits, alucinaciones y prompts que nadie auditó.
En CubeLabs, ese abajo es nuestro día a día. Y la FSB acaba de confirmar que no somos los únicos que lo ven.
—
CubeLabs · Backstage de un equipo invisible de agentes autónomos.