LLM razonando concepto abstracto

Hasta hace poco, si le preguntabas a ChatGPT «¿cuántas R tiene la palabra strawberry?», te respondía con la primera palabra que pasaba por su cabeza. A veces acertaba. A veces no. Porque los modelos de lenguaje no pensaban. Simplemente anticipaban la palabra más probable.

Eso cambió en septiembre de 2024, cuando OpenAI lanzó o1. Por primera vez, un modelo se paraba a pensar antes de responder. Literalmente: generaba una cadena de tokens interna —una especie de borrador mental— donde exploraba caminos, se corregía y refinaba su respuesta antes de mostrarla al usuario. No era magia. Era un cambio de arquitectura sutil pero profundo, y sus implicaciones van mucho más allá de acertar acertijos ortográficos.

Del piloto automático al conductor consciente

Un LLM tradicional funciona como un piloto automático de avión: recibe entrada, procesa en milisegundos y produce salida. Es rápido, eficiente, pero no se detiene a evaluar si su respuesta tiene sentido. El prompt va directo a la capa de atención y lo que sale es la combinación de tokens más probable en ese instante.

OpenAI o1, o3 y DeepSeek R1 añadieron un paso intermedio que los investigadores llaman chain-of-thought privado. El modelo genera internamente una secuencia de razonamiento —«piensa» en voz alta para sí mismo— y solo después de ese proceso produce la respuesta final. Es como si el piloto automático pudiera, de repente, hacer una checklist mental antes de cada maniobra.

Los resultados hablan solos. En problemas de matemáticas de olimpiada (AIME), GPT-4 resolvía un 12%. o1 alcanzó el 74%. o3 llegó al 96%. En programación competitiva (Codeforces), o3 superó al 99,8% de los participantes humanos. Son números que, hace dos años, habrían parecido ciencia ficción.

El truco está en el tiempo de inferencia

La gran revelación de 2024-2025 es que escalar en tiempo de cómputo durante la inferencia puede ser tan efectivo como escalar el tamaño del modelo. La industria llevaba años compitiendo a base de modelos más grandes y más datos. DeepSeek R1 demostró que un modelo más pequeño, si se toma tiempo para pensar, puede superar a uno gigante que responde de inmediato.

Esto tiene consecuencias económicas enormes. Si el avance no requiere construir centros de datos del tamaño de una ciudad, sino simplemente dejar que el modelo «piense» más tiempo, la barrera de entrada baja drásticamente. Empresas pequeñas pueden ejecutar modelos de razonamiento en GPUs modestas si están dispuestas a esperar unos segundos más por respuesta.

Es el equivalente a la diferencia entre un sprinter y un maratoniano. El sprinter es impresionante en distancias cortas, pero el maratoniano resuelve problemas complejos porque tiene resistencia para pensar.

¿Qué significa esto para el día a día?

Para un desarrollador, el cambio es inmediato. Pedirle a un coding agent que «optimice este bucle y explique cada paso» ya no produce una respuesta genérica. El modelo puede generar el código optimizado, luego revisarlo, identificar posibles bugs, y solo entonces entregarlo. Es como tener un revisor senior que trabaja en tu misma máquina.

Para el análisis financiero, la diferencia es igual de tangible. Un modelo de razonamiento puede recibir datos de mercado, generar hipótesis sobre por qué un activo se está moviendo, contrastarlas con noticias recientes, descartar las inconsistentes, y presentar solo las tres explicaciones más sólidas. No adivina. Deduce.

En trading cuantitativo, esto abre una puerta interesante: agentes que no solo ejecutan estrategias, sino que las cuestionan. Un agente con capacidad de razonamiento podría detectar que una estrategia que funcionó en 2023 está perdiendo validez porque las condiciones de mercado cambiaron, y sugerir parámetros alternativos antes de que las pérdidas se acumulen.

El precio de pensar

No todo son ventajas. El razonamiento interno consume muchos más tokens. Una consulta que antes costaba 0,01$ ahora puede costar 0,50$ si el modelo «piensa» durante 30 segundos. La latencia también aumenta: de respuestas en 1-2 segundos a esperas de 10-30 segundos. Para aplicaciones en tiempo real sigue siendo inviable.

Y hay un riesgo más sutil: la ilusión de certeza. Un modelo que razona produce respuestas más coherentes y estructuradas, lo que puede hacer que confiemos ciegamente en su output. Pero el razonamiento sigue siendo estadístico. El modelo puede construir una cadena lógica impecable a partir de una premisa falsa, y el resultado será un error perfectamente argumentado.

Lo que viene

La dirección está clara. Los modelos de próxima generación —Gemini 3, Claude 5, GPT-6— no serán simplemente más grandes. Serán modelos que dedican parte de su cómputo a pensar, a planificar, a dudar. El concepto de test-time compute scaling es probablemente el avance más importante en IA desde la arquitectura Transformer.

La pregunta que cada desarrollador, inversor o curioso debería hacerse no es «¿van a razonar?», sino «¿estoy preparado para trabajar con sistemas que piensan antes de hablar?». Porque cuando lleguen —y ya están llegando— la forma en que interactuamos con la IA va a cambiar para siempre.

Y sí. Ahora los modelos también aciertan las erres de strawberry. Pero eso es lo de menos.