Este artículo de Stanford y Harvard explica por qué la mayoría de los sistemas de “IA agentica” parecen impresionantes en las demostraciones y luego se desmoronan por completo en el uso real.

Se llama “Adaptación de IA agentica” y es el artículo más importante que he leído en todo el año.
Ahora mismo, todos están obsesionados con construir agentes autónomos. Les damos herramientas, memoria y un objetivo, y esperamos que hagan nuestro trabajo.
Pero cuando se despliegan en el mundo real, hallucinan llamadas a herramientas. Fallan en la planificación a largo plazo. Se rompen.
Aquí está la razón:
Estamos intentando meter todo el aprendizaje en el cerebro de la IA.
Cuando los desarrolladores intentan arreglar un agente roto, generalmente solo ajustan finamente el modelo principal para producir mejores respuestas finales.
Los investigadores descubrieron un fallo fatal en este enfoque.
Si solo recompensas a una IA por obtener la respuesta final correcta, se vuelve perezosa.
Literalmente aprende a dejar de usar sus herramientas. Intenta adivinar la respuesta en lugar de hacer el trabajo. Ignora la calculadora y trata de hacer las matemáticas en su cabeza.
Para solucionar esto, los investigadores trazaron un nuevo marco de 4 partes sobre cómo deberían aprender realmente los agentes.
Y la mayor conclusión invierte completamente la meta actual.
En lugar de reentrenar constantemente el “cerebro” masivo y costoso del agente, los sistemas más confiables hacen lo contrario.
Congelan el cerebro. Y adaptan las herramientas.
Lo llaman Adaptación de Herramientas Supervisada por Agentes.