Alibaba lanza MEMENTO: agente de contexto Qwen3-8B supera a GPT-5.5

Alibaba researchers have unveiled MEMENTO, an open long-context agent built on Qwen3-8B that uses intelligent context management and note compaction to process up to 2.5 million tokens. By maintaining a strict 20,000-token context window, MEMENTO achieves higher accuracy than GPT-5.5 at a fraction of the inference cost.

Qué es MEMENTO y cómo funciona la gestión de contexto de Alibaba?

A medida que los modelos de lenguaje grande operan con entradas cada vez más extensas, como libros, repositorios de código y registros históricos, mantener el texto bruto dentro de una ventana de atención en expansión se vuelve computacionalmente insostenible. La ejecución de largo contexto tradicional se basa en la compactación del contexto, donde un agente resume el historial de conversación previo en notas auto‑generadas. Sin embargo, los modelos fundacionales listos para usar —incluidos los de última generación como GPT-5.5 y GLM-5.3— suelen producir notas vagas o poco informativas, lo que provoca una degradación del contexto en ejecuciones prolongadas.

MEMENTO resuelve esta limitación fundamental mediante una tubería de entrenamiento de varias etapas construida sobre el modelo abierto Qwen3-8B de Alibaba. Primero, los investigadores impulsan la capacidad de toma de notas afinando el modelo base con trayectorias sintéticas anotadas con notas retrospectivas —resúmenes generados después de conocer la respuesta objetivo. Luego, MEMENTO pasa por aprendizaje por refuerzo (RL) guiado por una función de recompensa compuesta. Esta recompensa evalúa la corrección de la respuesta final, heurísticas de calidad de notas y la calibración de la confianza del modelo.

Puntos clave

• Alibaba introdujo MEMENTO, un marco de gestión de contexto para Qwen3-8B que alcanza un 67,8 % de precisión en tareas de QA de libros de hasta 2,5 M de tokens.
• Opera estrictamente dentro de una ventana de 20 000 tokens usando afinación sintética retrospectiva y RL con calibración de confianza.
• Supera al agente GPT-5.5 (13,1 %) y al GPT-5.5 de contexto completo (56,7 %) con menos de 1/50 del coste computacional.
• Se acerca al rendimiento del agente GLM-5.3 (69,3 %) pese a que GLM-5.3 es aproximadamente 100 veces mayor, operando a 1/9 del coste.
• Generaliza dinámicamente a tácticas avanzadas de razonamiento como el plegado de contexto y la retrotracción basada en confianza en tiempo de prueba.

Por qué es importante

MEMENTO desafía fundamentalmente la tendencia dominante de la industria de expandir indefinidamente las ventanas de contexto de los LLM. Al demostrar que un modelo de 8 mil millones de parámetros con compactación estructurada del contexto puede superar a los principales modelos propietarios que operan con contextos de varios millones de tokens, Alibaba desplaza el foco hacia la eficiencia algorítmica y la gestión de memoria.

Para las organizaciones empresariales, esta investigación abre la puerta a reducciones de coste drásticas. Aplicaciones continuas de IA de largo contexto como análisis legal, auditoría de bases de código y síntesis de historiales médicos actualmente generan tarifas de API prohibitivas. MEMENTO prueba que los modelos abiertos y compactos, afinados con gestión inteligente del contexto, pueden ofrecer mayor precisión a una fracción del coste.

En el panorama más amplio de la IA, este trabajo valida el aprendizaje por refuerzo combinado con datos sintéticos retrospectivos como un paradigma eficaz para enseñar a los LLM habilidades blandas como la toma de notas, la curación de memoria y la calibración de confianza.

Preguntas frecuentes

• ¿Qué es Alibaba MEMENTO y cómo procesa contextos largos? Alibaba MEMENTO es un sistema de gestión de contexto construido sobre el modelo Qwen3-8B que permite a los agentes procesar documentos de hasta 2,5 millones de tokens manteniendo una ventana activa de 20 000 tokens. Lo logra mediante afinación sintética retrospectiva y aprendizaje por refuerzo que entrena al modelo a generar notas de contexto precisas y dinámicas.
• ¿Cómo se compara MEMENTO con GPT-5.5 en rendimiento y coste? En benchmarks de preguntas‑respuesta a nivel de libro, MEMENTO alcanzó un 67,8 % de precisión, superando al modo agente de GPT-5.5 (13,1 %) y al GPT-5.5 con contexto completo (56,7 %), mientras opera con menos de 1/50 del coste computacional y de tokens.
• ¿Cómo puede mi empresa aplicar el modelo de gestión de contexto MEMENTO de Alibaba para reducir costos operacionales de IA? Las empresas pueden adoptar el marco MEMENTO colaborando con ThinkSuite para desarrollar herramientas de IA a medida y automatización. Afinando modelos más pequeños y de código abierto como Qwen3-8B con técnicas de toma de notas retrospectiva y algoritmos de compactación de contexto, los equipos pueden procesar millones de tokens en documentos legales, financieros o técnicos a menos de 1/50 del coste de los LLM propietarios de ultra‑largo contexto, manteniendo mayor precisión.