Memoria de agente (Agent memory)
La memoria de agente permite que un agente de IA conserve datos, preferencias y experiencia pasada entre sesiones, en lugar de empezar cada vez con un contexto vacío.
La mayoría de los modelos de chat solo ven lo que cabe en la ventana de contexto actual. La memoria de agente añade un almacén que sobrevive a la conversación. El diseño habitual es un framework de memoria externo como Mem0 o MemOS: tras cada intercambio, un modelo decide qué anotar, con qué precisión redactarlo y cómo deben actualizar los datos nuevos a los antiguos, y un paso de recuperación trae de vuelta más tarde las entradas relevantes. Hy-Memory-30B-A3B, de Tencent, es un modelo abierto entrenado solo para ese paso de escritura.
Otra aproximación, la de MemT-1.0 de MemTensor, integra la memoria en el propio modelo. Un estado de tamaño fijo se sitúa junto a las capas de atención, se actualiza en cada turno y puede guardarse en un archivo y cargarse después, así la conversación antigua no tiene que seguir en el prompt. Según MemTensor, con un historial de 128K tokens esto necesita unas 66 veces menos almacenamiento persistente que una caché KV, aunque la empresa también dice que los sistemas de memoria basados en texto siguen liderando en conjunto.
Los benchmarks de memoria como LoCoMo y LongMemEval son jóvenes, y las tablas publicadas proceden de las ejecuciones de los propios desarrolladores, a menudo sobre submuestras. Las memorias guardadas pueden contener información personal, así que decide dónde viven, cómo pueden los usuarios inspeccionarlas o borrarlas y qué le está permitido recordar al agente.
Términos relacionados
- Agente de IA Un agente de IA es un sistema en el que un modelo planifica y ejecuta tareas de varios pasos llamando a herramientas, como ejecutar código, buscar en la web o editar archivos.
- Generación aumentada por recuperación (RAG) La generación aumentada por recuperación permite que un modelo responda a partir de tus propios documentos recuperando los pasajes relevantes y añadiéndolos al prompt.
- Ventana de contexto La ventana de contexto es la cantidad máxima de texto, medida en tokens, que un modelo puede tener en cuenta a la vez, incluidos tu prompt y su propia respuesta.
- Caché KV La caché KV es la memoria que usa un modelo para recordar los tokens anteriores de una conversación, y crece con la longitud del contexto.