MemoryAgent

分类: 高效推理与部署

MemoryAgent

定义

基于 Agent 架构的长期记忆系统,通过 Agent 行为(检索、存储、推理)实现 LLM 的记忆管理

核心要点

属于外部存储型记忆方法

灾难性遗忘风险为”中等”(介于 RAG 和参数化方法之间)

MemoryAgent-14B 在 NIAH 1M tokens 测试中退化 5.76 个百分点

代表工作

MSA: NIAH 基准对比,MSA 退化 3.93pp vs MemoryAgent-14B 退化 5.76pp

相关概念

RAG

KV Cache