考察点:Agent 记忆系统的分层设计、写入生命周期与检索排障能力。
要点:先分层。短期记忆是 Session 级的,服务当前任务(用户提问、每轮回复、工具 Observation),直接进入当轮 Prompt,主要依托上下文窗口。长期记忆放在 Session 外部,负责沉淀用户偏好、历史决策、过往经验,新 Session 只按当前问题取回相关条目。两者物理和逻辑上都应分开。
按存储形式分三类:Token 级(向量库文本块)、参数化(LoRA、SFT)、潜在记忆(KV Cache)。按功能分事实、经验和工作记忆;按内容分情景记忆(What happened)、语义记忆(What it means)和程序记忆。
记忆生命周期:编码 → 存储 → 提取 → 巩固 → 反思 → 遗忘。写入通常放在对话结束后,由后台异步任务做语义提纯。写入链路按 Best-Effort 设计:抽取可能漏事实,也可能把假设性陈述误写成偏好;幂等 Key 更适合基于源消息 ID + 抽取批次 ID,而不是抽取结果文本(语义可能相同但字面不同);多端并发合并要引入乐观锁或 MVCC。
三类用户反馈对应三处故障
1)“下一轮就忘” → 短期记忆膨胀或裁剪策略问题
三种手段:上下文缩减(滑动窗口丢弃最早 N 轮,或用轻量模型把历史压成摘要);上下文卸载(工具返回的重型结果放到外部存储,Prompt 只留 UUID 或路径,需要细节时再通过 Function Calling 读回,读取接口要定义超时和大小上限);上下文隔离(子任务只把必要片段交给子 Agent,避免完整历史随任务广播消耗 Token)。
2)“换会话要重说偏好” → 长期记忆检索链路问题
检索通常发生在新 Session 开始时:把 Query 向量化,与记忆库做语义检索,命中的条目 prepend 进 System Prompt。VectorStore 的 P99 会吃进 TTFT,可用 Redis 预热线、浅层偏好预载 + 深度记忆异步精排缓解。排障先看 Trace:query 如何改写、过滤是否正确、哪些条目进入候选集、Reranker 如何打分——任一步出错都会让已写入的条目失效。
3)“引用三年前老政策” → 记忆清理与冲突处理缺失
每条记忆维护得分 score = relevance × importance × decay(t),decay(t) 通常取 e^{-λt}。不建议在向量库对全量记忆算时间衰减,更稳的是先做静态语义召回、再在 Reranker 阶段应用动态调整。新事实与旧事实矛盾时把旧记忆标记废弃。注意软删除可能破坏 HNSW 图结构连通性,需定期 Vacuum 重建。
配套优化:混合检索 + 硬过滤。纯向量检索容易产生“虚假关联”,可把 BM25 与 Dense 候选并列召回,融合用 RRF(几乎不用调参)、Linear weighted(需标注数据校准权重)或 Cross-encoder Reranker;多租户请求进入检索层就应带上 UserID、组织 ID、时间范围等硬过滤条件,由数据访问层注入。注意 HNSW 上的强过滤也有代价——只保留少数租户标签会减少图的可达路径、降低召回率,高活跃租户可用独立 Collection 做物理隔离。
最后:“有记忆”不等于保存聊天记录,只 append 会让长期记忆变成流水账,还需要自我反思(复盘成败、提取 Meta-Knowledge)和记忆聚类合并。记忆不是越多越好——几十万条堆在库里、每次 Top-K 混着过时噪音,体验非常糟,且很难靠调 Prompt 补回来。少量明确的约定(编码规范、报告偏好)用 Markdown 记忆更划算:透明可审计、可 Git 版本控制、零迁移成本;要从大量非结构化记录中按语义召回时,再接入向量检索。
题目与答案就在本页;收藏、批注和错题重练在应用内