AI Agent记忆系统深度解析 - 从人工智障到超级助理

原文首发于人人都是产品经理，作者：李嘻嘻 原文链接：点击查看

背景：为什么你的AI总是在"装傻"？

"我要退货。"

"好的，请问您要退哪件商品？"

"薯片！"

"好的，请问您的订单号是多少？"

"123456。"

"好的，请问您要退哪件商品？"

这段对话不是段子，而是许多 Agent 刚上线时的真实"翻车"现场。核心问题不在于模型不够聪明，而在于记忆工程（Memory Engineering） 的缺失。如果把 Agent 比作一个聪明的教授，那么记忆系统就是他的"笔记本"和"病例档案"。没有这些，他每秒钟都在经历"初次见面"。

要构建一个 95 分的记忆系统，我们使用最流行的【三个维度分析法】进行工程化重构。

一、Prompt Engineering：意图与槽位的动态追踪

在成熟的 Agent 系统中，Prompt 不再是一段静态的文字，而是一个动态拼装的"状态机"。

1. 槽位填充（Slot Filling）的魔力

Agent 应该自带一张"任务清单"。当用户说出"我要退薯片"时，Prompt 引擎应该实时捕捉到 product_name=薯片，并将其持久化。

2. 指代消解的 Prompt 注入

用户喜欢说"那个"、"它"、"还是刚才那个"。我们在 System Prompt 中需要注入一套逻辑：

"如果用户使用指代词，必须强制检索前 3 轮对话中的实体（Entity）。如果无法确定，请礼貌追问，禁止猜测。"

二、Context Engineering：三层渐进式记忆架构

上下文窗口是昂贵的，也是会"溢出"的。我们不能把所有废话都塞给模型，必须建立一套像 Claude Code 那样的分层压缩体系。

Layer 1: 短时记忆（Session Memory）—— 备忘录

技术实现： 使用 Redis 存储最近 5-10 轮的原始对话。

核心逻辑： 解决"当下"的问题，确保指代消解和即时语境的连贯。

Layer 2: 长期记忆（Long-term Memory）—— 用户画像

技术实现： 将用户过往的偏好、常用地址、历史投诉记录结构化后存入数据库。

产品价值： 当用户说"还是退到上次那个地址"时，Agent 能瞬间从 MySQL 中捞出那个地址，这种"被记住"的感觉是提升用户体验的关键。

Layer 3: 记忆压缩（Memory Compression）—— 瘦身术

当对话超过 20 轮，Token 爆炸时，我们需要启动**"总结者 Agent"**。

操作： 强制让 LLM 对前 10 轮对话做一次摘要，转化为 JSON 格式：

{"意图": "退款", "进度": "已提供单号", "情绪": "愤怒"}

结果： 原始对话被剔除，只保留这份"高纯度摘要"。这既节省了成本，又防止了模型在长文本中迷失。

三、Harness Engineering：状态机与中断拦截

线束工程（Harness）是确保 Agent "可控"的缰绳。在多轮对话中，最怕的是用户"不按套路出牌"。

1. 任务清单的状态机（Status Machine）

我们要给 Agent 套上一层约束：没打完勾，不许结案。

通过外部代码逻辑（Harness），强制检查必填槽位。只要 order_id 为空，无论模型怎么跑，下一轮的引导逻辑必须锁定在"索要单号"上。

2. 话题切换的"拦截钩子"（Hooks）

用户聊着退款，突然问："你们附近哪有门店？"

传统做法： 强行把用户拉回退款流程，用户体验极差。

进阶设计： 触发 IntentSwitchHook。Agent 暂时挂起当前的"退款任务"，跳转到"门店查询"子 Agent，解决完后再通过系统提醒问一句："关于刚才的薯片退款，咱们继续吗？"

四、彩蛋设计：让Agent更有"人情味"

模仿 Claude Code 的有趣设计，我们也为记忆系统加了点料：

情绪感知器： 如果检测到用户连续三轮输入带有感叹号，或者关键词匹配到"投诉"、"差评"，Harness 会立即介入，不再尝试自动回复，而是弹出"一键转人工"绿色通道。

"老友"问候： 如果是老客户，Agent 的开场白会动态调整。如果长期记忆里显示用户昨天刚处理完一笔订单，今天问好时会顺带问一句："昨天的薯片处理结果您还满意吗？"

总结

AI Agent 的落地，差距往往不在模型层，而在这些"苦力活"式的工程设计上。

• Prompt 决定了 AI 的上限
• Context 决定了 AI 的深度
• Harness 决定了 AI 的底线

只有让 AI 拥有了记性，它才能真正从一个问答机器进化为懂你的数字员工。

延伸阅读：如果你想从个人知识管理的角度设计AI记忆，可以看我的另一篇文章——数据仓库式记忆管理，用数仓方法论打造第二大脑。

---

关于作者

李嘻嘻，9年产品经理 + 3年AI实践者，专注于AI产品落地和工具开发。

• 个人站：https://yourhelper.me
• 项目：FormAI、TargetLink、XixiType等6个AI工具