AI Engineering
Agent Memory 与 State:别把所有历史都塞进上下文
区分会话历史、任务状态、长期记忆和外部事实,设计可控的 Agent 状态管理方式。
Agent 需要状态,但状态不等于把所有聊天历史塞进上下文。无界历史会增加成本、污染推理,并让行为越来越不可解释。
状态类型
| 类型 | 存什么 | 生命周期 |
|---|---|---|
| Conversation | 当前对话意图、约束、澄清信息 | 会话级。 |
| Task State | 计划、已完成步骤、工具结果 | 任务级。 |
| Long-term Memory | 用户偏好、长期项目背景 | 跨会话。 |
| External Facts | 知识库、数据库、文件 | 外部系统。 |
状态压缩
状态应该结构化,而不是纯文本滚雪球。
结论
Agent memory 的关键是“该记什么”和“什么时候忘”。长期记忆必须可查看、可修改、可删除,否则很容易变成隐形风险。
讨论
继续讨论这篇笔记
有问题、补充案例或不同观点,可以通过 GitHub Discussions 继续交流。