记忆与上下文¶
English | 中文
上下文是模型现在看到的东西。记忆是持久的东西。知识是有据可依的东西。世界状态是关于环境 的真实情况。它们是不同问题。
层次¶
| 层次 | 生命周期 | 混淆后的失败 |
|---|---|---|
| 上下文 | 一步或一个会话 | 提示膨胀、丢失溯源 |
| 记忆 | 跨运行 | 过期或未治理的持久化 |
| 知识 | 跨系统 | 未锚定主张、冲突定义 |
| 世界状态 | 跨时间 | 用最新一行而不是真相做决定 |
上下文工程¶
上下文窗口是工作集。好的上下文工程问：
- 这一步需要的最小上下文是什么？
- 哪些条目是权威的，哪些是提示？
- 什么过期了？
- 什么不可信？
- 什么会被记录为已使用？
更多上下文不一定更好。无关或对抗性上下文会降低决策质量并增加成本。
记忆设计¶
记忆系统需要：
- schema（情景、语义、程序性）；
- 寻址（租户、会话、实体、时间）；
- 检索（关键词、向量、图、时近性）；
- 修订（追加、分支、合并、遗忘）；
- 治理（保留、同意、删除）。
向量索引提供检索，不提供其余部分。
知识锚定¶
知识锚定给检索材料附加意义与证据：
- 概念定义；
- 实体身份；
- 带来源的主张；
- 冲突处理；
- 按用途限定的视图。
没有锚定，检索给出似是而非的文本，而不是可用知识。
世界状态¶
运营决策的状态必须是时间性的：
- 有效时间 vs 记录时间；
- 断言与证据；
- 快照与变更。
仪表盘显示快照。世界模型让你问：何时为真、为什么。
经验法则¶
- 不要把持久记忆放进提示词。
- 不要把不可信上下文放进控制路径。
- 不要把检索当作知识锚定。
- 不要把最新值当作真相。
- 记录使用了哪些上下文。