多轮与记忆:无状态模型的「记得」
2026/8/23大约 2 分钟
AICon 2026 学习系列 · 阶段 1 · 模型编程主干 · 第 9/43 篇 · 🚧 占位待学
上一篇:《裸写 Function Calling 循环:Agent 的原子操作》
下一篇:《上下文耗尽与压缩:长对话的续命术》
学习大纲:《AICon 2026 学习总纲》
状态:待学习。 本文为占位文档:知识点清单、实验与验收标准已就绪,正文待按「先学习、先实验、再撰写」补全。
对应总纲单元:阶段 1 · 单元 1.4
一、本文要解决的问题
模型本身无状态,为什么聊天像「记得」你?因为每一轮都在重发全部历史。理解这一点,才能理解记忆的几种形态与它们的成本。
二、知识点清单
- messages 数组:多轮的本质是历史重拼
- token 随轮数累积:多轮对话越来越贵的账
- 记忆三形态:全文重发 / 滚动窗口 / 摘要压缩(外存向量库在阶段 2 展开)
- 「记得」的错觉:截断窗口后模型为何装作无事发生
三、动手实验(学习时必须真跑)
- 手动维护 messages 实现一个命令行多轮对话
- 对话 20 轮后打印完整请求体,直观看 token 膨胀;再实现滑动窗口版对比
四、验收标准(全部通过才进入下一篇)
五、写作提示(补正文时遵守)
- 开篇问题驱动;结构走「是什么 → 为什么 → 怎么做 → 背景知识」
- 所有代码、命令、输出必须先在本机跑通再写入,不得杜撰
- 版本口径以总纲环境清单为准(Python 3.12 / Ollama / vLLM 与 SGLang 最新版 / Spring AI 1.x)
- 涉及版本敏感结论时标注出处与时间
本篇完成后,把文首导航块的「🚧 占位待学」去掉,并在总纲处打卡。