Chunking 策略:文档切法的学问
2026/8/23大约 2 分钟
AICon 2026 学习系列 · 阶段 2 · RAG 与数据 · 第 12/43 篇 · 🚧 占位待学
上一篇:《Embedding 与相似度:语义坐标系》
下一篇:《混合检索与 Rerank:召回求全、重排求准》
学习大纲:《AICon 2026 学习总纲》
状态:待学习。 本文为占位文档:知识点清单、实验与验收标准已就绪,正文待按「先学习、先实验、再撰写」补全。
对应总纲单元:阶段 2 · 单元 2.2
一、本文要解决的问题
同一份 PDF,切法不同,检索效果天差地别。切大了喂噪声、切小了丢语境——chunking 是 RAG 效果的第一道分水岭。
二、知识点清单
- 固定长度 / 递归字符 / 按结构(标题、段落、Markdown 层级)三种切法
- chunk_size 与 overlap 的取舍
- 表格、代码、图文混排的特殊处理
- 元数据挂载:来源、标题路径、页码——溯源与过滤的钩子
三、动手实验(学习时必须真跑)
- 同一份 PDF 三种切法各建索引,同一组 10 个问题对比命中
- 故意用错切法(表格被从中间切开),观察答案劣化
四、验收标准(全部通过才进入下一篇)
五、写作提示(补正文时遵守)
- 开篇问题驱动;结构走「是什么 → 为什么 → 怎么做 → 背景知识」
- 所有代码、命令、输出必须先在本机跑通再写入,不得杜撰
- 版本口径以总纲环境清单为准(Python 3.12 / Ollama / vLLM 与 SGLang 最新版 / Spring AI 1.x)
- 涉及版本敏感结论时标注出处与时间
本篇完成后,把文首导航块的「🚧 占位待学」去掉,并在总纲处打卡。