主题
RAG 与知识库
RAG(检索增强生成)的目标很朴素:让模型在回答前先去看资料。
链路看着不长——切片、向量化、检索、重排、拼进上下文——但每一步都有能让你排查一整天的坑:
- 切片策略 —— 按字数切、按语义切、带重叠切,各自适合什么文档
- Embedding 选型 —— 中文场景下哪些模型真的够用,维度怎么看
- 重排(Rerank) —— 召回之后为什么还要过一遍 cross-encoder
- 评测 —— 怎么知道你的 RAG 是真变好了还是只是"感觉变好了"
- 混合检索 —— 关键词和向量为什么经常要一起上
最常见的失败模式
检索没召回,模型就开始编。 而且它编得非常自信——因为提示词里写了"请根据资料回答",它却看不到资料,于是拿预训练知识顶上。一定要在无法回答时给出明确的兜底话术。