基础概念

这个分类放用大模型绕不开的底层机制。

很多人觉得大模型是"玄学"，多半是因为跳过了这一层直接去看 API 文档：明明照着抄的 prompt，效果时好时坏；明明加了知识库，回答还是胡说。根因基本都在这里。

计划覆盖：

• Token 与上下文窗口 —— 模型为什么"忘事"，上下文怎么被消耗掉
• Embedding 到底是什么 —— 文本怎么变成向量，为什么"语义相似"能用余弦算
• 向量检索 —— 相似度、索引、召回率
• 采样参数 —— temperature / top_p / top_k 各自在改什么
• 概率本质 —— 模型为什么会产生幻觉，以及这不是 bug

阅读顺序建议

如果你是前端出身，Token 与上下文窗口那篇先看——它解释了后面所有"为什么效果不稳定"的问题。