🧠 模型应用与实战
LLM 微调、RAG 检索增强生成、LangChain / LlamaIndex 项目落地。
这个方向在讲什么
把模型从「能聊天」推进到「能解决具体业务问题」：先用检索补足知识，再用编排把流程串起来，最后才考虑要不要微调。
涉及的核心工具
| 类别 | 代表工具 |
|---|---|
| 应用编排 | LangChain、LlamaIndex |
| 向量存储 | Chroma、Qdrant、Milvus、pgvector |
| 微调 | LoRA / QLoRA、LLaMA-Factory、Unsloth |
| 评测 | RAGAS 等检索与生成质量评估 |
关键概念
- RAG 链路：文档切分 → 向量化 → 检索 → 重排 → 生成。
- 切分策略：块大小与重叠比例，直接决定检索质量。
- Embedding 选型：中文效果、维度、成本之间的取舍。
- 混合检索与重排：关键词 + 向量互补，重排模型精修候选集。
- 微调 vs RAG：知识要更新用 RAG，风格与格式要固化才考虑微调。
- 幻觉与评测：没有评测集的 RAG 调优基本靠猜。
推荐学习路径
- 先搭一个最小可用的 RAG，把链路跑通。
- 调切分与检索参数，观察召回变化。
- 建立小规模评测集，让调优有依据。
- 判断问题出在「缺知识」还是「缺能力」，再决定是否微调。
- 用 LangChain / LlamaIndex 做工程化封装。
📄 本方向文章
内容整理中，后续笔记会补充到这里。