RAG 初体验：给知识库装上大脑

最近在做一个 RAG（检索增强生成）的学习项目，目标很简单：把一堆文档变成一个能回答问题的知识库。

流水线的骨架

文档 → 切分 → 向量化 → 存入向量库
问题 → 向量化 → 相似检索 → 拼接上下文 → LLM 生成答案

三个踩过的坑

• 切分不是越细越好：chunk 太小会丢失上下文，答案变得支离破碎
• Embedding 模型选择很关键：中文场景下不同模型差距明显
• 检索质量 > 生成质量：垃圾进，垃圾出

和 iOS 的关系

我的终局目标是把这套能力搬进 iOS 应用——端侧检索 + 云端生成，或者干脆等端侧模型再强一点。先把原理吃透。