RAG 檢索增強生成

讓 AI 先查你的資料，再根據資料回答。

先用一句話理解

英文全名：Retrieval-Augmented Generation

讓 AI 先查你的資料，再根據資料回答。

打個比方

像助理先翻公司手冊，再回答客戶問題。

什麼時候會遇到

AI 需要回答公司文件、知識庫、法規、客服資料時。

再往深一點看

RAG 是一整套「先查再答」的流程：使用者提問後，系統先到你準備好的資料庫裡撈出最相關的段落，再把這些段落和原始問題一起交給 LLM，讓模型根據這些資料生成回答。RAG 的重點不只是資料本身，而是「切分（chunking）」「檢索（retrieval）」「注入上下文（context injection）」三個步驟加在一起的品質——任何一個環節做壞，AI 就可能答非所問或胡亂引用。它和直接問 LLM 的最大差別是：RAG 的答案根植於你提供的真實文件，而不是模型訓練時記住的老資料，所以不容易在公司特有知識上出錯。向量資料庫是 RAG 最常用的檢索層，但 RAG 本身指的是這整個檢索加生成的協作流程，而不是向量資料庫這個元件本身。

舉個例子

你把公司所有客服 FAQ 切成小段、存進 Pinecone。當使用者問「退貨期限是幾天？」，系統先在 Pinecone 找到最相關的 FAQ 片段，再把它塞給 OpenAI GPT-4o，讓模型根據這段內容直接回答，而不是靠模型憑空猜測。

常見誤解

- 以為丟文件給 AI 就一定正確，忽略資料切分太長導致關鍵句被稀釋，檢索回來的段落根本答非所問。
- 只測試正常問題，沒測跨段落問題（答案橫跨兩份文件），結果模型因為拿不到完整脈絡而回答錯誤。
- 沒處理「沒有相關資料」的情況：檢索結果相似度太低時仍塞給模型，模型就會用這些不相關的段落亂編答案。