RAG 是什麼？為什麼 AI 知識庫都靠它？

直接回答：RAG（Retrieval-Augmented Generation，檢索增強生成）是讓 AI「先翻你的文件、再回答」的技術：提問時系統先從你核定的資料裡檢索出相關段落，AI 只依據這些段落作答並附出處。AI 知識庫答得了你公司的事、錯了可回溯，靠的就是它。

ChatGPT 那麼聰明，為什麼答不了你公司的事？

因為它沒讀過你的報價單、SOP 和維修紀錄。要讓 AI 回答「你公司的事」，路只有兩條：一條是把資料「訓練」進模型（微調），一條是回答前先讓它「翻」你的資料——後者就是 RAG。RAG（檢索增強生成）＝提問時先「檢索」你的文件，AI 再依據檢索到的內容「生成」答案。用考試比喻：微調是把整本書背進腦袋，RAG 是開書考試——不用背，翻你指定的書作答。

RAG 怎麼運作？三步看懂

第一步，你用平常說話的方式提問：「這家客戶去年類似件怎麼報價？」第二步，系統從你核定的文件裡（報價單、SOP、工單）檢索出最相關的幾個段落。第三步，AI 只依據檢索到的段落組出答案，並附上原始文件連結。關鍵在「只依據」三個字——AI 不自由發揮，所以答案有依據；附出處，所以錯了查得到源頭。《知識管理系統跟 AI 知識庫差在哪》講的「給答案附出處」，技術原理就是它。

RAG、微調、直接訂閱 ChatGPT，怎麼選？

對多數中小企業，答案是「RAG 就夠了」——想拿 AI 查公司資料的需求，九成以上靠 RAG 解決；微調是特定需求才上的重武器，兩者也能並用，但那是後話。

內行人才會告訴你的兩個細節

一、檢索品質決定一切。RAG 答得好不好，模型只占一半，另一半在文件處理的功夫：文件切段（chunking）切得好不好、「交期」和「交貨日」這種同義詞對不對得上，決定 AI 到底找不找得到那份文件。爛檢索配好模型，結果是答非所問——所以評估廠商時，該問的不是「你用哪個模型」，而是「我的文件你打算怎麼處理」。

二、權限要做在檢索層。成本表只想讓主管問得到？正確做法不是叫 AI「知道但不說」，而是檢索時就依提問者身分過濾——一般員工提問時，那份文件根本不會被找出來。兩種做法的安全等級完全不同，選商時值得問一句：「你的權限控管做在哪一層？」

情境試算（示意）：一個報價問題的完整旅程

業務輸入：「客戶 A 去年不鏽鋼類似件的報價？」→ 系統檢索出三份相關文件（兩張去年的報價單、一份成本試算）→ AI 組答：「去年類似規格的報價落在某個區間，主要差異在外包電鍍費」，下方附三份原始文件連結 → 業務點開出處核對後回覆客戶。全程約一分鐘；過去翻檔案加問老師傅，常見要半天。數字為示意，實際效果依你的文件量與記錄完整度——這也是《老師傅的經驗怎麼變成 AI 知識庫》整篇在講的事。

誠實講：RAG 不適合的三種題目

一、資料裡沒寫的事——RAG 不能無中生有，沒被記錄過的經驗要先補寫進來（見《AI 不能幫你做的五件事》）。二、預測型分析——需求預估、良率分析靠的是數據建模，不是文件檢索，是另一種專案。三、大量計算——加總、對帳、排程該交給 ERP 或報表系統；AI 適合當查詢入口，不適合當計算機。評估時如果你的題目屬於這三種，我們會直接說，並告訴你該用什麼解。

🔧 給技術窗口的補充（老闆可以跳過這段）：完整 RAG 管線＝文件解析（含掃描檔 OCR）→ 切段（chunking）→ 向量化（embedding）建索引 → 提問時向量檢索＋關鍵字混合檢索 →（視需求）重排序（reranking）→ LLM 依檢索段落生成、附引用。文件只建索引、不改模型權重，這是「資料不會被拿去訓練」的技術原因；向量資料庫與 LLM 都可地端部署，不依賴外部 API、不連外網也能運作（見《地端 AI 是什麼》）。

常見問題

放進 RAG 的資料，會被拿去訓練 AI 嗎？

不會。RAG 只在回答的當下「讀取」你的文件，模型本身不會改變；地端方案連檢索與生成都在你自己的主機上，資料不出公司門。

建一套 RAG 系統要多少錢？

依文件量與部署方式差很多：雲端輕量起步常見數十萬內，地端含主機常見數十萬到百萬級（示意，詳見《導入 AI 要花多少錢》）。免費評估會給你明確的範圍。

有了 RAG，AI 就不會答錯了嗎？

還是可能錯——檢索到過時文件、切段切斷了上下文，都會出錯。差別是每個答案附出處、查得到源頭；發現錯的文件，移除或標記作廢，隔天生效。

最後更新：2026-07

想知道自家文件適不適合建 RAG 知識庫？阿福提供一次免費的可行性評估，誠實告訴你能做、不能做、值不值得做。預約免費評估｜看服務方案