RAG | 檢索增強生成
讓 AI 根據公司的文件回答問題
選一個資料夾,Word、PowerPoint、Excel、PDF 與圖片立刻變成可以提問的知識庫。每個回答都附上來源原文,隨時可以核對;文件的解析與索引都在這台電腦完成。
- ① 文件尚未連接
- ② 切片—
- ③ 索引—
- ④ 檢索—
- ⑤ 生成—
- ⑥ 引用來源—
開始使用
① 選擇文件資料夾 ② 輸入問題 ③ 把自動複製的提示貼到公司核准的 AI 聊天 ④ 把回答貼回來,點選編號核對來源
選好資料夾後,其餘的解析、索引與更新檢查都會自動完成。
這裡可以看到 RAG 的「檢索」細節:比較不同檢索模式、查看每個片段被選中的理由,並手動挑選要交給 AI 的證據。
等待文件載入
以瀏覽器內建模型生成(逐句引句核對模式)
使用左側「回答引擎 → 瀏覽器內建小模型」載入的模型,依上方勾選的證據生成回答;每一句都必須附上可在原文找到的引句,否則會被排除。
檢視提供給模型的證據全文
查看檢索過程
輸入關鍵字或問題,檢視系統找到的原文片段與排序理由。
PDF 顯示頁碼;Word 與 HTML 顯示擷取段落範圍。
關鍵字使用 BM25 與標題加權;語意使用 E5 多語向量的餘弦相似度;混合使用 RRF 排名融合,再依主題用語、章節與片段類型重排序。分數只用於同一次搜尋的排序。
RAG 是什麼?
RAG(Retrieval-Augmented Generation,檢索增強生成)讓 AI 在回答之前,先到公司自己的文件中找出相關段落,再只根據這些段落作答並附上出處。不需要重新訓練模型;文件更新後系統會自動同步,答案就跟著更新。頁面上方的六個方塊,就是每一次提問實際發生的流程。
在公司導入的五個步驟
- 準備一個文件資料夾把要讓同仁查詢的現行有效文件放進同一個資料夾(可含子資料夾):SOP、規範、技術報告、教育訓練教材、會議結論、客訴 8D 報告等。支援 Word、PowerPoint、Excel、PDF、HTML、文字檔與圖片;過期版本請移出,或在檔名標註版本與日期。
- 用 Chrome 或 Edge 開啟這個 HTML整套功能就是這一個檔案,放在個人電腦、共用磁碟或內部網站都可以。不需安裝軟體、不需資料庫、不需申請帳號。
- 按「選擇文件資料夾」——只需一次選取步驟一的資料夾,並允許瀏覽器檢視與編輯。系統自動解析文件、建立索引,並把索引存成資料夾中的
_A2PSDM_RAG_Index.json;語意索引會在背景建立,期間就可以開始提問。 - 提問,並用公司核准的 AI 聊天作答在「AI 問答」輸入問題,提示會自動複製。貼到公司已核准的 AI 聊天(Copilot、ChatGPT、DeepSeek 等)送出,再把回答貼回來,點選回答中的編號即可核對來源原文。不需要申請 API Key,也不需要架設任何服務。
- 之後每次開啟,系統自動檢查更新再次開啟或切回這個頁面時,系統會比對資料夾,只重新處理新增或修改過的文件,並移除已刪除的文件。其他同仁開啟 HTML 並選擇同一個共用資料夾,就會直接載入現成的索引,不必重新解析。
為什麼用「複製貼上」?
多數公司已經核准同仁使用某一個 AI 聊天工具,卻不開放 API Key。這個做法讓 HTML 負責「找資料」,核准的 AI 聊天負責「寫回答」:文件片段只經過公司已核准的工具,不需要新增任何授權、採購或 IT 專案。提示中已包含回答規則(只根據參考資料、逐點標註編號、資料不足就明說),所以不同的 AI 聊天工具都能得到可核對的回答。
回答引擎一覽
| 回答引擎 | 文件片段會到哪裡 | 需要準備 | 適合情境 |
|---|---|---|---|
| 公司核准的 AI 聊天 複製貼上(建議) | 只到公司已核准的 AI 聊天工具 | 無 | 日常使用;沒有 API Key 的公司 |
| 摘錄式回答 | 不離開這台電腦 | 無 | 完全離線、快速確認檢索到的內容 |
| 直接連接 LLM 內部主機或 API | 到您指定的模型服務位址 | 內部模型主機(如 Ollama),或 IT 核發的內部端點/API Key | 已有內部模型服務、希望省去複製貼上 |
| 瀏覽器內建小模型 | 不離開這台電腦 | 支援 WebGPU 的電腦 | 不連接任何服務的離線使用 |
進階:直接連接 LLM(已有內部模型服務時)
- 內部主機執行開源模型(以 Ollama 為例):在模型主機安裝 Ollama 並下載模型,例如
ollama pull qwen2.5:7b,DeepSeek 等開放權重的模型也可用同樣方式執行。設定環境變數OLLAMA_ORIGINS=*允許瀏覽器連線;若要讓其他電腦連入,再設定OLLAMA_HOST=0.0.0.0,然後重新啟動。 - IT 核發的內部端點:若 IT 已在公司的雲端租戶或 AI 閘道提供 OpenAI 相容的端點,選「自訂」並填入 IT 提供的位址與金鑰。
- 在左側「回答引擎」選「直接連接 LLM」,填入服務位址,按「連線並讀取模型清單」,選好模型即可提問。
常見問題
- 文件會被上傳嗎?
- 解析、切片、索引與檢索全部在這台電腦的瀏覽器內完成。使用「複製貼上」時,只有您親手貼到公司核准 AI 聊天的那段提示(問題與幾個相關片段)會離開這台電腦。
- 更新了文件,回答卻還是舊內容?
- 系統在開啟頁面與切回頁面時會自動檢查;也可以按左側「檢查文件更新」立即檢查。狀態列會顯示新增、修改、沿用與移除的數量。
- 掃描的 PDF、照片或只有圖片的投影片找不到內容?
- 這類文件沒有文字層。在左側「進階設定」勾選「辨識圖片與掃描頁的文字(OCR)」,系統會在本機辨識中英文。辨識結果可能有錯字,手寫、低解析度或複雜圖表的效果有限;重要數字請以原件為準。
- Excel 是怎麼被讀取的?
- 每個工作表以第一列為欄名,其餘各列轉成「欄名:值」的文字後納入索引,適合查詢清單、規格表、紀錄表。公式只讀取已計算的結果;圖表與樞紐分析不會被讀取。
- 有檔案顯示「無法開啟」?
- 設有開啟密碼或受權限保護(如機密標籤加密)的 Office 檔案無法在瀏覽器中讀取,請改用未加密的版本。舊版 .doc/.ppt/.xls 請先另存為 .docx/.pptx/.xlsx。
- 回答可以直接採用嗎?
- AI 回答是協助閱讀的草稿。請點選編號核對來源原文;涉及數字、日期、規格與價格時,以原始文件為準。
- 索引存在哪裡?
- 有兩份:一份在文件資料夾中的索引檔
_A2PSDM_RAG_Index.json,跟著文件走,可供同一資料夾的所有使用者共用;另一份在這台電腦的瀏覽器中,讓重新開啟時立即可用。索引檔含文件的擷取全文,資料夾的存取權限就是索引的存取權限,請勿另外外傳。 - 換電腦、換瀏覽器或給同事使用?
- 開啟 HTML,選擇同一個資料夾即可,系統會自動載入資料夾中的索引檔並檢查文件異動。若多人同時更新,以最後完成的那一次為準。
- 為什麼有時要按「繼續使用」?
- 瀏覽器基於安全考量,重新開啟頁面後可能要求再次確認資料夾的存取權限。按一次「繼續使用」即可;在權限提示中選擇「每次造訪都允許」,之後就不會再詢問。
- 公司電腦不能連外網,可以用語意搜尋與文字辨識嗎?
- 可以。由一台能連網的電腦選擇資料夾並完成一次語意索引,語意模型與文字辨識(OCR)元件會自動存入資料夾的
_A2PSDM_RAG_Model(約 160 MB)。之後任何人開啟 HTML 並選擇同一個資料夾,都直接從資料夾載入,不需連網。 - 資料夾是唯讀的?
- 仍可使用,只是索引不會自動寫入資料夾。可由有寫入權限的人建立索引檔,或用「進階設定」中的手動匯出,把檔案命名為
_A2PSDM_RAG_Index.json放進資料夾。 - 可以放多少文件?
- 這個單檔版本適合數十到數百份文件的部門知識庫。全公司規模、權限控管、與 ERP/MES/PLM 等系統整合的需求,可在同樣的流程上擴充為伺服器版本。