跳到主要內容
CAMP 03找工具›大量文件、不能上雲:自己架問答系統
找工具 · 知識庫與客服

大量文件、不能上雲:自己架問答系統

幾萬份文件、資料不能離開公司

2026-10-26 · 作者整理:Lucas

30 個情境 › 知識庫與客服

比較表同一件事,這幾個工具差在哪。工具名稱點下去,跳到下面的完整介紹。

自架 LLM 應用平台:Dify、RAGFlow、AnythingLLM 差在哪

都能做「上傳文件、拉個流程、變成內部 AI 助理」,但授權條件差很多,尤其你打算拿它對外提供服務時。

DifyRAGFlowAnythingLLM
授權⚠Dify 開源授權(基於 Apache 2.0 加額外條件)Apache-2.0MIT
額外限制⚠未經書面授權不得經營多租戶環境;不得移除或修改前端 LOGO 與著作權資訊無額外條件無額外條件
強項視覺化工作流、Agent、模型管理與觀測一整套文件理解深、切塊可視化、引用可追溯上手最快,有桌面版可單機用
部署雲端/自架社群版/企業版自架(Docker Compose)桌面 App/Docker 自架/各家雲
適合誰要完整平台且接受品牌與多租戶限制文件解析品質優先、要可追溯引用個人或小團隊,想最快跑起來

怎麼選要做給公司內部用,三個都可以。但如果你打算拿它做成對外的多租戶服務、或想拿掉品牌做成白牌系統,Dify 的授權會擋住你——那種情況 RAGFlow 或 AnythingLLM 的標準開源授權單純得多。

自架前先看授權:這幾個熱門工具不是你以為的那種開源

「開源、可自架」不等於「隨你怎麼用」。AGPL 有網路著作權傳染條款——把改過的版本當成服務提供給別人用,可能要一併公開原始碼;還有些專案改用自訂授權加了額外義務。這些都是自架前就該知道、而不是上線後才發現的事。

授權要注意什麼
Grafana⚠AGPL-3.0官方說明現行為 AGPL-3.0(部分例外走 Apache-2.0)。嵌進對外產品前要看 LICENSING.md
Metabase⚠AGPL(開源版)另有商業授權版本;要嵌入自家產品賣人的走商業版比較單純
LibreTranslate⚠AGPL-3.0自架翻譯很實用,但同樣有網路傳染條款
SearXNG⚠AGPL-3.0自架搜尋、不追蹤使用者,適合內部用;對外服務要評估授權
Ultralytics YOLO⚠AGPL-3.0商用多半要買企業授權;同類的 RT-DETR 是 Apache-2.0
Open WebUI⚠自訂授權官方說明含「Open WebUI 授權」,額外要求保留 Open WebUI 品牌;授權有變更歷史,要讀 LICENSE_HISTORY
MinerU自訂(基於 Apache 2.0)官方說明已從 AGPLv3 改為基於 Apache 2.0 的自訂授權,以降低商用採用的阻力
UnslothApache-2.0(核心)⚠部分選用元件如 Studio UI 是 AGPL-3.0
timmApache-2.0(程式)⚠預訓練權重多來自 ImageNet,官方註明主要供非商業研究使用

怎麼選判斷順序:先問「我會不會把它當成服務給公司以外的人用」——會的話,AGPL 那幾個要先讓法務看過;純內部使用通常單純得多。另外記得程式授權與模型/權重授權是兩件事(timm 就是典型),兩邊都要看。

工具怎麼串一個工具做不完,要前一個交給下一個。

自己架問答系統:整理文件 → 切段建索引 → 向量資料庫 → 模型依原文回答

依據:本頁比較表與工具卡(「該不該自己訓練」比較表:多數人以為要微調,實際上 RAG 就解決了)

1
把文件整理乾淨,含個資先遮

個資用 Presidio 先去識別化,官方明說不保證找出全部。

交出去:一批整理好的文件
2
LlamaIndex 把文件切段、建索引要會寫程式

它是框架不是模型,還要自己選模型與向量庫。不想自己寫,用 Dify 或 RAGFlow 這類平台。

交出去:可以查詢的索引
3
存進向量資料庫 Qdrant 或 pgvector要工程師

專門找「意思接近」的段落;要有人維運備份與升級。

交出去:跟問題最接近的幾段原文
4
交給模型依據這幾段回答,用 Ragas 驗收

回答要附出處;答不準先調切段與檢索,不要急著換模型。用 AI 當裁判也會錯,要抽樣人工複核。

容易斷在:平台授權要先看:Dify 不准未經授權經營多租戶(一個客戶一個工作區就算),也不能拿掉介面上的標誌。

真實案例只放本站逐條查證過來源的案例;「殷鑑」是做壞的例子。

全部 10 個工具每張都是完整介紹:適合誰、費用、能不能商用、資料去哪裡、能接什麼、限制、稜線用在哪。

Dify

專業工具需要 API/自動化

視覺化的 LLM 應用開發平台:工作流、RAG 管線、Agent、模型管理與觀測一整套,可自架。

適合
  • 公司要做內部 AI 助理又想要完整平台
  • 非工程師也能參與拉流程的團隊
  • 要同時接多家模型並比較
不適合
  • ⚠想拿它經營對外多租戶服務(授權禁止,需書面授權)
  • ⚠想做成白牌、移除品牌標示的系統
  • 只有幾份文件的簡單需求
費用
社群版自架免費;官方另有 Dify Cloud 與企業版。
能不能商用
⚠可商用但有兩條硬性限制
官方授權為「Dify 開源授權,基於 Apache 2.0 並附加額外條件」。兩條關鍵限制(引自官方 LICENSE):(1)「未經 Dify 書面明確授權,你不得使用 Dify 原始碼經營多租戶環境」;(2)「使用 Dify 前端的過程中,不得移除或修改 Dify 控制台或應用程式中的 LOGO 或著作權資訊」。符合上述任一情況要另外取得商業授權。
資料去哪裡
平台自架時資料留在你的環境,但實際回答的模型由你設定——接雲端 API 時資料仍會送到那一家。
授權
Dify Open Source License(基於 Apache 2.0 加額外條件)
跑在哪裡
自己架、裝在公司內部、雲端服務
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • ⚠多租戶與品牌兩條限制是自架公司最容易違反的
  • 自架要有人維運(Docker、資料庫、升級)
  • 版本更新快,升級前要看遷移說明

RAGFlow

專業工具需要工程支援

以「深度文件理解」為賣點的開源 RAG 引擎:切塊方式可視化、引用可追溯,也支援 Agent。

適合
  • 文件版面複雜、切塊品質決定成敗的知識庫
  • 需要答案可追溯到原文位置
  • 想避開額外授權條件的自架方案
不適合
  • 硬體不足的環境(官方建議 4 核/16GB/50GB 起)
  • 沒有維運人力的團隊
費用
開源自架免費。
能不能商用
可商用
Apache-2.0 授權,沒有額外附加條件——這是它相對 Dify 最實際的差別。
資料去哪裡
自架時文件留在你的環境;接雲端模型時查詢仍會送出去。
授權
Apache-2.0
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 硬體需求比一般工具高
  • 要有人維運
  • 切塊模板要針對你的文件類型調整才會準

AnythingLLM

專業工具需要進階提示與工作流程

一體式的私有 AI 應用:可裝成桌面軟體單機用,也能 Docker 自架給多人用,支援 50 種以上模型供應商。

適合
  • 個人或小團隊最快跑起來的私有知識庫
  • 想在自己電腦上單機使用(桌面版)
  • 要接本機 Ollama 模型
不適合
  • 需要複雜工作流編排的場合(Dify 這類更完整)
  • 大型組織的正式知識管理系統
費用
開源自架與桌面版免費;官方另有雲端方案。
能不能商用
可商用
MIT 授權,最寬鬆的一類,沒有額外附加條件。
資料去哪裡
官方強調預設以本機優先處理;實際資料流向取決於你選的模型供應商。
授權
MIT
跑在哪裡
自己架、裝在公司內部、雲端服務
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 桌面版沒有多人協作與權限控管
  • 功能廣但每一項的深度不如專門工具
  • 文件解析品質取決於你餵進去的檔案格式

LlamaIndex

專業工具需要工程支援

把自己的資料接給 LLM 的開發框架:資料連接、索引、查詢一整套,是做 RAG 最常見的骨架之一。

適合
  • 要做文件問答、內部知識庫的開發專案
  • 需要接多種資料來源(API、PDF、SQL)
  • 想快速做出 RAG 原型
不適合
  • 不寫程式的使用者(那用 NotebookLM 這類現成服務)
  • 只有幾份文件的簡單需求
費用
框架開源免費;官方另有 LlamaParse 等付費服務。
能不能商用
可商用
MIT 授權。
資料去哪裡
框架本身在你的環境執行,但實際回答的模型由你指定——資料政策取決於那一家。
授權
MIT
跑在哪裡
自己架
能接什麼
API:有MCP:尚未查證Webhook:尚未查證
限制
  • 它是框架不是模型,還要自己選模型與向量庫
  • 版本更新快,API 會變
  • RAG 的品質主要取決於資料整理,不是框架

Qdrant

專業工具需要工程支援

向量資料庫:專門存放「意思的數值表示」並快速找出相似項目,是語意搜尋與 RAG 的儲存層。

適合
  • 語意搜尋、推薦、相似比對
  • 資料量大到用檔案存不下的向量
  • 要自架的知識庫後端
不適合
  • 資料量小的場合(用 pgvector 或檔案就夠)
  • 沒有工程人力的團隊
費用
自架開源版免費;官方另有 Qdrant Cloud 託管服務。
能不能商用
可商用
Apache-2.0 授權。
資料去哪裡
自行部署時資料不離開你的環境。
授權
Apache-2.0
跑在哪裡
自己架、裝在公司內部、雲端服務
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 要有人維運(備份、擴容、升級)
  • 向量品質取決於你用的嵌入模型,資料庫本身不負責準確度
  • 小規模場景是過度設計

pgvector

專業工具需要工程支援

讓現有的 PostgreSQL 直接做向量相似搜尋的擴充套件——不用另外架一套向量資料庫。

適合
  • 已經在用 PostgreSQL 的團隊
  • 中小規模的語意搜尋
  • 想把向量與既有關聯資料放在一起管理
不適合
  • 超大規模、對延遲極敏感的向量檢索
  • 沒有在用 PostgreSQL 的環境
費用
開源免費,跑在你既有的資料庫上。
能不能商用
可商用
PostgreSQL License(BSD 風格的寬鬆授權),官方授權檔明示可為任何目的使用、複製、修改與散布,不收費也不需另簽協議。
資料去哪裡
跑在你自己的資料庫裡。
授權
PostgreSQL License
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 極大規模時效能不如專用向量資料庫
  • 要會 PostgreSQL 運維
  • 索引參數調校會明顯影響查詢速度與準確度

Chroma

專業工具需要工程支援

設計成「最容易開始」的向量資料庫,可以嵌在程式裡跑,也能當伺服器用。

適合
  • RAG 原型與小型專案
  • 不想先架一整套基礎設施的階段
  • 本機開發與測試
不適合
  • 超大規模、高併發的正式環境
  • 已經在用 PostgreSQL 又不想多一套系統(用 pgvector)
費用
開源免費;官方另有 Chroma Cloud 託管服務。
能不能商用
可商用
Apache-2.0 授權。
資料去哪裡
嵌入式或自架執行時資料留在你的環境。
授權
Apache-2.0
跑在哪裡
自己架、裝在公司內部、雲端服務
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 大規模場景的效能與運維成熟度不如專用向量資料庫
  • 自動處理嵌入很方便,但也讓人忽略嵌入模型的選擇
  • 資料備份與遷移要自己規劃

sentence-transformers

模型技術需要工程支援

產生 Embedding(把文字變成可比較的數值)與重排序的標準函式庫,官方說明可用超過 15,000 個現成模型。

適合
  • 語意搜尋、相似文件比對、去重
  • RAG 的檢索層
  • 要自架、資料不出公司的向量計算
不適合
  • 直接回答問題(那是 LLM 的工作)
  • 沒有工程人力的團隊
費用
開源免費;模型可在本機跑。
能不能商用
可商用
函式庫採 Apache-2.0。⚠但你選用的個別預訓練模型有各自的授權,要分開確認。
資料去哪裡
本機執行,文字不外傳。
授權
Apache-2.0(個別模型另有授權)
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • ⚠函式庫授權與模型授權是兩件事
  • 中文任務要挑對模型,通用英文模型效果會差很多
  • 需要工程人力

Ragas

專業工具需要工程支援

評估 RAG 與 LLM 應用品質的工具:用客觀指標和自動產生的測試題,取代「感覺還不錯」。

適合
  • 做完知識庫要驗收成效的場合
  • 調整前後想比較有沒有變好
  • 要對主管證明系統可用的專案
不適合
  • 還沒有系統可評估的階段
  • 不寫程式的使用者
費用
開源免費;但跑評估通常會呼叫 LLM,那筆 API 費用要另計。
能不能商用
可商用
Apache-2.0 授權。
資料去哪裡
評估過程可能把你的資料送給當裁判的 LLM,敏感內容要先確認那一家的政策。
授權
Apache-2.0
跑在哪裡
自己架
能接什麼
API:有MCP:尚未查證Webhook:尚未查證
限制
  • ⚠用 LLM 當裁判本身也會出錯,指標要抽樣人工複核
  • 評估會消耗 API 額度
  • 指標好看不等於使用者真的滿意

Presidio(Microsoft)

專業工具需要工程支援

開源的個資偵測與去識別化工具:在文字、圖片與結構化資料裡找出姓名、電話、卡號等敏感資訊並遮蔽。

適合
  • 把資料送進雲端 AI 之前先去識別化
  • 文件公開或研究用途前的個資清理
  • 醫療影像(DICOM)的遮蔽
不適合
  • ⚠當成唯一的個資防線(官方明說不保證找出全部)
  • 沒有工程人力的團隊
費用
開源免費。
能不能商用
可商用
MIT 授權。
資料去哪裡
本機執行,敏感資料不外傳——這正是它存在的理由。
授權
MIT
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • ⚠官方明說採自動化機制、不保證找出所有敏感資訊,仍需其他防護配合
  • 中文個資樣式要自己補規則
  • 誤刪(把不是個資的東西遮掉)也要人工檢查

卡片上的查證日期是我們最後一次讀官方頁面的時間;條款會改,正式使用前請再看一次官方頁。

← 看其他情境
取得 AI 實戰工具與更新

之後會不定期整理:新方法、指令包(Prompt Pack)、Checklist 與模板。免費、無廣告;送出後會收到一封確認信,點了連結才算訂閱成功,之後每封信都附一鍵退訂。