比較表同一件事,這幾個工具差在哪。工具名稱點下去,跳到下面的完整介紹。
自架 LLM 應用平台:Dify、RAGFlow、AnythingLLM 差在哪
都能做「上傳文件、拉個流程、變成內部 AI 助理」,但授權條件差很多,尤其你打算拿它對外提供服務時。
| Dify | RAGFlow | AnythingLLM | |
|---|---|---|---|
| 授權 | ⚠Dify 開源授權(基於 Apache 2.0 加額外條件) | Apache-2.0 | MIT |
| 額外限制 | ⚠未經書面授權不得經營多租戶環境;不得移除或修改前端 LOGO 與著作權資訊 | 無額外條件 | 無額外條件 |
| 強項 | 視覺化工作流、Agent、模型管理與觀測一整套 | 文件理解深、切塊可視化、引用可追溯 | 上手最快,有桌面版可單機用 |
| 部署 | 雲端/自架社群版/企業版 | 自架(Docker Compose) | 桌面 App/Docker 自架/各家雲 |
| 適合誰 | 要完整平台且接受品牌與多租戶限制 | 文件解析品質優先、要可追溯引用 | 個人或小團隊,想最快跑起來 |
怎麼選要做給公司內部用,三個都可以。但如果你打算拿它做成對外的多租戶服務、或想拿掉品牌做成白牌系統,Dify 的授權會擋住你——那種情況 RAGFlow 或 AnythingLLM 的標準開源授權單純得多。
自架前先看授權:這幾個熱門工具不是你以為的那種開源
「開源、可自架」不等於「隨你怎麼用」。AGPL 有網路著作權傳染條款——把改過的版本當成服務提供給別人用,可能要一併公開原始碼;還有些專案改用自訂授權加了額外義務。這些都是自架前就該知道、而不是上線後才發現的事。
| 授權 | 要注意什麼 | |
|---|---|---|
| Grafana | ⚠AGPL-3.0 | 官方說明現行為 AGPL-3.0(部分例外走 Apache-2.0)。嵌進對外產品前要看 LICENSING.md |
| Metabase | ⚠AGPL(開源版) | 另有商業授權版本;要嵌入自家產品賣人的走商業版比較單純 |
| LibreTranslate | ⚠AGPL-3.0 | 自架翻譯很實用,但同樣有網路傳染條款 |
| SearXNG | ⚠AGPL-3.0 | 自架搜尋、不追蹤使用者,適合內部用;對外服務要評估授權 |
| Ultralytics YOLO | ⚠AGPL-3.0 | 商用多半要買企業授權;同類的 RT-DETR 是 Apache-2.0 |
| Open WebUI | ⚠自訂授權 | 官方說明含「Open WebUI 授權」,額外要求保留 Open WebUI 品牌;授權有變更歷史,要讀 LICENSE_HISTORY |
| MinerU | 自訂(基於 Apache 2.0) | 官方說明已從 AGPLv3 改為基於 Apache 2.0 的自訂授權,以降低商用採用的阻力 |
| Unsloth | Apache-2.0(核心) | ⚠部分選用元件如 Studio UI 是 AGPL-3.0 |
| timm | Apache-2.0(程式) | ⚠預訓練權重多來自 ImageNet,官方註明主要供非商業研究使用 |
怎麼選判斷順序:先問「我會不會把它當成服務給公司以外的人用」——會的話,AGPL 那幾個要先讓法務看過;純內部使用通常單純得多。另外記得程式授權與模型/權重授權是兩件事(timm 就是典型),兩邊都要看。
工具怎麼串一個工具做不完,要前一個交給下一個。
自己架問答系統:整理文件 → 切段建索引 → 向量資料庫 → 模型依原文回答
依據:本頁比較表與工具卡(「該不該自己訓練」比較表:多數人以為要微調,實際上 RAG 就解決了)
個資用 Presidio 先去識別化,官方明說不保證找出全部。
交出去:一批整理好的文件回答要附出處;答不準先調切段與檢索,不要急著換模型。用 AI 當裁判也會錯,要抽樣人工複核。
容易斷在:平台授權要先看:Dify 不准未經授權經營多租戶(一個客戶一個工作區就算),也不能拿掉介面上的標誌。
真實案例只放本站逐條查證過來源的案例;「殷鑑」是做壞的例子。
LVMH 內部助理 MaIA 每月 200 萬次請求——集團 AI 工具背後是四年的資料平台
值得學的是順序:先把資料整理好,助手才有東西可查。小團隊不用四年,可以先挑一份最常被問的規定或手冊,審過、標上生效日,再交給只根據你給的文件回答的 AI 工具。
看完整案例 →已查證Morgan Stanley 讓員工問得動七萬份研究報告:AskResearchGPT 上線
七萬份是資料規模,不是成效。這則值得看的是它把「知識已經存在但找不到」當成一個獨立問題來解——很多組織的第一個 AI 專案應該就是這個。
看完整案例 →已查證摩根士丹利給理財顧問的 AI 助手:從約 10 萬份研究報告與文件找答案、附出處
值得學的是兩個限制:只用自己審過的內容回答、每個答案都附出處,顧問可以點回原文核對,把時間花在判斷與經營客戶的信任。小團隊也可以照做:把規定、手冊、常見問答收成檔案,交給只根據你給的文件回答、會標出處的工具,再分享給同事。
看完整案例 →已查證高偉紳律所把 40 萬份文件變成知識庫——但 AI 產出一律要律師簽核
值得偷學的是它的放行條件:任何 AI 產出的法律內容都要標示為 AI 產出,並由該法域的合格律師驗證。先寫死這條,才有本錢全所開放。
看完整案例 →全部 10 個工具每張都是完整介紹:適合誰、費用、能不能商用、資料去哪裡、能接什麼、限制、稜線用在哪。
Dify
專業工具需要 API/自動化視覺化的 LLM 應用開發平台:工作流、RAG 管線、Agent、模型管理與觀測一整套,可自架。
適合
- 公司要做內部 AI 助理又想要完整平台
- 非工程師也能參與拉流程的團隊
- 要同時接多家模型並比較
不適合
- ⚠想拿它經營對外多租戶服務(授權禁止,需書面授權)
- ⚠想做成白牌、移除品牌標示的系統
- 只有幾份文件的簡單需求
- 費用
- 社群版自架免費;官方另有 Dify Cloud 與企業版。
- 能不能商用
- ⚠可商用但有兩條硬性限制
官方授權為「Dify 開源授權,基於 Apache 2.0 並附加額外條件」。兩條關鍵限制(引自官方 LICENSE):(1)「未經 Dify 書面明確授權,你不得使用 Dify 原始碼經營多租戶環境」;(2)「使用 Dify 前端的過程中,不得移除或修改 Dify 控制台或應用程式中的 LOGO 或著作權資訊」。符合上述任一情況要另外取得商業授權。 - 資料去哪裡
- 平台自架時資料留在你的環境,但實際回答的模型由你設定——接雲端 API 時資料仍會送到那一家。
- 授權
- Dify Open Source License(基於 Apache 2.0 加額外條件)
- 跑在哪裡
- 自己架、裝在公司內部、雲端服務
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- ⚠多租戶與品牌兩條限制是自架公司最容易違反的
- 自架要有人維運(Docker、資料庫、升級)
- 版本更新快,升級前要看遷移說明
RAGFlow
專業工具需要工程支援以「深度文件理解」為賣點的開源 RAG 引擎:切塊方式可視化、引用可追溯,也支援 Agent。
適合
- 文件版面複雜、切塊品質決定成敗的知識庫
- 需要答案可追溯到原文位置
- 想避開額外授權條件的自架方案
不適合
- 硬體不足的環境(官方建議 4 核/16GB/50GB 起)
- 沒有維運人力的團隊
- 費用
- 開源自架免費。
- 能不能商用
- 可商用
Apache-2.0 授權,沒有額外附加條件——這是它相對 Dify 最實際的差別。 - 資料去哪裡
- 自架時文件留在你的環境;接雲端模型時查詢仍會送出去。
- 授權
- Apache-2.0
- 跑在哪裡
- 自己架、裝在公司內部
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- 硬體需求比一般工具高
- 要有人維運
- 切塊模板要針對你的文件類型調整才會準
AnythingLLM
專業工具需要進階提示與工作流程一體式的私有 AI 應用:可裝成桌面軟體單機用,也能 Docker 自架給多人用,支援 50 種以上模型供應商。
適合
- 個人或小團隊最快跑起來的私有知識庫
- 想在自己電腦上單機使用(桌面版)
- 要接本機 Ollama 模型
不適合
- 需要複雜工作流編排的場合(Dify 這類更完整)
- 大型組織的正式知識管理系統
- 費用
- 開源自架與桌面版免費;官方另有雲端方案。
- 能不能商用
- 可商用
MIT 授權,最寬鬆的一類,沒有額外附加條件。 - 資料去哪裡
- 官方強調預設以本機優先處理;實際資料流向取決於你選的模型供應商。
- 授權
- MIT
- 跑在哪裡
- 自己架、裝在公司內部、雲端服務
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- 桌面版沒有多人協作與權限控管
- 功能廣但每一項的深度不如專門工具
- 文件解析品質取決於你餵進去的檔案格式
LlamaIndex
專業工具需要工程支援把自己的資料接給 LLM 的開發框架:資料連接、索引、查詢一整套,是做 RAG 最常見的骨架之一。
適合
- 要做文件問答、內部知識庫的開發專案
- 需要接多種資料來源(API、PDF、SQL)
- 想快速做出 RAG 原型
不適合
- 不寫程式的使用者(那用 NotebookLM 這類現成服務)
- 只有幾份文件的簡單需求
- 費用
- 框架開源免費;官方另有 LlamaParse 等付費服務。
- 能不能商用
- 可商用
MIT 授權。 - 資料去哪裡
- 框架本身在你的環境執行,但實際回答的模型由你指定——資料政策取決於那一家。
- 授權
- MIT
- 跑在哪裡
- 自己架
- 能接什麼
- API:有MCP:尚未查證Webhook:尚未查證
- 限制
- 它是框架不是模型,還要自己選模型與向量庫
- 版本更新快,API 會變
- RAG 的品質主要取決於資料整理,不是框架
Qdrant
專業工具需要工程支援向量資料庫:專門存放「意思的數值表示」並快速找出相似項目,是語意搜尋與 RAG 的儲存層。
適合
- 語意搜尋、推薦、相似比對
- 資料量大到用檔案存不下的向量
- 要自架的知識庫後端
不適合
- 資料量小的場合(用 pgvector 或檔案就夠)
- 沒有工程人力的團隊
- 費用
- 自架開源版免費;官方另有 Qdrant Cloud 託管服務。
- 能不能商用
- 可商用
Apache-2.0 授權。 - 資料去哪裡
- 自行部署時資料不離開你的環境。
- 授權
- Apache-2.0
- 跑在哪裡
- 自己架、裝在公司內部、雲端服務
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- 要有人維運(備份、擴容、升級)
- 向量品質取決於你用的嵌入模型,資料庫本身不負責準確度
- 小規模場景是過度設計
pgvector
專業工具需要工程支援讓現有的 PostgreSQL 直接做向量相似搜尋的擴充套件——不用另外架一套向量資料庫。
適合
- 已經在用 PostgreSQL 的團隊
- 中小規模的語意搜尋
- 想把向量與既有關聯資料放在一起管理
不適合
- 超大規模、對延遲極敏感的向量檢索
- 沒有在用 PostgreSQL 的環境
- 費用
- 開源免費,跑在你既有的資料庫上。
- 能不能商用
- 可商用
PostgreSQL License(BSD 風格的寬鬆授權),官方授權檔明示可為任何目的使用、複製、修改與散布,不收費也不需另簽協議。 - 資料去哪裡
- 跑在你自己的資料庫裡。
- 授權
- PostgreSQL License
- 跑在哪裡
- 自己架、裝在公司內部
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- 極大規模時效能不如專用向量資料庫
- 要會 PostgreSQL 運維
- 索引參數調校會明顯影響查詢速度與準確度
Chroma
專業工具需要工程支援設計成「最容易開始」的向量資料庫,可以嵌在程式裡跑,也能當伺服器用。
適合
- RAG 原型與小型專案
- 不想先架一整套基礎設施的階段
- 本機開發與測試
不適合
- 超大規模、高併發的正式環境
- 已經在用 PostgreSQL 又不想多一套系統(用 pgvector)
- 費用
- 開源免費;官方另有 Chroma Cloud 託管服務。
- 能不能商用
- 可商用
Apache-2.0 授權。 - 資料去哪裡
- 嵌入式或自架執行時資料留在你的環境。
- 授權
- Apache-2.0
- 跑在哪裡
- 自己架、裝在公司內部、雲端服務
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- 大規模場景的效能與運維成熟度不如專用向量資料庫
- 自動處理嵌入很方便,但也讓人忽略嵌入模型的選擇
- 資料備份與遷移要自己規劃
sentence-transformers
模型技術需要工程支援產生 Embedding(把文字變成可比較的數值)與重排序的標準函式庫,官方說明可用超過 15,000 個現成模型。
適合
- 語意搜尋、相似文件比對、去重
- RAG 的檢索層
- 要自架、資料不出公司的向量計算
不適合
- 直接回答問題(那是 LLM 的工作)
- 沒有工程人力的團隊
- 費用
- 開源免費;模型可在本機跑。
- 能不能商用
- 可商用
函式庫採 Apache-2.0。⚠但你選用的個別預訓練模型有各自的授權,要分開確認。 - 資料去哪裡
- 本機執行,文字不外傳。
- 授權
- Apache-2.0(個別模型另有授權)
- 跑在哪裡
- 自己架、裝在公司內部
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- ⚠函式庫授權與模型授權是兩件事
- 中文任務要挑對模型,通用英文模型效果會差很多
- 需要工程人力
Ragas
專業工具需要工程支援評估 RAG 與 LLM 應用品質的工具:用客觀指標和自動產生的測試題,取代「感覺還不錯」。
適合
- 做完知識庫要驗收成效的場合
- 調整前後想比較有沒有變好
- 要對主管證明系統可用的專案
不適合
- 還沒有系統可評估的階段
- 不寫程式的使用者
- 費用
- 開源免費;但跑評估通常會呼叫 LLM,那筆 API 費用要另計。
- 能不能商用
- 可商用
Apache-2.0 授權。 - 資料去哪裡
- 評估過程可能把你的資料送給當裁判的 LLM,敏感內容要先確認那一家的政策。
- 授權
- Apache-2.0
- 跑在哪裡
- 自己架
- 能接什麼
- API:有MCP:尚未查證Webhook:尚未查證
- 限制
- ⚠用 LLM 當裁判本身也會出錯,指標要抽樣人工複核
- 評估會消耗 API 額度
- 指標好看不等於使用者真的滿意
Presidio(Microsoft)
專業工具需要工程支援開源的個資偵測與去識別化工具:在文字、圖片與結構化資料裡找出姓名、電話、卡號等敏感資訊並遮蔽。
適合
- 把資料送進雲端 AI 之前先去識別化
- 文件公開或研究用途前的個資清理
- 醫療影像(DICOM)的遮蔽
不適合
- ⚠當成唯一的個資防線(官方明說不保證找出全部)
- 沒有工程人力的團隊
- 費用
- 開源免費。
- 能不能商用
- 可商用
MIT 授權。 - 資料去哪裡
- 本機執行,敏感資料不外傳——這正是它存在的理由。
- 授權
- MIT
- 跑在哪裡
- 自己架、裝在公司內部
- 能接什麼
- API:尚未查證MCP:尚未查證Webhook:尚未查證
- 限制
- ⚠官方明說採自動化機制、不保證找出所有敏感資訊,仍需其他防護配合
- 中文個資樣式要自己補規則
- 誤刪(把不是個資的東西遮掉)也要人工檢查
卡片上的查證日期是我們最後一次讀官方頁面的時間;條款會改,正式使用前請再看一次官方頁。