跳到主要內容
CAMP 03找工具›在自己電腦跑 AI,資料不出門
找工具 · 自己做東西

在自己電腦跑 AI,資料不出門

公司資料不能上雲還想用 AI

2026-10-26 · 作者整理:Lucas

30 個情境 › 自己做東西

比較表同一件事,這幾個工具差在哪。工具名稱點下去,跳到下面的完整介紹。

在自己電腦跑 AI:Jan、LM Studio、Ollama

三個工具都能把開源模型裝在自己電腦上跑。挑之前先看四件事:軟體授權能不能商用、接雲端模型時資料會去哪、有沒有使用分析,以及要多少技術能力。

JanLM StudioOllama
軟體授權開源,Apache 2.0;授權檔另「請求」在面向使用者的文件標示出處依官方條款授權:限個人與公司內部商業用途,禁止轉售或以 SaaS 方式提供工具本身免費;軟體授權本站尚未查證
商用要注意可商用、可修改;下載的模型各有授權公司內部可用,不能包成對外服務或 API 給客戶;模型各有授權;條款對公司的賠償上限 50 美元⚠依個別模型授權而定,不能因為下載得到就當成能商用
只用本機模型時,資料會不會離開電腦隱私權政策:對話與使用紀錄存在本機、不離開電腦隱私權政策:訊息、對話紀錄與文件不會傳出;但搜尋與下載模型會送出匿名化搜尋字串,檢查更新會送 App 版本、作業系統等裝置資訊官方說明本機執行的內容不會離開機器
接雲端模型時⚠可接 OpenAI、Anthropic、Mistral、Groq 等;接上後訊息送到該供應商,依對方政策只有使用付費雲端功能時資料才會傳出(例如 Bionic+ 的美國代管開源模型);官方寫不用於訓練,雲端推論在美國代管、零資料保留官方另有雲端付費方案,使用雲端方案則另當別論;細節本站尚未查證
使用分析/遙測同意前不收集;首次啟動時選擇,同意後只計活躍使用者與留存、綁隨機 ID,用 PostHog 歐盟區;預設選項官方資料不足,目前無法確認隱私權政策寫 App 不含遙測與使用者層級追蹤本站尚未查證
介面與門檻圖形介面桌面程式(本站分級:需要設定);另有本機 OpenAI 相容 API 與 MCP 整合圖形介面,不用碰指令列(本站分級:需要設定);另有 SDK 與 CLI本站分級:需要 API/自動化;不適合不懂技術的一般使用者
價格免費Free US$0;Bionic+ 每月 US$20;Pro 每月 US$100本機執行免費;另有雲端付費方案
維護狀態活躍:v0.8.7 於 2026-10-20 發布(2026-10-25 查)活躍(2026-10-25 查);產品近期改以 Bionic 代理程式為主,介面變動快活躍(本站最後人工查核 2026-09-09)
什麼時候選它要開源、可商用或改造,或想在同一介面切換本機與雲端模型(記得接雲端就不是本機)不想碰指令列,只在個人或公司內部使用、資料不能上雲會自己設定的人,做資料完全不能外傳的測試開發或離線環境

怎麼選只用本機模型時,三個工具官方都寫對話內容不會離開電腦(LM Studio 搜尋模型與檢查更新、Jan 同意分析後,仍會送出少量資料),差別在授權與門檻。要開源、能商用或改造,選 Jan(Apache 2.0);只在公司內部用、不想碰指令列,LM Studio 有圖形介面,但條款禁止包成對外服務;Ollama 適合會設定的人做離線測試,它的軟體授權與遙測本站還沒查證。三個工具下載的模型都有自己的授權,商用前要另外看;Jan 一接上雲端模型,對話就會送到那家供應商。

工具怎麼串一個工具做不完,要前一個交給下一個。

在自己電腦跑 AI:挑一個桌面工具 → 下載模型(看授權)→ 要給同事用再架網頁介面

依據:本頁比較表「在自己電腦跑 AI:Jan、LM Studio、Ollama」與各工具卡

1
不想碰指令、只在公司內部用:LM Studio

有圖形介面;條款禁止包成對外服務。

2
要開源、能改:Jan

一接上雲端模型,對話就送到那家,不再是本機。首次啟動問要不要開產品分析,公司電腦選不開。

3
會設定的人:Ollama,再接 Open WebUI 給同事用要會設定

Open WebUI 能完全離線運作,但授權要求保留品牌。

交出去:一個公司內部的 AI 網頁
4
多人正式服務:vLLM要工程師

要 GPU 和會維運的人。

容易斷在:三個工具下載的模型各有授權,商用前要另外看。本機模型的能力通常明顯不如最新的雲端大模型,筆電跑大模型會很慢。

真實案例只放本站逐條查證過來源的案例;「殷鑑」是做壞的例子。

全部 5 個工具每張都是完整介紹:適合誰、費用、能不能商用、資料去哪裡、能接什麼、限制、稜線用在哪。

Ollama

外部資源需要 API/自動化

在自己電腦上跑開源模型的工具。官方訴求是本機執行的內容不會離開你的機器。

適合
  • 資料完全不能外傳的測試與開發
  • 先在自己電腦上試玩開源模型
  • 離線環境
不適合
  • 硬體不足的機器
  • 需要最強模型能力的正式服務
  • 不懂技術的一般使用者
費用
本機執行免費;官方另有雲端付費方案。
能不能商用
⚠依個別模型而定
工具本身免費,但你跑的每個模型有自己的授權(有的可商用、有的僅限研究)。不能因為下載得到就當成能商用。
資料去哪裡
官方說明本機執行的內容不會離開機器;使用雲端方案則另當別論。
授權
—
跑在哪裡
自己架、裝在公司內部、邊緣裝置(產線、攝影機旁)
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 本機模型能力通常明顯不如最新雲端大模型
  • 吃硬體,筆電跑大模型會很慢
  • ⚠模型授權要個別確認

LM Studio

專業工具需要設定

在自己電腦上用圖形介面下載、執行開源模型的桌面軟體;本機執行時對話與文件不離開電腦。

適合
  • 不想碰指令列、想在自己電腦試跑開源模型
  • 資料不能上雲、要在本機問答或處理文件
不適合
  • 需要把模型包成對外服務或 API 給客戶用(條款禁止)
  • 電腦規格不足又期待旗艦模型效果的使用者
  • 需要多人共用、由公司統一管理的伺服器部署
費用
官方定價頁:Free US$0(在本機執行開源模型、有限網頁搜尋);Bionic+ 每月 US$20(美國代管的開源模型、網頁搜尋);Pro 每月 US$100(更多用量)。產品現以「LM Studio Bionic」代理程式為主打。
能不能商用
⚠軟體限個人與公司內部使用,不可轉售或當 SaaS;模型依各自授權
官方條款原文:軟體授權「solely for Your personal and / or internal business purposes」,並禁止以「an application service provider, or a software-as-a-service」方式提供。下載的第三方模型「MADE AVAILABLE TO YOU PURSUANT TO A LICENSE AGREEMENT BETWEEN YOU AND THE THIRD PARTY PROVIDER」,例如 DeepSeek-R1 權重為 MIT、GLM-5.3 為自訂授權。條款對公司賠償責任的上限為 50 美元(原文「IN EXCESS OF $50.00」)。2026-10-25 讀官方條款(版本 2026-08-23)。
資料去哪裡
隱私權政策原文:本機執行時「none of your messages, chat histories, and documents are ever transmitted from your system」,且「the application does not include telemetry or user-specific tracking」。只有使用付費雲端功能時資料才會傳出,官方寫「your data is not used for training or any other purpose」;定價頁寫雲端推論「US-hosted, with Zero data retention (ZDR)」。搜尋與下載模型時會送出匿名化的搜尋字串;App 檢查更新時會送出 App 版本、作業系統等裝置資訊,CDN 也會帶上 IP。
授權
—
跑在哪裡
自己架、裝在公司內部、邊緣裝置(產線、攝影機旁)
能接什麼
API:有(官方列出 lmstudio-js、lmstudio-python SDK 與 LM Studio CLI)MCP:尚未查證Webhook:尚未查證
限制
  • 軟體授權限個人與內部商業用途,不可轉售或做成對外服務
  • ⚠下載的每個模型各有自己的授權,商用與否要另外看模型授權
  • 能跑多大的模型取決於電腦記憶體與顯示卡,一般筆電只能跑小模型
  • 產品近期改以 Bionic 代理程式為主,介面與功能變動快,教學截圖容易過時
  • 條款對公司的賠償責任上限只有 50 美元

Jan(本機 AI 聊天)

專業工具需要設定

Menlo Research 的開源桌面程式(Apache 2.0),可以在自己電腦跑開源模型,也能接 OpenAI、Anthropic 等雲端模型;一接雲端模型,對話就會送到那家供應商。

適合
  • 想在自己電腦跑開源模型、又需要能商用或改造的開源授權
  • 想在同一個介面切換本機模型與雲端模型(要清楚哪一段資料會上雲)
  • 開發者需要本機 OpenAI 相容 API 或 MCP 整合
不適合
  • 以為「用 Jan 就一定不上雲」而接了雲端模型處理機密資料
  • 電腦沒有足夠記憶體或顯示卡卻要跑大模型的人
  • 需要廠商技術支援與服務等級承諾的企業部署
費用
開源免費桌面程式(Apache 2.0)。官網首頁寫「v0.8.7 is now live on GitHub」;GitHub 最新正式版 v0.8.7 發布於 2026-10-20,主庫 2026-10-24 仍有推送。接雲端模型是否另外收費、怎麼計費,Jan 官方頁面沒寫,要看該雲端供應商。
能不能商用
可商用:Apache 2.0;授權檔另「請求」在面向使用者的文件適當標示出處;下載的模型各有授權,要另外看
GitHub 授權檔(Copyright 2025 Menlo Research)原文:「Licensed under the Apache License, Version 2.0」,最後一行「Attribution is requested in user-facing documentation and materials, where appropriate.」本站判斷:最後一行用的是 requested(請求),不是額外的強制條件;但若散布 Jan 或修改版,仍要依 Apache 2.0 保留授權與版權聲明(授權檔裡有「This product includes software developed by Menlo Research」這行聲明)。GitHub 的授權自動偵測把這個倉庫顯示為「Other」,看到時不用誤會成非開源。你在 Jan 裡下載或連接的模型各有自己的授權,商用前要逐一看。授權日後若變更需再查。2026-10-25 讀 GitHub LICENSE。
資料去哪裡
隱私權政策(Menlo Research)原文:「Jan runs with privacy by default and is used 100% offline on your own computer. Your data (e.g., conversation history, usage logs) are stored locally and never leave your computer.」接遠端 AI API 時:「If you use a Remote AI API (e.g., OpenAI API, Groq API), your data will naturally travel to their servers.」並適用對方的隱私權政策。說明文件(Jan's Privacy Approach)另寫:「Zero data collection until you say so.」、首次啟動時選擇追蹤偏好,同意後統計活躍使用者與留存、「tied to a random ID」,分析服務用 PostHog 歐盟區。兩頁說法不同:隱私權政策寫「100% offline」,說明文件寫同意後會傳產品分析;本站判斷:關於使用分析以說明文件為準。首次啟動時預設勾選哪一個選項:官方資料不足,目前無法確認。
授權
—
跑在哪裡
自己架、裝在公司內部、邊緣裝置(產線、攝影機旁)
能接什麼
API:有(README:本機 OpenAI 相容 API,localhost:1337)MCP:有(README:Model Context Protocol 整合)Webhook:尚未查證
限制
  • 接上 OpenAI、Claude 等雲端模型時,對話就會送到雲端,不再是「本機」
  • 首次啟動會問要不要開產品分析,公司電腦建議選不開
  • 本機跑模型的速度與品質受電腦規格限制
  • 模型各自有授權條款,商用前要看模型本身
人工查證 2026-10-25・活躍(Menlo Research 維護;v0.8.7 於 2026-10-20 發布)官方網站 ↗

Open WebUI

專業工具需要 API/自動化

自架的 AI 對話介面,可接 Ollama 本機模型或 OpenAI 相容 API,能完全離線運作。

適合
  • 公司想自架內部 AI 介面
  • 接本機模型給不會用終端機的同事使用
  • 完全離線的環境
不適合
  • ⚠想移除品牌標示的商業部署
  • 沒有維運人力的團隊
費用
開源免費自架。
能不能商用
⚠自訂授權,且要求保留品牌
官方 README 說明專案包含多種授權的程式碼,其中含「Open WebUI 授權」,並額外要求保留「Open WebUI」品牌標示;授權有變更歷史,官方要讀者查 LICENSE_HISTORY 以確認各部分適用條款。要拿來做白牌內部系統前務必先讀。
資料去哪裡
介面自架,但實際回答的模型由你設定——接雲端 API 時資料仍會送到那一家。
授權
Open WebUI License(含品牌保留要求)
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • ⚠授權要求保留品牌,白牌部署要先確認
  • ⚠授權變更過,要看 LICENSE_HISTORY 對應版本
  • 自架要有人維運與更新

vLLM

外部資源需要工程支援

把大型語言模型服務化的高效能推論框架,源自 UC Berkeley,現由社群維護。

適合
  • 自架模型要正式上線、要撐同時很多人用
  • 想壓低單次推論成本
  • 資料完全不出公司的部署
不適合
  • 只是想試玩模型的階段(用桌面工具就好)
  • 沒有維運人力的團隊
費用
開源免費;成本在 GPU 與維運。
能不能商用
可商用
Apache-2.0 授權。
資料去哪裡
自行部署,請求不離開你的環境。
授權
Apache-2.0
跑在哪裡
自己架、裝在公司內部
能接什麼
API:尚未查證MCP:尚未查證Webhook:尚未查證
限制
  • 要有 GPU 與會維運的人
  • 模型本身的授權要另外確認
  • 調校參數對吞吐與延遲影響大,要實測
人工查證 2026-09-09・活躍(社群與多家機構共同維護)官方網站 ↗

卡片上的查證日期是我們最後一次讀官方頁面的時間;條款會改,正式使用前請再看一次官方頁。

← 看其他情境
取得 AI 實戰工具與更新

之後會不定期整理:新方法、指令包(Prompt Pack)、Checklist 與模板。免費、無廣告;送出後會收到一封確認信,點了連結才算訂閱成功,之後每封信都附一鍵退訂。