假設開會開到一半，主管說：「我們把公司這些年的資料拿去訓練一個自己的 AI，以後大家問它就好。」會議室安靜了幾秒，沒有人知道這要花多少、要找誰做。
先別急著估價。這句話裡通常混了好幾種不同的期待：希望它知道公司的規定和產品，希望它寫出來的東西像公司的口吻，希望資料不要送到外面。三種期待，各自落在不同的地方，解法也不一樣。
微軟的生成式 AI 入門課，列了四種讓模型表現更好的做法：在提示裡給足脈絡、用檢索把資料帶進提示、微調模型、從頭訓練一個模型。課程說這幾種做法的複雜度和成本各不相同，從頭訓練最困難。主管說的「訓練」，我的判斷是多半落在前兩層。
四層各自在處理什麼
第一層：把提示寫好。 把要求寫清楚、附上一兩個範例，模型就會更接近你要的答案。課程直接說，這是起步時最划算的做法。我的判斷是，很多「它寫得不像我們」的抱怨，在這一層就能處理：把一封你們滿意的舊信貼進去當範例。
第二層：給資料。 模型只知道訓練時看過的東西，訓練之後發生的事不知道，公司內部的文件也沒看過。知識庫（技術上叫 RAG，檢索增強生成）的做法是：問題進來時，先去你們的文件裡找出相關的段落，跟問題一起交給模型。課程的說法是，資料、時間或人力不夠做微調，又想讓某件工作表現更好、減少亂編和過時的答案時，這招很有用。
第三層：微調。 拿一批「輸入和理想輸出」配成對的例子，把模型再訓練一次，產生一個新的模型。課程列出它適合的情況：想用小模型做一件很窄的事來省錢、對回應速度要求高到不能塞很長的提示、手上有很多高品質範例，要模型穩定照某種格式或語氣輸出。同一課也寫了，問題如果是新的事實、或常常變動的內部知識，該用 RAG，不要只靠微調。微調前後要拿同一批題目比，跑分怎麼讀、自己的題目怎麼出，可以看排行榜第一、繁中分數更高，該換模型嗎？。
第四層：從頭訓練。 課程形容這是最困難、最複雜的做法，需要大量資料、專業人力和足夠的算力，只在有特定領域的用途、又有大量該領域資料時才考慮。本站找靈感記過鴻海自己訓練繁中模型 FoxBrain，那則的結論是：可以學的是「先確認現成模型真的不夠用」這個判斷順序，規模學不來。
判斷你在哪一層
主管說「訓練一個自己的 AI」
│
↓
答不好，是因為它不知道我們的資料？
│ 是 → 第二層：給資料（知識庫）
↓ 不是
格式、語氣不穩？
│ 是 → 第一層：提示裡放範例
│ 範例多到塞不下、又要很穩
│ → 才輪到第三層：微調
↓ 不是
資料不能送到外面？
│ 是 → 改部署方式，不等於要訓練
↓ 不是
現成模型都不懂這個領域，
又有大量領域資料？ → 第四層才上桌
| 層級 | 什麼時候夠用 | 要準備什麼 | 常見誤解 |
|---|---|---|---|
| 第一層：下提示 | 要求講得清楚、給一兩個範例就能做好 | 做這件事的同事、幾個好範例 | 「提示只是打字，不算導入」 |
| 第二層：給資料（知識庫） | 答錯是因為它不知道公司的規定、產品、最新資訊 | 整理過、確定可以給人查的文件，和一位負責更新文件的人 | 「讓 AI 知道我們的資料＝要訓練它」 |
| 第三層：微調 | 前兩層做過也量過，格式或語氣還是不穩，範例多到提示塞不下 | 成對的高品質範例、有微調經驗的人、比較前後的測試題、部署和重做的預算 | 「微調完它就會記得公司最新的資料」 |
| 第四層：從頭訓練 | 現成模型都不懂這個領域，而且你有大量這個領域的資料 | 研究團隊、大量資料、大量算力 | 「有自己的模型才算有 AI 能力」 |
作者整理，非官方。
表裡第三欄「要準備什麼」，越往下越不是錢能直接買到的。第二層卡住的，常常是沒有人負責文件；第三層卡住的，常常是沒有人能說清楚「好的答案長什麼樣」。這兩點是我的判斷。
真的要微調，先回答這幾件事
課程第 18 課給了微調前要先問自己的問題，大致是四組。用途：你想改善現在模型的哪一點？替代方案：提示和 RAG 都試過了嗎？要拿它們的成績當比較基準。成本：模型能不能微調、準備資料和評估要花多少工、跑訓練和部署的算力、有沒有足夠的高品質範例。效益：微調後真的贏過基準嗎？提示能不能因此變短、省下用量？課程的結論是效益大於成本才值得做，而且這是需要專業的進階技術，做錯了效果可能反而變差。
課程裡引了微軟 Foundry 平台的幾條建議，可以看出微調的工作量長什麼樣：先用 50 到 100 個高品質範例驗證做法，正式上線再擴到 500 個以上；部署後的自訂模型按小時計費，閒置 15 天的部署會被移除；呼叫時要沿用訓練時的系統提示。這是單一平台的建議，換平台數字會不同。我的判斷是，「要先量基準、要準備範例、上線後持續有費用」這幾件事，換到別家也很難省掉。
資料不能送到外面，是另一個常被講成「要訓練」的理由。這件事改的是部署方式，例如在公司內部架設開放模型，模型本身不一定要重新訓練。台灣本土模型怎麼評估，台灣的 AI：TAIDE、Breeze 一般人用得到嗎那篇有一張判斷流程。
想把主管那句話拆開，可以把下面這段貼給 AI：
我的主管提議「用公司資料訓練一個自己的 AI」。請幫我把這個需求拆開，對照四個層級：一、把提示寫好；二、給資料（知識庫／RAG）；三、微調；四、從頭訓練。 請逐項回答： 1. 主管的期待裡可能混了哪幾種需求（例如：要它知道公司資料、要它用公司口吻、資料不能外流）？每一種最低落在第幾層？ 2. 每一種需求，在最低那一層要準備什麼文件、範例和負責的人？ 3. 要往上一層之前，該先量哪些成績當基準？請建議 10 題左右的測試題方向。 4. 列出我們需要先問清楚的問題，例如資料多久更新一次、能不能送到外部服務。 不要估任何金額；需要金額的地方寫「需向廠商或平台報價」。 主管的原話和我們部門的工作：（貼在這裡）
微調要不要做，最後看的是一張比較表：同一批測試題，提示加知識庫考幾分，微調後考幾分。這張表做不出來之前，先不用找廠商報價。
站內延伸
- 先把公司文件做成查得到出處的問答 → 找方法AI 建知識庫
- 知識庫答不出來，先查哪裡 → 文件裡明明有寫，AI 為什麼說查不到？
- 每一層用哪些工具、資料變了怎麼辦 → 找工具比較表該不該自己訓練？先看你在哪一條路上
來源： microsoft/generative-ai-for-beginners 第 02 課：Exploring and comparing different LLMs（MIT；「Improving LLM results」一節：提示加脈絡最划算、RAG 適用於資料時間人力不足以微調時、微調適合小模型窄任務、延遲與穩定格式語氣，新事實與常變動的私有知識用 RAG、從頭訓練需大量資料人力算力；2026-10-25 讀本機副本）；microsoft/generative-ai-for-beginners 第 18 課：Fine-Tuning Your LLM（MIT；少樣本提示受字數與成本限制、微調前的用途／替代方案／成本／效益四組問題、進階技術做錯可能變差、Foundry 建議 50–100 個範例起步與 500 個以上上線、按小時計費、閒置 15 天移除、沿用訓練時的系統提示）；本站找靈感：鴻海 FoxBrain 條目的限制說明（先確認現成模型真的不夠用）。四層判斷表與流程圖為作者整理，不含任何金額估算。