你請它整理一份補助申請的規定，它回得很完整，最後還補一句「依據某某辦法第幾條」。你打開法規資料庫，想把原文貼進簽呈，結果那一條講的是完全不相干的事，整部辦法裡也找不到它說的那段話。
它是在敷衍你嗎？不太像。它前面講的流程大致對，這一句的口氣也跟其他段落一樣穩。麻煩的地方就在這裡：光看文字，你分不出哪一句是編的。
這種現象一般叫「幻覺」。微軟給初學者的生成式 AI 課程建議改叫「編造」，理由是不要把機器的行為講得像人的精神狀態，這篇也用編造。下面講三件事：它為什麼會編、什麼時候特別會編、你手上這句話要不要花時間查。
它為什麼會一本正經地編
2025 年 9 月，OpenAI 與喬治亞理工學院的研究人員發表一篇論文，用考試來解釋。學生遇到不會的選擇題會猜，申論題不會也會硬寫一段像樣的答案，因為交白卷一定零分，猜還有機會得分。模型被訓練和評分的方式很像：大部分評量只看答對或答錯，回答「我不知道」跟答錯一樣拿不到分，猜就成了比較划算的做法。
論文開頭舉了一個例子。他們問一個模型（2025 年 5 月的 DeepSeek-V3）其中一位作者的生日，還註明「知道才回答」，三次問出三個不同的日期，全部是錯的。論文也提到，這類瞎猜的答案常常很具體、很有把握，並舉例說，問日期時它會說「9 月 30 日」，而不是「大概秋天」。
所以具體不代表可靠。它在猜的時候常常講得很具體，精確到某一天、某一條、某一頁。
什麼時候特別容易
同一篇論文分析，最容易被編的是沒有規律可循、資料裡又很少出現的事實。論文用生日舉例：如果有 20% 的生日資料在訓練資料裡只出現過一次，可以預期剛訓練完、還沒經過後續調整的模型，在生日題上至少有 20% 會答錯。換到你的工作，就是冷門法規的條號、某位地方主管的職稱、一篇論文的頁碼、某家小公司的成立年份。這些東西沒有道理可以推，只能記，記不住它就猜。
第二種是題目本身有錯。微軟課程示範過，請模型為「2076 年火星戰爭」寫一份教案。這場戰爭不存在，2076 年也還沒到，三個模型都寫出了會讓不知情的人信以為真的教案。你的問題裡如果帶著錯的前提，像是記錯的法規名稱、改組前的機關名，它多半會順著你講下去。
第三種是時間。DAIR.AI 的提示工程指南整理一份可信度研究時寫到，模型常在事實正確性上出問題，原因包括訓練資料裡的雜訊、錯誤資訊和過時資訊，能連到外部資料來源的模型表現比較好。去年修過的法規、上個月換人的職位，它很可能還停在舊版。
這句話要不要查：三色燈號
查證要花時間，每句都查不實際。判斷的依據不放在它講得多有把握，只看這句話屬於哪一類。
| 燈號 | 內容類型 | 例子 | 你要做的 |
|---|---|---|---|
| 紅：一定查 | 數字、金額、比例 | 補助上限、成長率、統計數字 | 找到原始出處再用 |
| 紅：一定查 | 日期與期限 | 申請截止日、法規施行日 | 對照官方公告 |
| 紅：一定查 | 法規名稱與條號 | 「依某辦法第幾條」 | 到全國法規資料庫看條文全文 |
| 紅：一定查 | 人名、職位、機關名 | 某局長、某委員會 | 看機關官網的最新版 |
| 紅：一定查 | 引用的文獻、判決、新聞，引號裡的話 | 「某報告指出」 | 用下面的三關檢查 |
| 黃：看用途 | 因果說法、通則 | 「這樣做可以提升效率」「業界普遍」 | 要對外講或拿來做決定就升紅燈 |
| 黃：看用途 | 最近一年的事、軟體操作步驟 | 新制度、某個選單在哪 | 自己操作一次或查官方說明 |
| 綠：看得懂就好 | 概念解釋、用你給的資料整理格式 | 什麼是雙因素驗證、把表格改成條列 | 讀起來合理就可以用 |
| 綠：看得懂就好 | 改寫、潤飾、想點子 | 換個語氣、想幾個標題 | 不需要查證 |
作者整理，非官方。
另外有兩條升級規則。要對外發出、要拿去做決定的內容，黃燈一律當紅燈。它答得越精確，越往紅燈那邊靠，「大約一成」可以先放著，「百分之十一點三」就要查。
附了出處也要過三關
很多人學到「叫它附出處」就放心了，但出處本身也會出錯。Google 的 Gemini 範例集裡有一份檢查引用的範例，原本是用來檢查 AI 根據你給的文件回答時附的引用。它把假引用分成三種，同樣的分法拿來看 AI 自己附的網路出處也適用：
- 捏造：引號裡那句話，在它說的來源裡根本找不到。
- 拼貼：每個字都在原文裡，但從來沒有連在一起出現過，是把幾段話剪接成一句。
- 張冠李戴：那句話是真的，但出自另一份文件，來源標錯了。
那份範例的做法是先做最笨的一步：拿引文去原文裡逐字比對，對不上的直接剔除，不必再花力氣判斷。它也提醒，逐字找得到還不算過關，一句真實、出處也對的引文，仍然可能撐不起它被拿來證明的那句話，所以要讀前後文。
AI 附的出處
|
v
第一關：搜得到原文嗎？ ----否----> 捏造，刪掉
| 是
v
第二關：那句話一字不差？ --否----> 拼貼或標錯
| 是 來源，刪掉
v
第三關：前後文支持嗎？ ----否----> 撐不起，刪掉
| 是
v
可以用
這三關是作者把那份範例改成人工可做的步驟（範例的第三步原本交給另一個模型判斷）。第一、二關用搜尋和 Ctrl+F 就能做，幾分鐘的事。第三關要讀，最花時間，也最容易被跳過。
讓它先把要查的句子列出來
DAIR.AI 的指南建議，把相關原文放進對話讓它照著答，並明白告訴它可以回答「不知道」，能降低編造。微軟課程的建議清單也有同一條：給它一個做不到時可以回的答案。
下面這段可以貼在你的問題前面，讓它答完順便交一張查證清單：
請回答我下面的問題。回答完後，另外列一張「查證清單」： 一、把回答中屬於以下類型的句子逐句列出：數字或金額、日期或期限、法規名稱或條號、人名或職位或機關名、引用的文獻或報告或新聞。 二、每句標上類型，以及建議我去哪裡查（哪個官方網站或資料庫）。 三、如果你引用了出處，附上你要引用的那句原文；不確定原文怎麼寫，就寫「無法提供原文」，不要自己補。 四、不知道或沒把握的部分，直接寫「我不知道」，不要用猜的填空。 我的問題：（貼上你的問題）
這張清單是幫你決定先查哪幾句，不能當成查證結果。它沒列進去的紅燈句，你自己補上。
下次它給你一個條號，先別貼進簽呈，打開全國法規資料庫把那一條找出來，對過原文再用。
站內延伸
- 定稿前逐句標出要查的句子 → 找方法AI 長文事實查核工作單
- 讓摘要的每一點都找得回原文 → 找方法長文摘要的可信任閱讀流程
來源： Kalai、Nachum、Vempala、Zhang：Why Language Models Hallucinate（arXiv，2025-09-04；考試猜題的比喻、只看對錯的評分讓猜題划算、問作者生日三次得到三個錯的日期、瞎猜的答案通常具體而有把握、只出現一次的事實比例與錯誤率下限）；微軟 Generative AI for Beginners 第 4 課 Prompt Engineering Fundamentals（建議用 fabrication 一詞、2076 年火星戰爭教案示範、給模型一個出口）；DAIR.AI Prompt Engineering Guide：Factuality（放入原文、允許回答不知道）與 Trustworthiness in LLMs（整理 Sun 等人 2024 年的 TrustLLM：訓練資料雜訊、錯誤與過時資訊，連外部知識來源表現較好）；Google Gemini Cookbook：Check citation faithfulness in RAG（捏造、拼貼、張冠李戴三種失敗，逐字比對通過後仍要判斷是否支持主張）。以上皆 2026-10-25 查閱。三色燈號、升級規則與三關流程為作者整理。