三家同時說要放慢：提案的三步，和已經開始的那一步

2026 年 9 月 12 日，Anthropic 的執行長 Dario Amodei 在個人網站貼了一篇長文，標題是 We Must Pace the Frontier，主張前緣的 AI 公司應該刻意放慢「模型能力成長」的速度。當天 OpenAI 的 Sam Altman 在 X 上回：「我同意 Dario 的看法，我們需要為前緣調速，這幾週我們內部一直在談這件事。」他接著說，讓獨立評測員拿到接近員工的權限是個好主意，OpenAI 也會做同樣的事。Elon Musk 的回應只有三個字：Dario 是對的。

最容易被讀歪的地方先講。放慢的是能力成長的速度，訓練和研究照樣進行。原文寫得很明白，pacing 的用意是讓公司有足夠的時間把模型對齊、把防護做上去，再往前推。

三步，難度由低到高

第一步叫「嵌入式評測員」。讓第三方的評測團隊像員工一樣長駐在公司裡，有辦公桌、識別證、公司筆電，權限比照內部的風險評估團隊，可以查公司有沒有真的照自己宣稱的訓練、部署與防護做法在走，可以調查事故，也可以評估訓練流程中的對齊狀況。其中最重要的是發表權：他們有權公布重要發現，公司只能遮掉資安敏感、法律特權、商業機密和涉及第三方保密的部分，不能因為難看就擋。Anthropic 說這一步它單方面先做，文章裡點名的對象是 METR 這類安全評測組織。

第二步是民主國家的公司之間訂共同的安全標準，以及不受檢查的能力推進速度上限。這一步需要政府居中協調，甚至可能需要反壟斷的豁免。不然幾家公司坐下來談「大家都不要跑那麼快」，本身就有法律問題。

第三步是跟威權國家協調。他把可能的協議分成四級：禁止明顯危險的用途（例如生物武器）、發布前的安全測試標準、對遞迴自我改進設速限、全面的調速協議。最後一級他自己說不太可能。

我怎麼看

第一步讓我願意認真看待，因為它是承諾，而且可以被檢查。以前外面的人只能聽公司說自己有做，現在有外部的人帶著內部權限進來，可以在現場看它做。只拿到成品的人只能選擇信或不信，看得到過程的人才查得出哪裡漏了。

不過有幾件事要一起講。這一整套是自願的，沒有強制力，也沒有罰則，競爭壓力不會因為三篇貼文消失。METR 被認為跟 Anthropic 的關係太近，是不是真的算獨立的第三方，有人公開質疑過；METR 的回應是它有一條硬規定，不收前緣 AI 公司的錢。這個質疑還沒有結論，但它碰到一個問題：評測員獨不獨立如果只能靠自律，外面的人還是只能選擇相信。

還有，領先的公司喊放慢，本身就帶有競爭意涵。提案不會因此變假，但讀的時候要記得，喊的人剛好是跑在最前面的那一家。

對你手上的計畫

如果你的計畫裡藏著「明年模型會強很多，這件事到時候就解決了」，現在有人在主動把這個前提往下壓。把今天做得到的事做完，比等下一代模型划算。

那個設計可以直接抄。找一個沒有參與產出的人，給他看得到過程的權限，不要只丟成品給他，然後讓他有權把發現講出來。這在公司裡成本很低，難的是最後那一句。

工具的更新節奏也可能變慢。慢不代表差，但如果你的產品規劃建立在「每季都有更強的模型可用」上，留一點餘裕。

Altman 那則回覆裡最具體的一句，是讓獨立評測員拿到接近員工的權限。辦公桌、識別證、公司筆電，這些東西在任何一家公司都找得到。

站內延伸

• 驗收要交給沒參與的人 → 對抗式驗收
• 最強能力已經在分級了 → AI 開始有駕照制了
• 評估供應商的問法 → 找方法AI 供應商評估

來源： Dario Amodei：We Must Pace the Frontier（2026-09-12；三步提案、嵌入式評測員的權限與發表權、四級國際協議、「調速不等於停止訓練」）；SiliconANGLE：Sam Altman and Elon Musk back Dario Amodei's call to slow down the frontier of AI development（Altman 與 Musk 的原話與時間）；METR（評測組織本身）；OfficeChai：METR's independence questioned（獨立性質疑與 METR 的回應）。