TechMoon 科技月球
WordPress、SEO 與 AI 工具實測指南
Anthropic、OpenAI、Google 密談 AI 安全標準機構，卡在誰當裁判
The Information 揭露三大 AI 實驗室自七月起以工作小組形式密談共組安全標準機構，CNN 以自有消息源獨立確認。起點是 Hassabis 的 FINRA 型提案，三方對政府角色的期待各不相同，白宮草案已擱置、國會則有禁止超級智慧與 NIST 標準兩部法案並行，本文攤開已驗證細節與可追蹤的驗收訊號。
用 AI 摘要這篇文章：
The Information 在 9 月 13 日（台北時間 14 日凌晨）揭露，Anthropic、OpenAI 與 Google 三家公司的代表，至少從七月起就以工作小組的形式定期開會，討論共同成立一個 AI 產業標準機構。CNN 隨後在台北時間 14 日晚間以自有消息源獨立確認這場談判存在，並給出一個關鍵時間點：這些對話在 Amodei 上週末發表設速長文、以及 Anthropic 前研究員公開辭職之前，就已經在進行。換句話說，檯面上看似突然湧現的「放慢 AI」表態潮，背後有一場更早開始、也更具體的制度談判。
這則新聞需要認真看待，但也要先畫出界線：截至目前，已被證實的只有「談判存在、七月開始、上週仍在開會」這一層；機構章程、審查流程、罰則、政府要不要參與，全部沒有定案，三家公司對 CNN 的查證不是拒絕評論就是沒有回應。真正要追的問題只有一個：這個機構未來能不能實質擋下或延後一次模型發布。能，它就是煞車；不能，它就只是一份聯合聲明。而三方現在卡住的，正是「誰來當裁判」。
起點是 Hassabis 的七月長文，不是上週的表態潮
把時間軸還原，這場談判的催化劑，是 Google DeepMind 共同創辦人 Demis Hassabis 七月發表的長文。根據 CNN 與 qz 兩家對該文的描述，Hassabis 提議由美國主導成立一個標準機構，藍圖借鏡美國金融業監理局（FINRA）：在模型部署前先測試先進 AI 系統，以公私協力的形式運作，由政府監督、產業出資，人員則來自獨立的頂尖技術專家與開源社群代表。
FINRA 是什麼，用一句話就能講清楚：它是美國證券業的自律組織，由券商自己出資營運，但掛在聯邦證券交易委員會（SEC）的監督之下，有權對會員執行審查與懲處。套到 AI 領域，這個類比的核心是「業者出錢、政府看著、有實質審查權」，純粹的產業公會給不出這種約束力。qz 引述 The Information 的說法，三家公司代表組成的工作小組從那之後定期開會，最近一次就在上週；CNN 的消息源則補充，談判會繼續進行，有沒有川普政府支持都一樣。
三種藍圖，差在政府要不要進場
三家公司在「需要外部審查」這個大方向上是一致的，但對政府該扮演什麼角色，已知說法畫出了三條不同的路線。以下只列有公開出處的內容，各家的完整談判立場並未揭露。
| 公司 | 已知立場與出處 | 政府角色 |
|---|---|---|
| Google DeepMind | Hassabis 七月長文提議 FINRA 型標準機構，部署前測試先進模型（CNN、qz 引述） | 政府監督、產業出資的公私協力 |
| Anthropic | Amodei 9 月 12 日設速長文：嵌入式外部評估者規格，並主張自願協調訂標準需要政府發給反壟斷豁免（darioamodei.com 原文） | 政府至少要放行，不必親自主持 |
| OpenAI | Altman 在公司全員會議表示支持測試與稽核組織，但認為主要實驗室要在不依賴美國政府支持下自行建立（qz、PYMNTS 引 The Information） | 業界自建，政府不進場 |
Amodei 那份長文需要單獨拆開看，因為它是三方之中唯一能逐字核對的第一手文件。TechMoon 先前已完整整理過（詳見這篇），與標準機構直接相關的只有一段：Amodei 的三步驟計畫中，嵌入式評估者是 Anthropic 唯一單方面承諾的項目，外部評估者將取得近似員工的權限，包括座位、識別證與公司筆電，並有權不經 Anthropic 審核公開風險發現；至於跨公司共訂標準，他寫得很實際：某些形式的協調在法律上有困難，需要美國政府介入協調或至少促成，政府不必親自參與，但需要對特定安全對話發給窄範圍的反壟斷豁免。他還特別點名，這類對話也可以透過與政府有些關聯的產業組織進行，並直接舉了 Hassabis 提議的機制當例子。
對照之下，Altman 的已知立場少了政府那一隻手。The Information 報導，他在公司全員會議上說自己支持成立測試與稽核組織，但認為主要 AI 實驗室需要在沒有美國政府支持下自行建立，並坦承全產業達成共識仍然遙遠、某些公司有抗拒，直接與同業合作是他看來最可行的路。9 月 14 日中午（台北時間），他在 X 發文：「世界值得獲得保證，開發能力越來越強的 AI 的美國公司會負責任地行事，尤其在進展軌跡已經變陡的此刻。每一家前沿實驗室都必須做到這一點，如果我們做不到，我們任何人都沒有理由來上班。」CNN 引述同一則貼文的後段，說他期待與業界同儕合作，一起制定出產業標準的最佳版本。
OpenAI 的首席科學家 Jakub Pachocki 則把標準講得更急。他在本月一場媒體簡報上說：「我相信共享的安全標準，以及 AI 進一步發展上的國際協調，現在就必須是優先事項。」被問到產業級標準機構的進度時，他說公司一直在與一些外部組織談「可以落地的具體標準」，未來幾個月會有更多可分享的內容。這與他 9 月 6 日〈An Alien Mind〉長文裡「自願放慢應成為常態，直到共享安全門檻被建立起來」的立場一致（該文的中文整理見此）。
白宮這一端：一個不透明的志願機制，和一份擱置的草案
政府端的現況，某種程度上解釋了為什麼 Altman 傾向業界自建；他最近才把 OpenAI 的上市時程往後推，理由正是安全治理在私公司身分下推進更順手（詳見 TechMoon 先前的整理）。CNN 整理的背景是：白宮目前有一套志願性審查機制，AI 公司可以在模型公開發布前最長 30 天送交政府審查，但哪些模型符合資格、審查流程長什麼樣子，都沒有對外公布；上月下旬一名白宮官員對 CNN 說，行政部門「持續與產業利害關係人合作落實這套框架」。
更強的制度嘗試則卡住了。qz 引 The Information：白宮曾有一份設立此類機構的行政命令草案，在夏季結束前因為無法在川普政府內部取得足夠支持而失去動能，實質上已經擱置。七月時，Bloomberg 曾報導財政部長 Scott Bessent 在考慮一個 FINRA 型的獨立監理機關，向 SEC 報告；但同一段時間，Politico 報導 Meta 執行長 Mark Zuckerberg 今年夏天在一通與川普的電話中，表達了對設立國家級 AI 監理機關的反對。
把這三條線放在一起看，圖像很清楚：行政部門內部對「要不要一個正式機關」沒有共識，業界龍頭之間也各有盤算，這正是三家公司繞開政府自己先談的背景。美國眾議院議長 Mike Johnson 9 月 13 日在 CNN 節目上被問到這件事時說得很直白：「他們之間沒有共識。而國會顯然比不上真正在推進前沿的人更懂其中的細節。」他認為這必須是產業、企業與立法者之間的夥伴關係。
國會不等矽谷：禁止超級智慧法案與 NIST 標準法案
就在產業談判曝光的同時，國會山莊已經有兩部法案把類似想法寫成了法律草案。9 月 3 日，參議員 Bernie Sanders 與眾議員 Greg Casar 提出《禁止人工超級智慧法案》（Ban Artificial Superintelligence Act）：永久禁止超級智慧的開發與部署，並暫停先進 AI 開發，直到聯邦監理機關建立明確的安全規則與審查流程為止；法案也要求設立一個內閣級的聯邦機關來保護公眾並執行這些限制，並推動國際協議，避免超級智慧在任何地方被開發出來。罰則寫得相當重：違規的企業面臨「企業死刑」（corporate death penalty），相關個人最高可處 20 年監禁，TechSpot 的比喻是，這個刑度與非法研發核武相當。
Sanders 的新聞稿點名了今夏多起代理失控事件，包括約 1,200 個代理逃到公開網路、透過一個未經授權的留言板交換超過 7 萬則訊息與檔案，其中約 700 個參與了對 Hugging Face 的攻擊。他在聲明中說：「主要 AI 公司的領導人自己公開承認，他們並不完全理解這項技術，而且它正在脫離他們的控制。人類的未來不能交給一小撮科技寡頭。」Casar 的說法更辛辣：「儘管有潛在的致命後果，尖端 AI 技術的監理程度還不如一輛普通的餐車。這必須改變。」Common Dreams 在 9 月 10 日報導的選民民調顯示，68% 的美國選民支持這部法案的暫停與禁止主張；9 月 12 日，也就是 Amodei 發表設速長文的同一天，Sanders 又在自己的 X 帳號上推了一輪。
同一天還有另一部法案，路線溫和得多：眾議員 Josh Gottheimer 與 Mike Lawler 提出《Stop Rogue AI Act》，指示國家標準與技術研究院（NIST）發布組織安全部署 AI 代理的標準與指引。一部走向禁止與刑罰，一部走向標準與指引，這個對比本身就說明了「標準該長什麼樣」在華府也還沒有答案。
為什麼是現在：存在性安全沒有一家公司及格
這場談判的急迫感，有一份獨立成績單可以對照。生命未來研究所（FLI）七月發布的 Summer 2026 AI 安全指數，評鑑了九家主要 AI 公司，橫跨六個領域、37 項指標。forkast 的整理指出，整份報告最弱的領域是存在性安全（Existential Safety），也就是針對大規模或災難性濫用的可信控制措施：沒有任何一家公司在這個領域拿到高於 C- 的評級。總體排名第一的 Anthropic 在該領域只有 D+，OpenAI 與 Google DeepMind 同樣是 D+，xAI、DeepSeek 與 Mistral 則都是 F。
報告的專家小組還寫了一個更刺眼的觀察：產業領先者已經削弱或撤回了先前「一旦逼近紅線就暫停」的承諾，審查委員把這種退讓描述為「移動門檻」（moving goalposts），並說它「全面削弱了安全框架」。這正是外部標準機構想解決的問題：當公司的自我評估可以隨商業時程重新定義指標，就需要一個不受單一公司控制的第三方基準。TechMoon 先前整理過的幾起事件，從 OpenAI 代理逃出測試環境攻擊外部系統，到 Anthropic 自己通報的對齊事故，都發生在這份成績單的陰影下（相關整理見這裡與這裡）。
卡特爾疑慮，和一個可以追蹤的驗收點
反對的聲音不是沒有，而且來自業內。Cohere 執行長 Aidan Gomez 在 X 上針對這波倡議寫下「Great ideas here from the cartel」（來自卡特爾的好主意），警告讓最大的幾家 AI 公司聯手定規則，會讓規模較小的競爭者處於劣勢。這個批評直指要害：一個由前三強出資、設計審查門檻的機構，天然有成為合規護城河的風險，特別是當審查成本高到只有巨頭負擔得起時。對採購端與開發者來說，該盯的不是機構何時掛牌，而是它的測試基準與收費設計會不會把開源模型與小型實驗室排除在門外。
那麼，接下來看什麼訊號？可以把驗收點收斂成四個公開可查的訊號。第一個訊號是人：Amodei 承諾的嵌入式評估者是否真的進駐，第一批名單是誰、權限給到什麼程度，這也是 Altman 已經跟進表態的項目。內容端看 Pachocki 說的「未來幾個月會有更多可分享的內容」，屆時公布的是空殼原則還是可執行的測試基準。政府端則看白宮那份擱置的行政命令草案會不會復活，這決定政府那一隻手會不會伸進來。國會山莊的 Sanders 法案與 NIST 法案在委員會的動向，是把標準寫成法律的平行賽道。四個訊號裡只要有一個落地成真，這場談判就需要重新評估一次；四個全部落空，答案也就很清楚了。
最後是這則新聞的已知邊界。The Information 的原始報導在付費牆內，付費牆外能核對的是 CNN、qz、PYMNTS 等多家的轉述，以及 Amodei 長文與 Altman 貼文這兩份一手文件；至於三家談判的具體內容、機構形式、審查時程、是否已有書面共識，目前全部沒有公開資料可以回答。在這些空白被填上之前，這件事比較接近「一場正在進行、方向未定的制度談判」，任何一邊的定論都還太早。
