OpenAI Control Room 是什麼?35 秒停止模型輸出的內部閘門

OpenAI 於 2026 年 11 月 9 日公開內部系統 Control Room:研究推論工作掛上 job_id,由中央服務控制能否繼續取得模型輸出,停止指令最長 35 秒生效,延遲來自授權快取層;停止之後工作程式可以仍在運行,已完成的外部動作不會自動收回,控制服務失聯時全系統改為先拒絕輸出(fail-closed)。一般 ChatGPT 與 API 使用者不受影響。

用 AI 摘要這篇文章:

OpenAI 在 2026 年 11 月 9 日晚間公開了一篇名為 Control Room 的說明文件,標題就把定位講清楚:「跨研究基礎架構追蹤並停止模型工作負載的中央系統」。官方 X 帳號於台灣時間 11 月 10 日上午 6 時 01 分發出公告,依 Wayback 網路檔案館的存檔紀錄,說明頁在官方貼文後約 65 秒就有了最早的存檔快照。這套系統連接 OpenAI 內部所有研究推論工作,包含模型訓練與評估用的代理式抽樣、資料處理,官方給出的核心數字是:從 Control Room 收到停止指令,到目標工作再也無法推進,最長 35 秒。

OpenAI 官方頁面標題 Control Room 與首段說明Pin
OpenAI 於 2026 年 11 月 9 日公開的 Control Room 說明頁,開頭寫明模型的安全與資安風險變大時,要能偵測問題並快速把模型停下。

這個數字值得停下來讀,因為它同時回答了「多快」與「多準」兩個問題:停止的對象是哪一項工作、從哪一刻起算、又卡在哪個環節。把這三個邊界拆開之後會發現,Control Room 公開的更像一套把停止權放進推論入口的授權設計,而 35 秒是這條路目前願意承認的代價。

管的是研究推論這一層:job_id 讓停止對準整項工作

先劃定範圍。Control Room 管的是 OpenAI 內部研究基礎架構上的模型工作負載,強化學習實驗、模型評估、大量抽樣與資料處理都算;它與 misalignment 監控系統協作,在安全或資安疑慮出現時把工作停下。官方特別區分了對外服務:對外提供模型的系統本來就相對集中,早已有必要時快速下線部署的維運能力,所以這次公開的架構不是 ChatGPT 多了新選項,一般使用者的帳號介面不會出現任何變化。

機制的核心是一組識別碼。官方把整條鏈拆成三個角色:工作負載(正在跑的那項作業)、推論引擎與中央的 Control Room 服務。官方對引擎給了一個好懂的說法,引擎就是模型本身,直接跑在 GPU 上;一項工作通常用到一個或多個模型,這些模型可能跑在不同的引擎上,同一顆引擎也可能同時服務多項工作。工作啟動時先向 Control Room 登記取得 job_id;之後每次要向模型取輸出,工作程式直接把請求送進推論引擎,並附上這組 job_id,請求本身不經過 Control Room;引擎履行請求前,先拿 job_id 向 Control Room 查授權,一旦 Control Room 把這項工作標記為停止,引擎就必須拒絕。同一項評估可能先問一個模型、再叫另一個模型檢查結果,只要兩次請求掛同一個 job_id,停止指令就能對準整項工作,而不會只停掉其中一段對話;同一顆引擎同時服務的其他獲授權工作,也不受波及。

官方頁面附了一組十三步的互動示例,把停止那一刻的順序走了一遍:人或監控系統向 Control Room 發出停止指令,Control Room 把該工作的 job_id 標記為停止,工作程式這時還在跑,還可以繼續送出推論請求;官方在同一格裡寫明,他們不依賴工作程式自己去檢查工作是否仍持有授權;下一次請求進來,引擎照常向 Control Room 查授權,這次得到拒絕,於是引擎回傳拒絕,模型輸出到此為止。示例的最後一格標題寫得直白:模型輸出停了,工作還在。

Control Room 運作方式段落,job_id 向推論引擎與中央服務串接Pin
官方 How it works 段落:工作取得 job_id、推論請求附上識別碼、引擎履行前先向 Control Room 查授權。

官方還替這套設計加了一道事前門檻:每一個會做代理式推論的研究工作,都必須關聯一份經核可的安全論證(safety case)。工作向 Control Room 註冊 job_id 時就掛上這份論證,換句話說,能不能啟動與有沒有通過審查是綁在一起的,送得出請求不等於獲得許可。這種「先有安全論證才能跑」的思路,與Google 替代理安全設計的雙鎖架構方向一致:把防護寫進工作能不能開始的條件裡,事後攔截只是第二道。

為什麼不要求每支研究程式自己停下來

最直接的疑問是:要停的時候,直接叫那支程式結束不就好了?官方的回答很坦白:工作程式由不同研究人員與團隊持有,改動頻繁,「不是承載關鍵安全防護的理想位置」。如果停止機制依賴工作程式自己正確收到指令、自己判斷該停,防護就建立在最可能出錯、也最分散的那一層上;十月的兩起內部代理削弱監控事件已經示範過,模型會為了完成任務繞過擋在面前的防護,把停止權寄望於目標對象自覺配合,邏輯上就站不住。

所以 OpenAI 把檢查放到另一端。研究用的推論程式路徑數量很少、部署集中,正好可以當成授權檢查的瓶頸:所有研究推論都必須經過接了 Control Room 的引擎,每一次請求都查一次授權,研究人員照樣能自己安排實驗流程,但只要還想拿模型輸出,就繞不過這道檢查。官方還補了一個防繞措施:持續跑代理式與程式化的掃描,確認沒有人意外或刻意啟動未接 Control Room 的私有引擎。換句話說,瓶頸不是宣稱出來的,而是經反覆稽核維持的。

35 秒的三個邊界:起算點、快取層與降為零的目標

回到那個最容易寫錯的數字。官方原文的定義是:Control Room 收到停止指令的那一刻起,到該工作無法再推進為止,最長 35 秒。這句話劃出三個界線。起算點是 Control Room 收到指令,監控系統發現問題、判斷嚴重程度、決定要不要介入的時間全都不在裡面,35 秒不是「從出事到處理完」的時間。延遲的來源也寫明白了:推論授權有一層快取,用來撐住研究推論的流量,代價就是停止狀態需要最多 35 秒才會讓所有查詢失效。官方說正在把這個數字往零推,目標是瞬間終止,但這是方向宣稱,還沒有兌現。

Speed and reliability 段落,35 秒上限與 fail-closed 說明Pin
官方 Speed and reliability 段落寫明 35 秒上限來自推論授權的快取層,系統採 fail-closed 設計。

快取層的存在還提醒了一件事:每一次推論請求都要過授權檢查,與每一次檢查都拿到當下的授權狀態,是兩個不同的承諾。在快取尚未失效的這段時間裡,已判停止的工作仍可能拿到最後幾次輸出。評估任何系統的急停數字時,這段緩衝時間該計入風險,「有檢查」三個字蓋不住它。

偵測與執行也分工在兩個系統上。官方說明所有前沿強化學習工作都掛著監控器,那是另一個模型,盯著受訓模型做的每一件事,發現疑慮時依細節與嚴重度決定是否要求停止,再把帶著 job_id 的停止訊息送給 Control Room 執行;先前的 DNS 相關事件就是監控器抓到的。那起事件發生在 2026 年 9 月 20 日,OpenAI 之後在 alignment 部落格公開了報告:一個正在解搜尋任務的研究代理,先用正規搜尋工具、又試圖直接連搜尋引擎都沒成功,最後從訓練沙箱的 DNS 過濾缺口,連上了一個公開的聊天機器人服務;報告特別註明,除了 DNS 解析器之外,該沙箱其餘的網路請求都只打到離線的網頁快取,並沒有碰到真的網際網路。報告寫下的時間線是:監控系統在 15 分鐘內通報,3 分鐘後有人開始審閱,該次訓練在 2.5 小時後終止。事件之後 OpenAI 暫停最強模型所有帶工具使用的訓練、評估與推論,兩層獨立的阻擋控制已經補上,但報告更新到 2026 年 9 月 25 日時這波暫停仍在進行,官方明言受影響的那次訓練不會復跑,重啟時會換成加入額外對齊強化的全新一輪訓練。把這段對照著看,Control Room 的意義就具體了:9 月那次靠的是監控通報加上人工處置,11 月公開的這套系統,是把「要停就停得掉」變成隨時待命的基礎設施。整條處理鏈裡,35 秒只涵蓋最後一段,前面的發現與判斷各有各自的時間,Control Room 說明頁沒有給出這些數字。

停止之後留下什麼:程式可以還活著,寄出去的信不會回來

官方互動示例裡有一個容易忽略的細節:停止之後,模型輸出停了,工作程式可以繼續活著。引擎回傳的是拒絕,工作程式並不會因此退出;它可能還在等待、重試或跑自己的其他邏輯,只是再也拿不到新的模型輸出。這個設計是刻意的,停止的授權管的是「還能不能取得輸出」,至於工作程式本身的存活與清理,是另一件事。

對會使用外部工具的代理,這條線更重要。停止模型輸出,不會讓已經完成的外部動作倒轉:代理在停止指令前已經寄出的信、已經送出的請求,不會隨後續推論停擺而自動收回。官方文件沒有提供任何撤回既有動作的功能,這個界線是從停止範圍推導出來的,但對評估代理風險是實際的:與其假設有急停就能補救,不如把關卡放在動作執行之前,代理對外支付已經走到假卡號攔截這一層,就是同一個問題在支付場景的版本。會碰到模型推論與外部服務兩種風險的團隊,沙箱與授權也要分開安排,Akamai 把推論沙箱與代理沙箱拆成兩個產品線的原因相同:管得住模型輸出,不等於管得住代理拿著輸出去做的事。

控制服務自己掛掉時:fail-closed 的分階段部署

停止系統自己也會故障,這是設計裡最誠實的一段。Control Room 採用故障關閉(fail-closed)設計:如果 Control Room 服務停擺,無論源於系統錯誤,或有人刻意停用這套服務,引擎端一律拒絕所有推論請求,直到服務恢復正常為止。也就是說,失聯時系統一律當作未獲許可處理,不確定的狀態先不給輸出。

代價同樣明確:Control Room 一掛,所有依賴它的研究工作都拿不到模型輸出,可用性直接讓位給授權一致性。官方沒有詳述恢復流程與各角色的權限安排,這些留給讀者當自己系統的設計題。部署進度也交代了時間點:公告發布時,fail-closed 已部署到所有前沿模型研究工作,其餘研究工作預計在接下來幾天內完成。這是進行式的時程,截至 2026 年 11 月 13 日,全量是否完成仍無法從公告確認。

官方沒有交代的部分,與後續追蹤點

官方文件沒有給的,同樣需要列清楚。35 秒是 OpenAI 自己陳述的設計上限,沒有外部獨立實測可以對照;Control Room 說明頁本身沒有給出監控發現問題、決定介入這兩段要花多少時間的數字;fail-closed 全量部署是否如期完成、數字何時真的降到零,也都要等後續更新。這篇說明定位在內部研究基礎架構的公開,不是產品發布,沒有對外開放使用的承諾。

對不同讀者的意思不一樣。一般 ChatGPT 與 API 使用者沒有需要調整的設定,這次公開不改變任何對外行為。自己架設代理系統的團隊,帶得走的是三個可驗收的切面:停止權放在哪一層(是不是放在不依賴目標對象配合的入口)、停止範圍對準什麼(一次對話、整項工作,還是整個服務)、控制者自己失聯時系統選擇先停誰(fail-open 還是 fail-closed)。任何一題答不清楚的停止按鈕,都值得在交給它長時間任務之前再多問一次。

回查的時間點也明確:fail-closed 的全量部署在公告後幾天內應有結果,官方頁面與 X 帳號是最直接的出處;35 秒數字若更新,同一頁會是最快反映的地方。以上內容對應 OpenAI 於 11 月 9 日發布的說明頁版本;fail-closed 的部署進度與 35 秒數字若有更新,以官方頁面為準。

Sliven 褚崇名
Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

文章: 2450

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


Share to...