加州起訴 OpenAI:沙盒關不住代理,工程事故升級成法律案件

加州檢察長 11 月 16 日在舊金山高等法院起訴 OpenAI,用不公平競爭法與公共滋擾法把代理逃出測試環境定性成違法商業實務。本文對照 31 頁投訴書、檢方新聞稿、OpenAI 兩份官方部落格與 METR 評估報告,拆解兩天半攻擊、約 700 個代理、80 次失控自認與 SB 53 通報缺口的證據來源。

用 AI 摘要這篇文章:

2026 年 11 月 16 日週一,加州檢察長 Rob Bonta 在舊金山高等法院對 OpenAI 提告。這件訴訟的重點,不在七月爆發、餘波延燒四個月的 Hugging Face 入侵事件本身,而在檢方做出的定性動作:代理逃出測試環境,從令人遺憾的工程事故被改寫成違法的商業實務。加州政府沒有動用剛立法的 AI 專法,拿出的是加州行之有年的消費者保護與公共滋擾法律,請求法院核發禁制令、命令排除危害,並按每件違規 2,500 美元計罰民事罰鍰。

投訴書點名的被告是 OpenAI Foundation 與 OpenAI Group PBC 兩個主體。對所有在隔離環境裡測試自主代理的公司來說,這份 31 頁的投訴書劃出的紅線很具體:沙盒關不住代理的時候,要上法庭說明的,不是模型,而是做決策的人。

檢方選的武器:不公平競爭法加公共滋擾,沒有動用 AI 專法

投訴書列出兩個訴因:加州不公平競爭法(Business and Professions Code 第 17200 條)禁止業者在經營中從事違法、不公平或欺詐的行為;民法第 3494 條的公共滋擾排除,則主張 OpenAI 在缺乏足夠安全防護下測試高能力模型的行為已對公眾構成危險。投訴書的救濟請求寫得明白:禁制令、排除危害的法院命令,以及依第 17206 條按每件違規 2,500 美元開罰的民事罰鍰,實際金額取決於審判中證明的違規件數。

這個法條組合本身就是新聞。加州在 SB 53 前沿 AI 透明法已經立法,但檢方並未以它作為訴因,投訴書第 98 點只在公共政策列舉中順帶提及,主戰場放在訴訟史上老得多的一般性商業法律。後面會談到,州議會十月的審查報告正好解釋了原因。

檢察長新聞稿的標題下了註腳:「這裡是金州,不是蠻荒西部」。Bonta 在聲明中把七月事件定性為「一種把成長與快速模型開發置於安全與問責之上的內部文化,完全可以預測的結果」,並強調這只是已知 80 起事件中的一起。

兩天半的攻擊、一週無人發現的破口、七百個代理

七月事件的輪廓,現在有三份互相獨立又彼此印證的文件:OpenAI 的兩份官方部落格(7 月 21 日與 8 月 26 日)、OpenAI 委託的第三方評估機構 METR 的調查報告,以及這次檢方的投訴書。

投訴書第 2 點寫道:2026 年 7 月,運行 OpenAI 實驗版本模型的代理連上公開網際網路,對開源平台 Hugging Face 發動網路攻擊,攻擊歷時約兩天半,由數百個本應隔離在研究環境內的自主代理協同進行。第 48 點補上規模:約 1,200 個代理在那段期間使用了一個未經授權的內部留言板,其中約 700 個接著參與了對 Hugging Face 的攻擊。

700 這個數字不是檢方自行推估。受 OpenAI 委託的 METR 在自己的調查裡得出幾乎相同的結構:留言板上累積超過 7 萬則訊息與檔案,代理活動在 7 月 11 日達到高峰,約 700 個代理投入 Hugging Face 攻擊,留言板約六成流量與攻擊相關。報告還原的組織樣貌比數字更值得警惕:一個暱稱 PHASEONE10841 的代理建立了留言板,幾個小時內就有超過 50 個代理找到它、開始互通有無;代理之間長出 HOLD、VETO、owner 這類協調規範來分配工作與避免衝突,活動到 7 月 13 日尾聲才急速回落。這些代理原本設計成彼此完全隔離,卻在任務壓力下自己找到了合作的方法。

METR 調查報告截圖,要點清單寫明約 1,200 個代理在未經授權的留言板發送超過 7 萬則訊息與檔案,其中約 700 個參與對 Hugging Face 的攻擊。Pin
METR 報告的核心要點:約 1,200 個代理在未經授權的留言板互傳超過 7 萬則訊息與檔案,約 700 個接著攻擊 Hugging Face。

值得拆開的是時間。若你讀過以「一週」形容整起事件的說法,投訴書其實並存兩個時長:攻擊本身約兩天半(第 2 點),以及一個約一週、OpenAI 自稱從未偵測到的測試環境突破(第 50 點)。換句話說,代理在內部留言板上互相協調、逐步突破隔離的整段過程,在 OpenAI 的偵測範圍外運行了大約一週,最後是 Hugging Face 在 7 月 16 日公開揭露遭到 AI 代理攻擊,事件才浮上檯面。

第 50 點還有一個戲劇性細節:Hugging Face 揭露遇襲後,OpenAI 曾以「關切客戶」的身分主動聯絡對方,之後在調查自家基礎設施遭攻擊的事件時,才把兩案連起來,發現攻擊來源就是自己的模型。投訴書第 3 點對此的解讀很尖銳:OpenAI 對外保證實驗在嚴格控管與持續監督下進行,實際上卻忽略或錯過了代理早已逃出測試環境並濫用第三方資源的徵兆。

80 次失控是調查裡的自認,不是部落格的揭露

新聞稿與投訴書都引用了同一個數字:OpenAI 承認在測試期間失去對自主代理的控制至少 80 次。這個數字的出處值得注意。投訴書第 90 點寫明,這是 OpenAI 在檢方調查過程中做出的承認,而且檢方據此主張 OpenAI 的公開報告並未反映失控事件的全貌。

換句話說,80 這個數字不是從 OpenAI 部落格或透明度報告抄來的,而是調查程序逼出來的。投訴書第 5 點還列出七月之後持續出現的同類事件:代理未經授權存取承載大量應用程式程式碼的資料庫、攻擊公眾信賴的資訊網站、入侵外國政府儲存敏感健康資料的資料庫,甚至有代理群取得 OpenAI 自家內部系統的管理員級權限。檢方以「這些已知攻擊可能只是冰山一角」收束這一段。

OpenAI 的版本與投訴書的版本差在哪

OpenAI 並未保持沉默。7 月 21 日的部落格承認對事件負責,說明涉事模型是 GPT-5.6 Sol 與一個更強的內部預發布研究原型(從未計畫公開發布、評測時降低了網路安全拒答限制),代理在 ExploitGym 網路能力評測中利用 Artifactory 套件伺服器的零時差漏洞取得對外連線,並直接從 Hugging Face 的生產資料庫撈取測題解答。8 月 26 日的後續文章與技術報告更完整攤開時間軸:5 月 12 日代理在 Artifactory 留下第一則給其他代理的訊息,7 月 4 日持續活動拖垮 Artifactory,7 月 5 日資安事件立案,7 月 7 日評測恢復,重建 Artifactory 時留言板跟著被清空,7 月 8 日代理改用目錄名稱編碼重建留言板,7 月 11 日攻擊升級,7 月 16 日 Hugging Face 公開揭露。OpenAI 同步委託 CrowdStrike 驗證調查,並請 METR 與 Redwood Research 做第三方評估,結論在 Black Hat 發表。

OpenAI 技術報告第 7 頁截圖,說明代理在 Artifactory 建立留言板、透過 SSRF 弱點取得對外連線,再利用 Hugging Face 舊版權杖端點弱點取得管理員權限的過程。Pin
技術報告的留言板起源段:代理先在 Artifactory 交換檔案與訊息,再藉 SSRF 弱點讓快取代理代發對外請求。
OpenAI 技術報告第 4 頁截圖,前言段落說明 2026 年 7 月內部網路安全評測期間代理突破評測環境並入侵 Hugging Face 的事件摘要。Pin
OpenAI 技術報告的前言頁:內部網路安全評測期間,代理突破評測環境並對 Hugging Face 平台發動攻擊的事件概述。

那份報告裡最值得記住的機制,是代理為何執著於攻擊 Hugging Face:ExploitGym 的 898 道測題中,有 198 道在事前從未有模型解出,留言板上被討論的任務有 93% 來自這批難題;多數代理其實早已靠作弊拿到正確旗幟,卻因為推測評分器會檢查解法是否使用指定漏洞,而繼續攻了 Hugging Face 好幾天。OpenAI 內部評分器根本沒有這道檢查,等於一場白忙的作弊。

Hugging Face 端承受的實際影響,OpenAI 也逐項攤開:代理在數十台 Hugging Face 伺服器上執行程式碼、在其中一台取得最高權限、接觸到有限的私有資料,並取得該公司內部通訊平台的憑證;GPT-5.6 Sol 代理另把一份私有評測資料複製到公開資料集。代理還在四個第三方服務上動用了公開暴露的憑證,其中一個帳號充當對外跳板、一個用來存放資料,另外兩個僅止於讀取。這些細節之所以重要,是因為七月事件本身就有這種可逐項核對的紀錄,後續指控則仍待審理程序攤開。

投訴書在這個基礎上往前推了一步,而這一步正是雙方版本的差額所在。OpenAI 的公開敘事強調「前所未見的資安事件、主動揭露、第三方驗證、流程補強」;投訴書第 80 至 81 點則主張,OpenAI 在 2025 年 4 月的 Preparedness Framework 與 Frontier Governance Framework 中對安全程序的公開陳述帶有誤導性,讓客戶與公眾誤信其開發、訓練與評測都在不對公眾構成不必要風險的方式下進行。檢方要打的,從工程失誤轉向了「你對外說的故事與你的實際作為不符」。

這也是為什麼本案與單純的技術事故報告不同。技術面上,代理之間預期之外的通訊與隔離突破風險,OpenAI 自己都已在後續研究中公開分析過;本站先前整理過OpenAI 公開代理停用監控事件與斷網代理靠共用硬體互傳訊息的側通道研究時,這條路線的技術輪廓已經很清楚。投訴書新增的,是把這些已知工程事實放進「商業陳述是否欺誤公眾」的法律框架。

成長文化對上全產業難題:雙方怎麼交鋒

Bonta 在記者會上的說法直接把責任歸屬點到位:「我拒絕把責任推給機器的說法,創造與操作這些機器的人必須為其行為負責。」他並表示 OpenAI 干涉了公眾的安全權利,以及每一個擁有、使用或依賴網路連線系統的人的權利,對象包括電網、醫院與金融機構。新聞稿裡另一句話把加州的立場講得更白:「公眾不應自行承擔 OpenAI 危險實驗帶來的防護成本。」

OpenAI 發言人 Drew Pusateri 的回應則錨定在兩件事:這起訴訟「看起來刻意挑出 OpenAI 單獨開刀」,而模型目標偏離是每一家主要 AI 實驗室都已辨識出的產業共同挑戰;公司已針對「偏離模型的活動」採取廣泛行動並強化全系統防護。檢方則指控 OpenAI 至今未就失控事件回答檢方提出的具體問題,雙方在透明度上各說各話。

圍繞這起事件的行動也不只加州。八月,愛荷華州檢察長帶領 15 州聯盟要求 OpenAI 立即停止導致這場入侵的測試;九月,非營利組織 LASST 依加州電腦資料存取與詐欺法對 OpenAI 提告。加州檢察長九月宣布正式調查,數週後送達調查傳票,11 月 16 日正式起訴。

SB 53 的通報缺口,解釋了檢方為何繞路

加州並非沒有針對前沿 AI 的法律。SB 53 前沿 AI 透明法已經完成立法,但州議會十月的背景審查報告寫得直白:「令人憂慮的是,無法確定任何一起失控 AI 事件依 SB 53 須予通報。」這句話等於承認:現行 AI 專法對這類「測試中代理逃出沙盒」的事件沒有強制通報的抓手。

於是檢方繞路了。不公平競爭法與公共滋擾法不問技術細節,只問行為與陳述:你在明知模型具攻擊能力的情況下,有沒有在可問責的防護下測試?你對公眾講的安全故事,與實際作為是否相符?這條路對監管者的吸引力很明確:不必等 AI 專法補洞,就能把問責往前推。對開發自主代理的團隊來說,這也是本案最實際的訊號:測試環境的隔離強度與監控涵蓋率,正在從工程建議變成法律上的注意義務。

落到自己團隊的測試流程,投訴書等於給了一份反向檢查清單。隔離邊界:沙盒內的代理有沒有可能接觸任何能對外連線的中介服務,例如套件快取代理?偵測涵蓋:代理之間若透過檔名、目錄名稱或快取內容互傳訊息,現行監控看得到嗎?陳述一致性:對外文件寫的「嚴格控管與持續監督」,與內部事件紀錄對得起來嗎?這三題任何一題答不出來,現在都會搬上加州的法庭來問。

還沒確定的事與值得追蹤的訊號

截至文件公開的狀態,這份投訴書的案號欄仍是空白,開庭日程、OpenAI 的答辯內容與時程都未確定;檢方引用的「外國政府健康資料庫」等後續攻擊,細節也未在投訴書中展開。每件違規 2,500 美元的罰鍰聽來不大,但違規件數如何認定,將是審判中真正決定金額規模的變數。

想持續追蹤的讀者,可以盯三個訊號:舊金山高等法院的案件進度與 OpenAI 的答辯書、OpenAI 透明度頁面是否調整事件揭露口徑,以及 SB 53 通報義務是否因此案出現修法壓力。OpenAI 先前已將上市時程與安全補強掛勾,這起訴訟的進度也會是觀察其安全投入承諾的試金石。

所有指控目前都未經法院判決確定,後續進入答辯與審理程序後,事件全貌仍有變動空間。

Sliven 褚崇名
Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

文章: 2525

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


Share to...