OpenAI 簽兒童 AI 安全憲章，200 萬美元只進測量工具

用 AI 摘要這篇文章：

ChatGPT Claude Perplexity Google Grok

OpenAI 在 2026 年 11 月 12 日的官方部落格公告，承諾 200 萬美元支持一個跨國的兒童 AI 安全研究網路，並且簽署了巴黎和平論壇在 11 月 10 日到 11 日年會上公布的《兒童更安全 AI 承諾憲章》（Charter of Engagement for Safer AI for Children）。同樣在憲章末頁留下背書的還有 Anthropic、Black Forest Labs 與 Microsoft，推動整個聯盟的則是法國、西班牙與肯亞三國政府，加上十個聯合國體系機構。這則新聞裡最值得看懂的東西並非金額，憲章用條款把「企業的錢進得了哪一段研究」與「研究結論由誰決定」明確隔開：業界資金只進得了共享測量這條工作流，其餘研究工作只能使用公共與慈善來源的錢，而出資的公司對研究結論沒有否決權。反過來說也要先講清楚，這是一份剛簽好的研究安排，還沒有任何研究成果，公告不等於任何產品已經被證明對孩子安全。

Pin

巴黎和平論壇上的這份憲章寫了什麼

憲章全文七頁，由巴黎和平論壇官網公開，文件建立時間是 2026 年 11 月 9 日下午，也就是年會開幕前一天。它開宗明義：強化關於 AI 對兒童發展風險與機會的獨立證據，並且把這些證據帶進產品設計、評估與公共政策。參與範圍以一個名為「AI 時代兒童權利與保護聯盟」（Coalition for Children’s Rights and Protection in the Age of AI）的多方架構運作，串連政府、研究機構、公民社會與企業。

文件前半列了十條共享原則，其中幾條直接對應過去幾年兒童網路安全的爭論點。安全部分要求「設計即安全、預設即安全」，例如針對過度與強迫性使用提供時間管理與自主性工具，防範助長情感依附的服務；內容部分明文禁止 AI 系統在開發中使用兒童性虐待素材與非自願親密影像，並要求系統在防止濫用的同時仍能妥善回應受害者的求助揭露；年齡部分要求年齡保障機制不能只依賴使用者自己申報的年齡，還要支持對這類機制的準確性、隱私與公平性做獨立評估。這條年齡原則與產品端已經發生的變化互相呼應，例如 Instagram 已經把 AI 年齡估測推向全球，作為青少年帳號的判定線索，而這正是憲章希望交給獨立研究檢驗的那類機制。

另一條容易被忽略的原則是「有意義的兒童參與」：研究要讓兒童與年輕人以符合年齡的方式參與，讓他們的觀點進入影響自己的建議與規範。這在實務上比聽起來難，因為兒童參與本身就有同意、保護與隱私的門檻，憲章把這些門檻列為全程要求，而非留給個別研究自行處理。

前言對現況的描述本身是重點。它承認反覆兒童與青少年互動的證據基礎仍在發展，成熟的縱貫研究還不存在，但大規模採用已經發生，產品與政策決定也早已在做成。憲章據此採取的立場是：以現有的發展科學、相鄰證據、早期實證發現、產品知識與專家判斷作為行動基礎，依已辨識的風險先實施保護，再隨證據補齊而頻繁修正。這段話誠實地把「不能等研究做完才保護」與「現在的保護可能被未來證據改寫」同時寫進文件，也解釋了為什麼研究網路要另外定義分年齡、分脈絡的測量：風險要透過發展差異的視角評估，不同年齡層、發展階段與使用強度不能壓成同一個平均數。

200 萬美元進得了哪一段研究

整份憲章最具體的一組條款，是把研究計畫的錢分成兩種來源。研究計畫拆成三條相連的工作流：人類與 AI 觀察站（Human and AI Observatory）負責定義值得追蹤的發展結果與模型行為，並且跨年齡、國家與文化背景追蹤兒童的使用經驗；共享測量（Shared Measurement）由企業研究團隊與獨立研究者共同開發並驗證共享指標與開源工具，包含分類器與評分器，讓不同產品與國家的研究結果可以互相比較；證據與發展結果（Evidence and Developmental Outcomes）則透過證據回顧、實驗與縱貫研究，分析 AI 與兒童發展及福祉的關聯，研究者可以使用共享指標，也保有發展自己方法與獨立蒐集資料的空間。

資金的邊界就畫在這三條工作流之間。憲章的資助條款寫明：業界資金支持共享測量；觀察站、證據與發展結果研究、科學委員會的報酬，以及評估與標準工作，完全由公共與獨立慈善來源資助，並以分開記帳維持這些界線。換句話說，OpenAI 這筆 200 萬美元依設計只會用來做測量工具與共享指標，定義研究題目的觀察站與產出長期證據的縱貫研究，吃得到政府與慈善的錢，吃不到企業的錢。OpenAI 自己的公告也與這個安排對得上：文中明寫其貢獻支持共享測量工作，開發讓研究者更能理解與衡量 AI 對兒童風險與機會的工具。

Pin

這個設計回應的是資助研究的老問題。企業出資的研究若連題目與結論都能影響，負面結果消失的誘因就一直存在；把企業的錢限制在最技術性、最可驗證的一段，並讓其餘環節的資金來源結構性地避開業界，是憲章能寫進紙面的最強保證。至於執行面是否守住，要靠之後公開的記帳與報告檢驗。也要留意金額本身的性質：200 萬美元是承諾值，公告與憲章都沒有說明撥付期間、分期方式或具體採購內容，這筆錢從承諾變成研究產出之間還有完整的交付過程要走。

出資的公司能碰什麼、不能碰什麼

憲章對企業參與劃的界線，比資金分層更細。公司有權稽核套用到自己系統上的評估方法，並且提出有書面紀錄的方法學疑慮，這讓錯誤的測試設定或不恰當的比較有被指出的機會。但憲章接著寫得很直白：稽核權不含對安全標準、結論或出版品的任何權限，也沒有延遲或壓下研究發現的權利。方法上的質疑與商業上的否決權，在條款層次被拆開了。

出版義務同樣具體。研究方法、共享測量工具、獨立評估方法、基準做法與結果，包含無效、負面或無定論的發現，都會公布；研究團隊保有對結論的控制權，僅需對個人與機密資訊做適當保護。發現要能被政府、稽核者、標準組織、公司、研究者、教育者、家庭與年輕人使用。憲章還要求揭露並管理相關利益，企業參與與資金來源保持透明，財務或實物支持不取得對個別撥款決定或研究發現的控制權，也沒有出版否決權。

附錄對未來公布的評估設下了詳細的方法規則，這決定了幾年後讀者能拿到什麼樣的證據。測試要反映兒童真實的溝通與使用方式，包含特定年齡的語言、間接表達、好奇心與繞過保護的嘗試，也要涵蓋長時間與反覆互動；不當內容要與敏感議題的合理討論分開判定，否則正常的學習與求助會被算成失敗；誤判要如實報告，把正常互動錯誤限制與漏掉真正需要保護的情況，代表兩種不同的代價。其中以帳號狀態的報告規則最關鍵：正確設定為未成年者的測試帳號，要與年齡未知、誤判或繞過年齡保障的測試分開呈現，因為兩者拿到的保護不同，混成同一個分數會掩蓋問題出在哪一層。

監督整個計畫的是一個獨立科學委員會。憲章要求委員會組成力求涵蓋多元地理區域並確保性別平衡，讓研究與建議反映世界各地兒童的需要；委員會主席每年要發布整個研究計畫的進度報告，包含產出、證據缺口與更新後的研究優先順序。對想追蹤這件事的人，這份年度報告是最明確的時間錨點：憲章簽了只是開始，第一份年報出來之前，能檢驗的只有貢獻揭露與委員會組成這類程序面訊號。

孩子的完整對話不必整批搬出來

共享測量這條工作流裡有一個對隱私很關鍵的機制設計。憲章允許公司在自己的系統內套用共享工具，然後分享編碼後的結果，減少搬移完整對話的需要。這裡的編碼，是把觀察到的內容依研究定義整理成可比較的紀錄，例如某類回應是否出現；孩子的聊天全文不必交給外部研究者。配套的保障條款寫明：兒童權利、保護、同意與資料保護全程適用，對模型與資料的接觸要經所有各方同意的安排建立，出資不取得兒童個人資料的特權接觸。

這個安排有它的取捨。工具在公司系統內執行，原始對話不離開公司，隱私風險降低，但研究者必須信任編碼結果的品質，憲章對應的做法是把共享工具做成開源，並讓分類器與評分器的定義接受獨立科學監督與公開檢視。對家長與教育者來說，這表示未來可以期待的產出並非「某產品安全」的單一結論，而是一組可以跨產品比較、方法透明的測量工具，以及用它們做出來的研究結果。

從六月的安全呼籲到十一月的憲章

把時間軸往前拉半年，這份憲章有清楚的前身。OpenAI 在 2026 年 6 月 2 日的文章中，呼籲設立專責的國際青少年 AI 安全機構，主張在 G7 埃維昂峰會的脈絡下持續合作；憲章的腳註也自承建立在 G7 埃維昂呼籲、2026 年 6 月 G7 數位部長共同原則、兒童權利公約等既有承諾之上。巴黎和平論壇的倡議頁顯示，這個聯盟以 iRAISE（International Research-driven Alliance for AI Serving Every child）為名，由論壇與 everyone.ai 共同發起，承載憲章要設立的科學研究網路，先前的參與名單已包括多家科技公司、政府與公民社會組織。法國總統馬克宏在憲章採納前夕接受《回聲報》訪問時說，不能因為是 AI 就讓它變成蠻荒西部，如果某些用法對兒童有風險，就必須禁止（據 RFI 報導轉述）。

Pin

對 OpenAI 來說，這條線也延續到政策端。公告中提到期待與歐洲政策制定者往來，隨歐盟的 Kids Act 立法進程發展，並主張立法應該建立可執行的保護，同時保留學習、創作與機會的工具近用。這與該公司在治理基礎建設上的其他動作方向一致，例如同一週之前才公開的推論中止機制 Control Room，把安全控制放進基礎設施層；兒童安全憲章則是把控制點放在研究資助的結構層。兩者共同的邏輯是：承諾要變成可檢驗的機制，而非停留在聲明。

還沒有答案的部分

把未確認的項目列清楚，比替這則新聞補上樂觀或悲觀的結論更有用。200 萬美元的撥付期間、分期與採購品項，兩份官方文件都沒有揭露；其他三家背書公司是否出資、金額多少，憲章與公告也未說明，憲章僅要求每筆貢獻的目的、資源與交付時間表要公開，但揭露頁面尚未出現。獨立科學委員會的實際組成名單、聯盟將授權統籌的獨立組織是誰，都還沒有公布。研究本身更是尚未開始，任何關於成效的說法目前都沒有證據基礎。

值得盯的回查訊號有三個：貢獻明細揭露頁是否出現且包含其他公司、科學委員會名單是否公布、以及第一份年度進度報告。在這些訊號到位之前，家長與教育者對兒童 AI 產品的判斷，仍然要回到現有的資料說明、家長工具與適用年齡，例如 選擇兒童科技產品時先看資料流向與家長設定怎麼設計；這份憲章改變的是未來幾年研究證據的生產方式，還不是任何產品今天的安全狀態。