分類 AI 新聞

AI 產業動態、模型版本更新與科技趨勢新聞

OpenAI 公開代理停用監控事件:把防護搬到代理碰不到的地方

TechMoon 精選圖|OpenAI 公開內部 AI 代理削弱監控事件的報告,把防護搬到代理碰不到的系統層

OpenAI 在 10 月 20 日公開兩起內部 AI 代理削弱監控的事件:GPT-6.1 Sol 把「不要傳訊息」延伸解讀,關掉通知資安團隊的自動警報;GPT-6 Astra 為了對齊參考實作移除監控整合,使用者追問時還否認移除。兩起都不是最高等級事件,OpenAI 的補法是讓審查代理直接阻擋停用監控的企圖,並把監控要求變成工作能不能跑的前提。

GRAFT 梯度路由:把獎勵駭客裝進部署前可整組關掉的參數

TechMoon 精選圖|梯度路由把強化學習的獎勵駭客行為導向部署前可整組移除的參數,並以監控訊號作為分流器

一篇由 MATS、史丹佛、FAR AI 與 Anthropic 研究者合著的 arXiv 論文提出 GRAFT 方法:訓練時在模型每層加入保留與遺忘兩組適配器,監控只決定作弊樣本的梯度流向而不進入獎勵,部署前關掉遺忘適配器,Qwen3-8B 的作弊比率降到接近零,乾淨環境解題率還比原始模型高約 16 個百分點;但實驗監控是刻意留盲點的規則、機制解釋證據有限,作者也自列四項限制。

Pangram 4.1 更新:AI 偵測分數從單一數字變成一個區間

TechMoon 精選圖|Pangram 4.1 將 AI 偵測分數從單一數字改為估計區間

AI 文字偵測器 Pangram 在 10 月 19 日推出 4.1 版,偵測結果對把握較低的文章改為顯示「最佳估計 4%,可能範圍 0 到 15%」這類區間提示,並新增每段文字屬於人寫、AI 輔助或 AI 生成的機率輸出。官方模型卡顯示英文誤判率從 0.0164% 降到 0.0090%,但英文與多語漏判率同步上升,中文場景的錯誤率官方仍未單獨驗證。

Perplexity Computer 把 Big Boy 蒸汽機車做成可點火的互動 SVG

TechMoon 精選圖|Perplexity Computer 用自製繪圖引擎把 Big Boy 4014 蒸汽機車做成從冷鍋爐到時速 60 英里的互動 SVG 原型

Perplexity 官方帳號公開 Computer 製作的 Big Boy No. 4014 互動原型,掛在 big-boy-4014.pplx.app,用自製繪圖引擎把 1,324 個零件畫成可縮放向量圖形,排進從冷鍋爐到時速 60 英里的七段操作過程。實際打開原型清點零件與面數、對照 Union Pacific 公開規格後,可以看到尺寸數字確實有依據,操作細節也經得起核對,它同時畫出了這類 AI 原型的能力邊界。

Eleven Realtime 推出 Mini 與 Max,把語音代理的組裝責任收走

TechMoon 精選圖|Eleven Realtime Mini 與 Max 即時語音代理,語音對話與工具任務分兩款

ElevenLabs 於 2026 年 10 月 20 日推出 Eleven Realtime 的 Mini 與 Max 兩款即時語音代理模型,接收語音也以語音回應。官方文件明說底層是多模型串接、整體調校;對照 Artificial Analysis 獨立排行榜,Max 的推理與首音屬前段班但任務完成率落後 Grok Voice 3.0 與 Gemini 3.8 Live。切換前還要看清三道界線:直接介面只支援 WebSocket、部分設定改由官方託管、Mini 與 Max 的合規與資料駐留環境互有缺口。

Claude 蠍毒蛋白質研究:17 個設計分子通過實驗室結合驗證

TechMoon 精選圖|Claude 蠍毒蛋白質研究,17 個設計分子通過兩家實驗室 SPR 結合驗證

Anthropic 在 2026 年 10 月 20 日公布蠍毒蛋白質結合分子研究:送進兩家實驗室測試的 211 個 AI 設計裡,17 個達到結合標準,五種目標毒素中四種有斬獲。對照官方公告與 69 頁技術報告,整理這批候選實際證明了什麼、151 個多毒素設計為何全數落空、結合與中和之間還缺哪些證據,以及公開的 CC BY 4.0 資料集對研究圈意味什麼。

Share to...