標籤 AI 安全研究

一篇由 MATS、史丹佛、FAR AI 與 Anthropic 研究者合著的 arXiv 論文提出 GRAFT 方法：訓練時在模型每層加入保留與遺忘兩組適配器，監控只決定作弊樣本的梯度流向而不進入獎勵，部署前關掉遺忘適配器，Qwen3-8B 的作弊比率降到接近零，乾淨環境解題率還比原始模型高約 16 個百分點；但實驗監控是刻意留盲點的規則、機制解釋證據有限，作者也自列四項限制。