Drex 1.5 開放權重決策模型,把選項機率判斷搬進你的電腦

Nace.AI 把 8.95B 參數的決策模型 Drex 1.5 以開放權重釋出,讀一段狀態與命名選項後一次前向傳遞回傳各選項機率,不生成任何文字;10 月上旬官方再補 Q8_0 量化版與 llama.cpp、Ollama 分支讓 Apple Silicon 也能自架。Decision Index 0.3.1 公開版它以 58.08 領先 Jev 的 57.96 但差距仍在平手帶內,權重授權 Nace.AI Open RAIL-M,商用前要與 CC BY-NC 的 Drex DLM 分清楚。

用 AI 摘要這篇文章:

Nace.AI 這家美國新創(2026 年 5 月宣布 2,150 萬美元種子輪)在 9 月 24 日官宣了 Drex 這顆「會決定、不寫字」的小模型,台灣時間 9 月 29 日清晨,新版 Drex 1.5 的完整權重就放上了 Hugging Face,公開、不需申請、直接下載。真正把本機路線補齊的是台灣時間 10 月 10 日凌晨那一波更新:官方釋出 9.5GB 的 Q8_0 量化版、整理過的 GitHub 儲存庫,同一天早上再把 Decision Index 0.3.1 的評測分數寫進模型頁。到這一步,一台統一記憶體夠大的 Mac 也有了官方支援的跑法,而這顆 8.95B 參數模型的輸出從頭到尾不是一段文字,是每個候選選項的機率。

它不寫答案:讀完狀態,一次前向傳遞回傳選項機率

Drex 處理的問題被官方稱為決策(decision):你給它一段狀態(state,文字或 JSON 都行)和幾個命名問題,它對每個問題做一次前向傳遞(forward pass),回傳每個選項的機率。題型有三種:多選題(choice)回傳每個選項的機率與所選答案;是非題(noul)回傳「是」的機率;評分量表(score)回傳加權分數與每個等級的機率。全程沒有文字生成、沒有思考過程、也沒有需要修補的 JSON。模型卡把這個邊界寫得很直白:它無法發明你沒給它的選項,因為它根本不生成任何東西。

模型卡上的官方範例就是一張客服工單:狀態寫「訂單 A-104 被重複扣款」,問題一是多選題,問該由哪個團隊處理,選項有帳單、配送、其他,每個選項還可以附一句說明讓模型對齊定義;問題二是是非題,問客戶有沒有要求退款。這種「先分類、再交給對的人或對的流程」的判斷,過去常見做法是叫生成模型輸出一個標籤再解析回來,標籤寫歪了、格式壞了都要再救;Drex 把這一步獨立成一顆專門的模型,問什麼就答什麼題,不順便寫一段安撫客戶的草稿,溫度與 top-p 這些採樣參數對它也不生效,因為沒有東西被採樣。

請求的結構本身也值得看一眼,因為它決定整合成本:一個請求就是一個 JSON,state 放要判斷的內容(字串、物件或列表都收),questions 放一組你自己命名的問題,答案回來時用同一組名字當鍵,多選題的選項順序就是鍵的順序。換句話說,把「這封信該進哪一隊」接進既有系統,寫的是一個 HTTP 呼叫加一層機率門檻的判斷,不是一條 prompt 工程的產線;代價是選項與說明要事先定清楚,模型只在你給的世界裡打分數。

對已經在用同類工具的人,相容性是現成的:Drex 說的 System One 通訊格式,跟先前介紹過的 Jev 一秒判斷同一套,官方文件寫明寫給 Kev 與 Jev 的客戶端不用改就能打自架的 Drex 伺服器;TypeSafe 的 SDK 換個 base URL 也通。一個請求裡可以塞多個問題,伺服器一題一次前向傳遞依序算完;發布文裡另一個吸睛數字是單張 H100 每秒約 25 個決定,這是官方宣稱,自架環境能到多少要自己量。

權重九月底就上了,本機路線是十月初才補齊

把這次開放拆開看時間線,會發現它是接力式的。Hugging Face 上的 nace-ai/drex-v1.5 儲存庫建立於 9 月 28 日晚間(UTC),未設閘門,任何人都能下載。規格面:參數 8.95B(Qwen3.5 結構、32 層混合注意力,每三層線性注意力配一層完整注意力),bf16 權重約 18GB,上下文預設 16,384 tokens、最長可設到 131,072;除了主幹,包裡還有一個指標頭(head.pt)負責從隱藏狀態算出每個選項的分數。基底模型是小米的 MiMo-V2.6-Distill-Qwen-9B,這點跟站上先前追蹤過的 MiMo-V2.6 開放權重發布接上了線:小米放出蒸餾後的 9B 底座,Nace 拿它往「只做判斷」的方向微調,再掛上自己的評分頭。

Hugging Face 上 nace-ai/drex-v1.5 模型頁頂部與規格表Pin
Hugging Face 模型頁:Drex v1.5 未設下載閘門,規格表列 8.95B 參數、bf16 權重約 18GB、上下文預設 16,384 tokens。

接著是官方 fork 的基礎建設:10 月 1 日開出 Ollama 分支儲存庫,10 月 2 日開出給 coding agent 用的技能包(MIT 授權,Claude Code 一行 plugin 指令就能裝,讓代理把 System One 的判斷都交給 Drex)。密度最高的一波全部落在台灣時間 10 月 10 日凌晨到早上:官方 Q8_0 量化儲存庫上架(約 9.5GB),drex-decision-models 主儲存庫開張,評測重現包跟著釋出,接著幾筆 commit 把 Decision Index 0.3.1 的分數表與「10B 以下參數最高分」的陳述補進模型頁。

下載下來的包裝也說明了這是工程取向的釋出:主幹權重切成多個 safetensors 檔,附指標頭、Kev 推論程式碼、需求檔與一個示範請求 JSON,沒有打包好的安裝器或一鍵腳本,環境要自己按需求檔裝。量化版則是反過來走極簡:整包就一個 9.5GB 的 GGUF 檔加授權條款與說明,給已經有 llama.cpp 或 Ollama 環境的人直接接。

生態還在頭一週。截至 10 月 11 日查詢,這個儲存庫下載 98 次、29 個讚;社群的 GGUF 量化版(mradermacher 與 prithivMLmods 兩家)10 月 10 日才出現。對照動輒上萬下載的開放權重模型,這裡離主流還很遠,先發優勢與風險都在這裡。

「10B 以下最高分」要連三個背景一起讀

模型卡最顯眼的主張是:Drex 1.5 在 Decision Index 0.3.1 公開版拿 58.08,是 10B 參數以下分數最高的模型。排行榜 10 月 10 日的資料快照裡:對照組 Jev 1.13.0 是 57.96,差距 0.12 分,落在榜規 0.9 分的平手帶(tie band)內;10B 以下次高的是 Bespoke Nimble 9B v3 的 57.19。數字本身對得上,但有三個背景決定你該怎麼引用它。

模型卡內建的 Decision Index 0.3.1 分數表,Drex v1.5 對 Jev 1.13.0Pin
模型卡內建的 Decision Index 0.3.1 表:Drex v1.5 公開版 58.08 對 Jev 1.13.0 的 57.96,差距落在 0.9 分平手帶內。

這個 58.08 的來源要留意。排行榜資料檔的註記寫明,它是 Nace 自己用 FP8 精度在 NVIDIA B200 上跑完公開套件後上傳的,榜方只負責私有測試部分。整體排名上,「10B 以下最高」跟總榜是兩回事:同一份資料裡,Drex 的綜合總分(Full score)是 50.84,在全榜 116 個條目排第 25,併列規則後是 28,榜首 Torchcast Decision 27B 的 65.1 高出一大截。官方自己附的對照評測也值得攤開:JevBench 231 題上 Jev 87.0%、Drex 86.2%,輸在一個百分點內,細看分層兩邊都是簡單題全對、難題 73.9% 打平,差距長在中間的標準題;八款棋盤遊戲對打 Jev 的成績是 122 勝 47 和 87 敗,勝率 56.8%;而且同一顆模型在 0.2.1 版指標是 58.28、換到 0.3.1 公開版變 58.08,版本一換分數就換,引用時不帶版本號沒有意義。另外 Jev 的參數量並未公開,所以「10B 以下」這個切口其實裝不下它最接近的對手。

這場纏鬥從發布日就開始了。9 月 24 日的發布文用的是 0.2 版指標,當時 Drex 51.73 對 Jev 51.67,差距 0.06 分,落在舊榜規 0.25 分的平手帶內;官方四天後的更新文改用 0.2.1 版,寫的是 58.28、在 71 個 10B 以下條目排最前面、領先 Jev 0.37 分。指標改版三次、領先幅度從 0.06 到 0.37 再回到 0.12,這個量級的差距適合當「值得繼續觀察」的訊號,當「誰碾壓誰」的證據就過了。

Nace.AI 官方部落格 Introducing Drex 發布文與 9 月 28 日更新註記Pin
Nace.AI 官方發布文:9 月 28 日的更新註記寫的是 0.2.1 版 58.28 分、71 個 10B 以下條目排最前面,與後來 0.3.1 公開版的 58.08 是不同版本的數字。

長文件表現官方也給了宣稱:8k 至 32k tokens 準確率 89.5%、中位延遲 0.65 秒,32k 至 128k 準確率 93.4%、延遲 2 秒。同樣是官方自跑,還沒有第三方重現。

三條本機路線,門檻差在要不要自己編譯

Python 路線最直接:權重包裡附了 Kev 程式碼與 inference.py、serve.py,裝好 torch 與 transformers 就能跑,但文件寫明需要 CUDA 顯卡,bf16 權重 18GB 起跳,記憶體需求還會隨文件長度成長。伺服器啟動後打 POST /v1/systemone 端點,不用任何金鑰,預設只聽本機 127.0.0.1,健康檢查端點會回報模型名稱與載入狀態。官方也提醒了兩件資安上的事:這個服務沒有鑑別機制,要對外開之前自己掛一層認證;託管版的金鑰永遠不要送進自架伺服器。

llama.cpp 路線給沒有 CUDA 的人:拉官方 fork 的 drex-v1.5 分支自行編譯,用隨附腳本把權重轉成 GGUF,可以再量化到 Q8_0(約 9.5GB),CUDA、Metal 與純 CPU 都支援,跑起來同樣是那個 systemone 端點。上下文長度在這條路線是用環境變數與啟動參數調的,預設 16,384 tokens,要吃到 131,072 得另外設環境變數並把相應參數翻倍,記憶體用量跟著漲。官方宣稱在 AWS g5.2xlarge 上 bf16 與 Q8_0 的答案跟 Python 版逐題相同,在 48GB 統一記憶體的 Apple M5 Pro 上 Metal 與 CPU 的答案也相同。

Ollama 路線要特別停一下:一般發行版的 Ollama 裝好是拉不到的。/v1/systemone 端點與決策能力是 Nace fork 加上去的,你要拉 fork 的 drex-v1.5 分支、自己編譯 llama-server、再用環境變數指過去,Modelfile 裡還得加一行 CAPABILITY decision 才算數。等上游把這套端點收編,部署門檻才會真正掉下來;在那之前,ollama pull 看到的同名模型都不會有這個介面。

不想碰編譯的人還有託管 API 這條:官方定價表列 Drex 1.5 每百萬輸入 tokens 0.05 美元(舊版 1.0 是 0.04 美元),註冊送 25 美元額度,儲值 5 到 1,000 美元,綁卡後每 14 天結算一次,沒綁卡則額度用完就停。文件裡託管模型名叫 drex-latest,定價表明列的型號是 drex-v1.5,兩個名字指的是同一條服務的不同標籤,要固定版本的話先用模型清單端點確認當下跑的是哪一版。

下載前先分清楚:兩顆模型、三份授權

這次開放最容易踩的線是授權,因為名字像的東西有三份條款。Drex 1.5 的權重採 Nace.AI Open RAIL-M,這是帶使用限制的開放授權,屬於 RAIL 家族(對用途設限制、而非單純 MIT 式放行),商用前應該把儲存庫裡的 LICENSE 條文讀完;權重包內附的 Kev 程式碼是 Apache-2.0,可以自由改作;給 coding agent 的技能包是 MIT。另外 Nace 在 10 月 1 日還上架了一顆 Drex DLM(Efficient-DLM-8B 基底,走特徵抽取的路線),授權是 CC BY-NC 4.0,明確非商用,跟 Drex 1.5 是兩顆不同的模型,同一個組織頁面下載,抓錯顆拿去商用就是踩線。

也要把「開放權重」跟「開源」分開說:能下載的是訓練完的參數與推論程式碼,訓練資料與訓練流程沒有公開,站上先前介紹過的 Qwen-Image-2.1 也是同樣的處境。這對想自架的人影響不大,對想接續訓練或驗證模型行為邊界的人是硬限制。官方在發布文裡對企業的另一句承諾是「可以拿你自己標好答案的資料微調,權重交給你」,這句話對應的是商業服務,跟 Hugging Face 上這包現成權重是兩回事。

還沒被驗證的部分,與一個月後的回查點

官方文件撐得起「這個模型存在、能這樣跑」的結論,撐不起「它在你機器上就是這個速度」:18GB 與 9.5GB 的體積、0.65 秒的中位延遲、與 Python 版逐題一致的量化等價性,全部是官方自跑的宣稱,還沒有第三方重現。社群 GGUF 跟官方分支的行為是否一致,也還沒有人系統性比過。機率本身還有校準(calibration)這一關:官方說分數是校準過的,但校準好不好取決於你的題目分布,拿自己的歷史資料標一小批答案回測,高分是否真的常答對,比任何榜上分數都更能預測它在你場景裡的表現。

動態的部分要盯三個:排行榜資料檔每天更新數次,58.08 對 57.96 的排位隨時可能翻;下載量頭一週只有 98,一個月後是幾百還是幾萬,直接反映這類「只做判斷」的模型有沒有真實需求;llama.cpp 與 Ollama 上游會不會把 System One 端點收進主線,則決定部署門檻什麼時候消失。想現在就試的人,最省事的路是拿模型卡附的範例請求改成自己的一題,先用託管 API 的免費額度驗證機率給得準不準,值得的話再扛 9.5GB 下來自架。

Sliven 褚崇名
Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

文章: 1847

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *


Share to...