標籤 推論部署

NVIDIA 把 SK telecom A.X K2、LG K-EXAONE 2.0、Upstage Solar Open 2 與 Motif-3 整理成 Dynamo 部署配方，B200 卡數、精度與推測解碼都有官方範例。分離配置多一倍卡每卡吞吐持平、首 token 等待變長，兩倍宣稱未附對照組，MoE kernel 釘選與正確性驗收仍留在部署方。