TechMoon 科技月球
WordPress、SEO 與 AI 工具實測指南
TechMoon 科技月球
WordPress、SEO 與 AI 工具實測指南

買 Mac 跑本地大模型,64GB 與 128GB 的差距可以用三層帳本算清楚:這台 64GB Mac Studio 實測 GPU 上限 51.84 GiB,4-bit 權重與 KV 快取逐項攤開後,27B 級主力在 64GB 寬裕,80B 級 MoE 才是 128GB 的真正戰場。

llama.cpp 在 2026 年 11 月 13 日發布 1.0,FP8 KV 快取與主記憶體 MoE 專家快取兩項新功能直接改寫 16GB 顯示卡的帳本:9B 全速駐留、14B 當日常主力、27B 的 Q4 檔案本身逼近帳面容量,35B 級 MoE 則多了一條官方支援的繞路,塞不進的部分要走慢約十五倍的 PCIe 備援道。