TechMoon 科技月球
WordPress、SEO 與 AI 工具實測指南
TechMoon 科技月球
WordPress、SEO 與 AI 工具實測指南

vLLM v0.34.0(2026-11-16 發布)把 extensible KV cache 設為預設、gpu-memory-utilization 未設時改為 1.0,官方建議多數部署直接刪掉這個參數;本文用官方文件與 Hugging Face 檔案實數重算 24GB 顯卡的容量帳,並按支援矩陣分清 RTX 3090 與 4090 的量化路線。