Sliven 褚崇名

Sliven 褚崇名

每日分享科技新知、免費資源以及 WordPress、虛擬主機相關主題,任何問題歡迎在科技月球下方留言,或是發送 Email 至 [email protected] 與我聯繫。

開源工具 LLM API Test,從瀏覽器實測 API 速度與模型真偽

TechMoon 精選圖|LLM API Test 開源瀏覽器工具:實測 API 首字延遲與輸出速度,並用行為探針快篩模型真偽

LLM API Test 是開源的瀏覽器端 API 測速工具,從你這條網路實測 OpenAI 相容端點的首字延遲、輸出速度與成功率,並用五個行為探針快篩模型真偽。實測發現串流正常但缺 finish_reason 會被嚴格判成 0% 成功率,token 數以字元除以四估算,預設還會把測試摘要同步到作者的 Cloudflare Worker,金鑰以明文存在瀏覽器,測之前先把這些口徑看清楚。

Share to...