FreeLLMAPI 教學：統一金鑰、路由與部署限制

用 AI 摘要這篇文章：

ChatGPT Claude Perplexity Google Grok

FreeLLMAPI 是可自架的開源 AI API 閘道，把多家供應商的免費或試用額度整合成統一金鑰與 OpenAI 相容端點。它適合個人測試、學習與原型，不適合需要 SLA、固定模型品質或可預測延遲的正式產品。

FreeLLMAPI 能做什麼

依 FreeLLMAPI 官方專案，系統可管理多家 provider key，提供路由與失敗切換，並支援 OpenAI 相容介面、Anthropic Messages 及部分 Gemini／Ollama 原生介面。供應商、端點與額度常變，不能把 README 當永久容量保證。

部署前要準備什麼

1. 建立專用主機或 Docker 環境，不與敏感服務共用管理帳號。
2. 先閱讀安裝腳本，再選手動、Docker 或官方文件提供的方法。
3. 到各模型供應商申請自己的 API Key，確認免費額度與條款。
4. 建立 FreeLLMAPI 統一金鑰，限制可呼叫的模型和用量。
5. 用非敏感提示測試路由、超時、429、失敗切換與日誌。

資料會留在本機嗎

管理介面與金鑰資料庫可以自架，官方說明 provider key 會以 AES-256-GCM 加密保存；但提示詞與檔案仍會送到你啟用的上游模型供應商。local-first 不等於推論完全離線，敏感資料要逐一檢查上游的保留與訓練政策。

為什麼不適合正式產品

• 免費額度與模型清單可能在沒有預告下變更。
• 沒有統一 SLA，延遲、限流與錯誤率取決於上游。
• 路由到不同模型時，輸出品質與安全行為不一定一致。
• 每家 provider 的使用條款仍然適用，統一 API 不會消除授權義務。

安全設定建議

不要把管理面板直接暴露到公開網路；啟用反向代理、TLS、強密碼、防火牆與備份，並定期輪替上游金鑰。需要讓 Agent 執行程式時，可另用 OpenSandbox建立隔離層；需要其他本地 AI 工具，可比較 Input 0，兩者解決的問題不同。

FreeLLMAPI 常見問題

真的完全免費嗎？
軟體採 MIT 授權，但模型額度由各供應商決定，超量、付費功能、主機與流量仍可能產生成本。

能直接替代正式 AI API 嗎？
不建議。官方把專案定位在個人實驗與學習，正式流量應採有 SLA 與明確支援的方案。