LiteLLM 託管替代方案:免自架的 LLM 閘道
不用架伺服器、不用管上游金鑰與帳單,直接以託管閘道取代自架的 LiteLLM。
LiteLLM 很適合自架統一多家模型 API,但你仍需負責部署、升級、監控,並自行向各原廠申請帳號與付款。AAA TOKEN 是已經幫你架好的託管閘道:同樣使用 OpenAI 相容介面,只要更換 Base URL 與金鑰,就能呼叫 Claude、GPT、Gemini,並以 USDT 或 PayPal 預付、按量計費。
LiteLLM 很適合自架統一多家模型 API,但你仍需負責部署、升級、監控,並自行向各原廠申請帳號與付款。AAA TOKEN 是已經幫你架好的託管閘道:同樣使用 OpenAI 相容介面,只要更換 Base URL 與金鑰,就能呼叫 Claude、GPT、Gemini,並以 USDT 或 PayPal 預付、按量計費。
為什麼選擇託管閘道
零維運
不需要部署伺服器、資料庫或處理版本升級,閘道的穩定性與擴容由我們負責。
單一帳單
不必分別向 Anthropic、OpenAI、Google 開通帳號與管理多張帳單,一份餘額涵蓋所有模型。
支援 USDT
沒有國際信用卡也能儲值,使用 USDT 或 PayPal 即可開始。
相容既有程式碼
沿用 OpenAI 與 Anthropic SDK,原本透過 LiteLLM 呼叫的程式幾乎不用修改。
如何從 LiteLLM 切換
- 註冊並儲值 — 建立帳號、領取體驗額度,需要時以 USDT 或 PayPal 儲值。
- 建立 API 金鑰 — 在控制台產生專屬金鑰,可隨時停用或重設。
- 更換 Base URL — 把 LiteLLM 代理位址改成 AAA TOKEN 的 /v1 端點,並換上新金鑰。
- 選擇模型並送出請求 — 在 model 欄位填入 Claude、GPT 或 Gemini 的模型名稱,即可開始呼叫。
只要換兩行設定
以下是以 OpenAI Python SDK 連接託管閘道的範例,只需修改 base_url 與 api_key,即可在同一份程式碼中切換 Claude、GPT、Gemini。
from openai import OpenAI
client = OpenAI(
base_url="https://aaatoken.ai/v1",
api_key="$AAA_TOKEN_API_KEY"
)
resp = client.chat.completions.create(
model="gpt-4o", # or claude-3-5-sonnet-20241022, gemini-1.5-pro
messages=[{"role": "user", "content": "Route this request through one hosted gateway"}]
)
print(resp.choices[0].message.content)
適合你嗎?
適合的情境
想用單一金鑰呼叫 Claude、GPT、Gemini,用 USDT 或 PayPal 付款,並按實際用量計費的個人開發者與團隊。
不太適合的情境
需要簽訂企業合約、專屬私有部署,或必須直接與模型原廠簽約並取得其官方帳號的組織。
資源
常見問題
AAA TOKEN 可以完全取代 LiteLLM 嗎?
如果你只是想以統一的 OpenAI 相容介面呼叫 Claude、GPT、Gemini,可以。若你需要自訂路由規則或內網私有部署,仍可繼續自架 LiteLLM 並把 AAA TOKEN 當作上游。
需要修改多少程式碼?
通常只需更換 base_url 與 API 金鑰,其餘的請求格式與 SDK 用法維持不變。
可以用 USDT 付款嗎?
可以。除了 USDT,也支援 PayPal 與信用卡,餘額儲值後即時可用。
需要自己申請各家模型的 API 金鑰嗎?
不需要。AAA TOKEN 提供一把統一金鑰,上游帳號與路由由我們管理。
如何計費?
預付餘額、按實際 token 用量扣款,沒有月費與最低消費,用量明細可在控制台查看。