LiteLLM 托管替代方案:免自架的 LLM 闸道
不用架伺服器、不用管上游金钥与帐单,直接以托管闸道取代自架的 LiteLLM。
LiteLLM 很适合自架统一多家模型 API,但你仍需负责部署、升级、监控,并自行向各原厂申请帐号与付款。AAA TOKEN 是已经帮你架好的托管闸道:同样使用 OpenAI 相容介面,只要更换 Base URL 与金钥,就能呼叫 Claude、GPT、Gemini,并以 USDT 或 PayPal 预付、按量计费。
LiteLLM 很适合自架统一多家模型 API,但你仍需负责部署、升级、监控,并自行向各原厂申请帐号与付款。AAA TOKEN 是已经帮你架好的托管闸道:同样使用 OpenAI 相容介面,只要更换 Base URL 与金钥,就能呼叫 Claude、GPT、Gemini,并以 USDT 或 PayPal 预付、按量计费。
为什么选择托管闸道
零维运
不需要部署伺服器、资料库或处理版本升级,闸道的稳定性与扩容由我们负责。
单一帐单
不必分别向 Anthropic、OpenAI、Google 开通帐号与管理多张帐单,一份余额涵盖所有模型。
支援 USDT
没有国际信用卡也能储值,使用 USDT 或 PayPal 即可开始。
相容既有程式码
沿用 OpenAI 与 Anthropic SDK,原本透过 LiteLLM 呼叫的程式几乎不用修改。
如何从 LiteLLM 切换
- 注册并储值 — 建立帐号、领取体验额度,需要时以 USDT 或 PayPal 储值。
- 建立 API 金钥 — 在控制台产生专属金钥,可随时停用或重设。
- 更换 Base URL — 把 LiteLLM 代理位址改成 AAA TOKEN 的 /v1 端点,并换上新金钥。
- 选择模型并送出请求 — 在 model 栏位填入 Claude、GPT 或 Gemini 的模型名称,即可开始呼叫。
只要换两行设定
以下是以 OpenAI Python SDK 连接托管闸道的范例,只需修改 base_url 与 api_key,即可在同一份程式码中切换 Claude、GPT、Gemini。
from openai import OpenAI
client = OpenAI(
base_url="https://aaatoken.ai/v1",
api_key="$AAA_TOKEN_API_KEY"
)
resp = client.chat.completions.create(
model="gpt-4o", # or claude-3-5-sonnet-20241022, gemini-1.5-pro
messages=[{"role": "user", "content": "Route this request through one hosted gateway"}]
)
print(resp.choices[0].message.content)
适合你吗?
适合的情境
想用单一金钥呼叫 Claude、GPT、Gemini,用 USDT 或 PayPal 付款,并按实际用量计费的个人开发者与团队。
不太适合的情境
需要签订企业合约、专属私有部署,或必须直接与模型原厂签约并取得其官方帐号的组织。
资源
常见问题
AAA TOKEN 可以完全取代 LiteLLM 吗?
如果你只是想以统一的 OpenAI 相容介面呼叫 Claude、GPT、Gemini,可以。若你需要自订路由规则或内网私有部署,仍可继续自架 LiteLLM 并把 AAA TOKEN 当作上游。
需要修改多少程式码?
通常只需更换 base_url 与 API 金钥,其余的请求格式与 SDK 用法维持不变。
可以用 USDT 付款吗?
可以。除了 USDT,也支援 PayPal 与信用卡,余额储值后即时可用。
需要自己申请各家模型的 API 金钥吗?
不需要。AAA TOKEN 提供一把统一金钥,上游帐号与路由由我们管理。
如何计费?
预付余额、按实际 token 用量扣款,没有月费与最低消费,用量明细可在控制台查看。