LiteLLM 的替代品

4 个可以替代 LiteLLM 的软件,1 个可完全替代、2 个部分替代,1 个在国内不能直接访问、归在最后。费用、登录、平台与可访问性都是本站实测或从官网核对的。

LiteLLM
litellm.ai

BerriAI 出品的开源 AI 网关,把多家供应商的模型统一到 OpenAI 兼容接口,支持按团队划分权限、逐请求追踪花费并设预算上限,也能做路由和故障回退,适合平台团队自托管后给整个组织统一开模型权限。

工具有免费版网页 · macOS · Linux · Windows英文开源

对比

条目费用登录平台国内可直接访问一句
Helicone 有免费版 要登录 网页 待检测 替代可观测与成本追踪这一块:逐次调用日志、缓存限流更细,但网关权限与预算管控较弱
MindsHub 有免费版 要登录 网页 · Windows · macOS 待检测 替代按团队设预算与花费追踪这一块:多模型用量控制台,但缺少统一代理接口和路由回退
Portkey 有免费版 — 网页 可以 统一 API 接入 1600 多个模型,带回退、负载均衡与请求日志,托管版省去自维护
New API 免费 — 网页 · Linux 不可以 同为开源自托管 AI 网关,统一上游接口并支持路由与令牌额度,中文界面更易上手

详细介绍

可完全替代 1
部分替代 2
国内不可直接访问 1

还有:Cloudflare AI Gateway、Kong AI Gateway、Higress(未收录)

更新于 11 月 8 日 · 报告问题

查看详情 打开官网litellm.ai