跳到索引

LiteLLM

产品状态: 尚未登记状态

本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

尚未记录状态查看日期

提供模型路由SDK和自托管AI网关,含虚拟key、预算、fallback及请求成本记录,企业功能另许可。 本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

产品预览

www.litellm.ai
LiteLLM 的产品预览

选型依据

官方资料研究

本次依据所列文档整理,没有实际使用产品、购买套餐,或进行质量、速度、可靠性测试。

适合考虑的需求

  • 可管理提供方、key和日志的平台团队

这些情况下应考虑其他方案

  • 把代理当全局数据不出网保证

价格与使用条件

已有公开条款依据

OSS自托管免软件许可费。Enterprise按年度网关请求容量、架构和support报价,不是模型token费;30日试用非永久免费企业档。文档有SSO至5人例外。提供方推理、计算、数据库/日志存储和运维另计。企业金额/币税/地区/超额/试用细则及实际许可合同未核。

价格来源查看日:

价格或条款来源

代码、模型与服务许可范围

仓库MIT及通知义务只适用enterprise/外,企业目录明确另许可;所指许可文件不可读,未核商业合同细则。代码权不授提供方访问、权重或清权输出。Security的不遥测/不存厂商端只限自托管与LiteLLM服务器;配置的LLM和logging callbacks仍可收内容,关message日志仍记录spend等metadata。运营方/提供方训练、留存、support访问和合同另核,不推全局不外传或ZDR。

既有评分的依据与限制

保留原4.6/5;原评分细表及实测依据未取得,本轮官方文档研究未重评。

深度介绍

LiteLLM提供Python SDK及向已配置模型提供方路由的网关,网关另有虚拟key、预算、限流、fallback和请求成本记录;MCP/A2A增加可配置路径。

代理、日志目的方与模型方是不同数据处理路径;OpenAI格式不代表所有模型均兼容、同价或同合同。

资料来源

本篇的事实性陈述来自以下页面。日期是编辑最后一次打开该来源的日期,不是产品发生变更的日期。

优点 / 缺点

优点

  • 集中key与用量控制
  • 可选SDK或网关

缺点

  • 代理与日志需运营
  • 企业许可及外部推理另计

适合谁用

01

组织模型访问预算

02

路由多个提供方API

编辑结论

企业容量费与推理费分开预算,并审每个callback。

核心功能

OpenAI格式模型路由
虚拟key、预算与限流
日志回调与另许可企业治理

标签

AI网关MIT核心自托管

常见问题

LiteLLM 目前还能使用吗?

本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

LiteLLM 是什么?

LiteLLM 是由 BerriAI 开发的AI 平台工具。提供模型路由SDK和自托管AI网关,含虚拟key、预算、fallback及请求成本记录,企业功能另许可。

选择 LiteLLM 前应核对哪些费用与条款?

OSS自托管免软件许可费。Enterprise按年度网关请求容量、架构和support报价,不是模型token费;30日试用非永久免费企业档。文档有SSO至5人例外。提供方推理、计算、数据库/日志存储和运维另计。企业金额/币税/地区/超额/试用细则及实际许可合同未核。

LiteLLM 是开源的吗?

仓库MIT及通知义务只适用enterprise/外,企业目录明确另许可;所指许可文件不可读,未核商业合同细则。代码权不授提供方访问、权重或清权输出。Security的不遥测/不存厂商端只限自托管与LiteLLM服务器;配置的LLM和logging callbacks仍可收内容,关message日志仍记录spend等metadata。运营方/提供方训练、留存、support访问和合同另核,不推全局不外传或ZDR。

LiteLLM 有哪些最佳替代品?

值得关注的AI 平台替代品包括 Hugging Face、Replicate、Ollama。你可以在我们的AI 平台分类中浏览全部 138 个工具。

这个页面有帮助吗?

访问官方网站 →查看源码

基本信息

定价
免费增值

OSS自托管免软件许可费。Enterprise按年度网关请求容量、架构和support报价,不是模型token费;30日试用非永久免费企业档。文档有SSO至5人例外。提供方推理、计算、数据库/日志存储和运维另计。企业金额/币税/地区/超额/试用细则及实际许可合同未核。

编辑评分
★ 4.6 / 5 评分方式
平台
Python SDKSelf-hosted Gateway
最近核验
尚未记录