
LiteLLM
产品状态: 尚未登记状态
本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。
尚未记录状态查看日期
提供模型路由SDK和自托管AI网关,含虚拟key、预算、fallback及请求成本记录,企业功能另许可。 本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。
产品预览

选型依据
官方资料研究
本次依据所列文档整理,没有实际使用产品、购买套餐,或进行质量、速度、可靠性测试。
适合考虑的需求
- 可管理提供方、key和日志的平台团队
这些情况下应考虑其他方案
- 把代理当全局数据不出网保证
价格与使用条件
已有公开条款依据
OSS自托管免软件许可费。Enterprise按年度网关请求容量、架构和support报价,不是模型token费;30日试用非永久免费企业档。文档有SSO至5人例外。提供方推理、计算、数据库/日志存储和运维另计。企业金额/币税/地区/超额/试用细则及实际许可合同未核。
价格来源查看日:
价格或条款来源代码、模型与服务许可范围
仓库MIT及通知义务只适用enterprise/外,企业目录明确另许可;所指许可文件不可读,未核商业合同细则。代码权不授提供方访问、权重或清权输出。Security的不遥测/不存厂商端只限自托管与LiteLLM服务器;配置的LLM和logging callbacks仍可收内容,关message日志仍记录spend等metadata。运营方/提供方训练、留存、support访问和合同另核,不推全局不外传或ZDR。
既有评分的依据与限制
保留原4.6/5;原评分细表及实测依据未取得,本轮官方文档研究未重评。
深度介绍
LiteLLM提供Python SDK及向已配置模型提供方路由的网关,网关另有虚拟key、预算、限流、fallback和请求成本记录;MCP/A2A增加可配置路径。
代理、日志目的方与模型方是不同数据处理路径;OpenAI格式不代表所有模型均兼容、同价或同合同。
资料来源
本篇的事实性陈述来自以下页面。日期是编辑最后一次打开该来源的日期,不是产品发生变更的日期。
优点 / 缺点
优点
- 集中key与用量控制
- 可选SDK或网关
缺点
- 代理与日志需运营
- 企业许可及外部推理另计
适合谁用
组织模型访问预算
路由多个提供方API
编辑结论
企业容量费与推理费分开预算,并审每个callback。
核心功能
标签
常见问题
LiteLLM 目前还能使用吗?
本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。
LiteLLM 是什么?
LiteLLM 是由 BerriAI 开发的AI 平台工具。提供模型路由SDK和自托管AI网关,含虚拟key、预算、fallback及请求成本记录,企业功能另许可。
选择 LiteLLM 前应核对哪些费用与条款?
OSS自托管免软件许可费。Enterprise按年度网关请求容量、架构和support报价,不是模型token费;30日试用非永久免费企业档。文档有SSO至5人例外。提供方推理、计算、数据库/日志存储和运维另计。企业金额/币税/地区/超额/试用细则及实际许可合同未核。
LiteLLM 是开源的吗?
仓库MIT及通知义务只适用enterprise/外,企业目录明确另许可;所指许可文件不可读,未核商业合同细则。代码权不授提供方访问、权重或清权输出。Security的不遥测/不存厂商端只限自托管与LiteLLM服务器;配置的LLM和logging callbacks仍可收内容,关message日志仍记录spend等metadata。运营方/提供方训练、留存、support访问和合同另核,不推全局不外传或ZDR。
LiteLLM 有哪些最佳替代品?
值得关注的AI 平台替代品包括 Hugging Face、Replicate、Ollama。你可以在我们的AI 平台分类中浏览全部 138 个工具。
这个页面有帮助吗?