DeepInfra

DeepInfra 是 AI 推理云：一个 OpenAI 兼容 API 挡在数百个开源模型前面——语言、视觉与 OCR、嵌入与重排、图像视频、语音——提供无服务器与专用两种部署。计费的卖点是反固定成本：按 token 付费，无闲置 GPU、无最低消费、无席位费，业余项目和高波动生产应用都从零起算。共享无服务器不够用时，同一模型目录可升到私有部署或企业级加速卡上的专用实例（A100 到当前 Blackwell 世代）并自动扩缩，也可以租卡自己跑栈。

判断：热门开源模型的 token 单价通常低于大型托管云；无服务器按量意味着容量风险在他们一侧——但需求激增时共享端点会排队，专用实例随即出现在账单上。没有自托管层；替代方案是开权重加租用 GPU 上的 vLLM，把它的毛利换成你的值班。2026-09-20 读取的公开页面没有写明保留与驻留条款，受监管数据接入前先过文档评审。要最广的模型动物园与最低廉的合格 token，它是理性默认；要规模下的确定延迟，隔离总要付费——在这里，或在你自己手里。