Fireworks AI

Fireworks AI 把“开源模型也能低延迟”本身当成产品：serverless 目录公布逐 token 价格（GLM 5.2 每百万输入 1.40 美元、输出 4.40 美元，Kimi K3 为 3/15 美元，嵌入低至 0.008 美元），底下是一条部署阶梯——按需专用 GPU 按秒计费，H100 与 H200 每小时 8.00 美元、B200 13.00 美元、GB300 20.00 美元，另有预留容量可优先拿到新硬件。业务另一半是训练：LoRA 适配器、全参数 SFT、DPO，以及按 GPU 小时计费的强化微调，由 Training SDK 与 firectl 命令行驱动，从数据集到端点全程可脚本化，Nexus 则在前面充当通往更便宜路径的路由网关。

诚实的边界：Fireworks 开放的是开源权重与伙伴模型，不是闭源前沿，榜单顶端仍在别处；它的卖点是延迟与单位经济，公司自己也是这么讲的。计费切成三种——按 token、按 GPU 秒、按训练小时——于是起步于 token 计数的负载最后可能变成一台常开的专用部署，而专用端点有无流量都在花钱。为真实流量下的微调模型、为首 token 延迟决定留存的流式产品、为本来打算自己运维 vLLM 或 SGLang 的团队选它。核对：专用部署的自动扩缩下限与闲置计费、报价背后的量化方式，以及目录中模型下架会提前多久通知。