AI21

AI21 现在把自己描述为「为企业构建 AI 系统」，而它官网主推的是成本而非前沿模型：一个可直插替换、降低 token 开销的网关端点；基于你自己流量在模型之间做选择的路由；把小型开源模型调到在你的负载上达到可接受质量；以及一个拿你的私有评测集去搜索最优方案配置的优化器。它的说法是：朴素的路由不够用，开源模型负责探索，前沿模型负责兜底。

这和当年卖 Jamba 模型家族的那家公司已经不是一回事了，本条目记录的是站点今天说的话，而不是这个品牌曾经以什么闻名。作为思路它是对的，也不花哨：企业 token 账单的大头，往往来自那些根本不需要最贵模型的调用；而要诚实地把它降下来，靠的是在你自己的评测上测量，而不是看公开价目表。要核对的两件事是：路由器的判断在你的流量上是否站得住（而不只是平均情况下），以及调优这一步需要多少你的评测数据——因为那部分数据必须离开你的楼。