DeepInfra

DeepInfra は AI 推論クラウドです。OpenAI 互換 API の裏に数百のオープンモデル — 言語、視覚と OCR、埋め込みとリランク、画像・動画、音声 — を置き、サーバーレスと専用の二つの形で貸します。課金の売り文句は固定費の否定で、トークン従量・アイドル GPU なし・最低利用なし・シート課金なし。趣味のプロジェクトも需要の跳ねる本番もゼロから始められます。共有サーバーレスが狭くなると、同じカタログを A100 から現行 Blackwell 世代までのエンタープライズ加速器上の専用インスタンスへ上げられ、自動スケールも付き、GPU を借りて自前スタックも回せます。

評価：人気オープンモデルの単価は大手マネージドクラウドより安く着地するのが常で、サーバーレス従量なら容量リスクは彼側です。ただし需要急増時には共有エンドポイントが列を作り、そのとき専用料金が請求書に現れます。セルフホスト枠は無く、代替はオープンウェイトを GPU リース上の vLLM に載せることで、あちらの粗利をこちらの当番に換える行為にほかなりません。2026-09-20 に読んだ公開ページには保存とデータ所在の条項が無く、規制データの投入前にドキュメント確認が要ります。最大のモデル図鑑を最安の実用トークンで回すなら妥当な既定値、規模での遅延保証が要るなら分離コストはいずれ発生します。