Ray

Ray は Apache-2.0 の分散計算エンジンです。task・actor・object という少ない原語で、普通の Python 関数やクラスを複数マシンにまたぐ処理にし、その上に Ray Data、Train、Tune、RLlib、推論の Serve を積みます。Serve はフレームワーク非依存で、PyTorch も素の Python 処理も同じ形に載ります。特徴は分数GPU(複数モデルが 1 枚のカードを共有)、モデル合成(別サービスへ繋ぐのでなく Python のパイプライン一つにまとめる)、LLM 向けのストリーミング、動的バッチ、マルチ GPU です。KubeRay が Apache-2.0 の operator として Kubernetes でクラスタを回します。2.58.0 は 2026-08-23 公開。

Ray は買うサービスでなく自分で運用する基盤です。キューとスレッドの層を外す代わりにクラスタを一枚渡すからで、ノートから数千枚 GPU という説明も、オブジェクトストアのメモリとスケジューリングを考える前提付き。複数チームへ配る前に公式のセキュリティ文書を一読ください。cloudpickle で直列化し、信頼できるコードを隔離ネットワークで動かす想定、1 クラスタ内でジョブ同士を分離せず、開発者向けアクセス制御もありません。トークン認証は 2.52.0 からですが、隔離の代替でなく多層防御と明記されています。商用の解は生みの親のマネージド基盤 Anyscale で、100 ドルの開始クレジットを掲げ、OSS 版が残す統治、画面強化、支援を売ります。