Petals

Petals は、自分の機材には絶対に収まらない大きな公開モデルを、その一部だけを持ち、残りの層を提供する他人の網に加わることで走らせます。対等な相手同士で書類をやり取りする仕組みに似た形です。計画の頁は、家庭用の画像処理装置や預かり型の計算ノートで、405B までの Llama 3.1、Mixtral 8x22B、40B 超の Falcon、176B の BLOOM で文章を生成できると述べ、抽出だけでなく微調整も可能とし、文字を入れて文字を出すだけでなく、隠れた状態を見たり独自の実行経路を辿ったりできるとしています。巨大なモデルを、計算の館を持たずに使いたい人に向きます。

実験、分散した推論の研究、趣味の予算での微調整に向きます。モデルの層を当てにならない機械へどう分けるかを調べる人にも向きます。向かないのは、求められたら即答せねばならない対話です。頁自身の数字は大きなモデルで一回の処理あたり毎秒数個の語であり、モデルが考える様子を眺めるには足りても、利用者に提供するには足りません。同じ結果を繰り返し得たい場合も、能力が他人の機械に由来する網の上では不安定です。

未確認：計画の短い方の住所は今回は全く読み込めず、取得のたびに安全な接続の段階で失敗しました。そのため上の説明は、この計画のもう一つの頁と、預かり先の倉庫の接続口から得たものです。その倉庫は星が約 10,618、分岐が 651、許諾が MIT を示し、最後の送り込みは 2024 年 9 月 7 日で、この項目を書いた時点よりずっと前でした。網が今も動いているか、その水準の活発さを保っているかは読んでいません。毎秒の語数は計画自身の主張で、頁の網の状態表示も取得時には読み込めませんでした。モデルは一つも走らせず、調整部も訓練していないため、処理量と微調整の道は実際には試していません。

状況について：2026-10-12 時点で読んだところ、プロジェクトの倉庫 github.com/bigscience-workshop/petals は今も開けますが、GitHub はこれを保管済みとして示しておらず、最後の送り込みは 2024 年 9 月 7 日です。petals.dev に繋がれた公開の網の状態頁は今回の取得に応答せず、プロジェクトの短い住所も依然として安全な接続の段階で止まりました。したがって上記は Petals が何であったかの記録であり、今も動いていると確認できた提供ではありません。項目は保持し、リンクはプロジェクト自身の頁 petals.dev を指します。