インデックスへスキップ

GLOSSARY

小規模言語モデル(SLM)

(およそ 1〜13B パラメータの)コンパクトなモデルで、小ささ以上の力を出すよう調整されています。高速・低コスト・プライベートで、スマホ・ノート・エッジデバイスで動きます。

スケーリング則は「大」を報えたため、長年「小」は凡庸を意味しました。現代の SLM はそれを変えました。厳選された学習データ、大きな教師からの蒸留、より良いレシピにより、3〜8B モデルが実用の汎用力と狭い領域での驚くべき深さを持ちます。ローカル AI(Ollama)、オンデバイスアシスタント、低価格 API を実用的にしたのはこの層です。

意思決定ルールは簡潔です。自分の eval を通過する最小のモデルを使う。小さいことは低レイテンシ、低コスト、容易なプライバシー対応、オンデバイス実行の選択肢を意味します — そして境界線は伝説ではなくあなたの eval が決めます。

関連する用語

この技術を使うツール

関連カテゴリー