インデックスへスキップ

GLOSSARY

オンデバイス AI

スマホ・ノート・機器本体だけで完結する AI。クラウド往復なし — ピーク性能と引き換えに、プライバシー・低遅延・オフラインの自由を得ます。

三つの条件が揃いました。小規模モデルの実用化(SLM)、スマホの NPU 搭載、量子化によるメモリ圧縮。結果、文字起こし・翻訳・画像編集、さらに言語モデルまでもが完全オフラインで動きます — Apple Intelligence のローカル層、Android の Gemini Nano、ノートの Whisper、デスクトップの Ollama。

代償は能力の天井です。オンデバイスモデルは難しい推論でデータセンターの巨人に永遠に及びません。しかし普通のケース — このメモを要約、この会議を起こし、この写真を補正 — では、プライバシー(データが外に出ない)、レイテンシ(ネットワークなし)、コスト(都度請求なし)でローカルが勝ちます。注目はハイブリッド設計です。ローカル優先で、タスクが上限を超えたときだけクラウドへ。

関連する用語

この技術を使うツール

関連カテゴリー