トークン

モデルは文字や単語全体ではなくトークン — 数文字程度のテキスト断片 — を読みます。英語の文章は平均して 1 語あたり約 1.3 トークンですが、他の言語やコードでは切り方が異なり、これが言語ごとの品質とコストの差につながります。

トークンが実務で問題になるのは 2 点です。コンテキスト窓（一度に扱えるトークン数）と課金（API は処理トークン単位）。「100 万トークンのコンテキスト」は本一冊を丸ごと保持でき、トークン課金こそ長い会話や大きなファイルが高くつく理由です。