GLOSSARY
合成データ
人工的に生成された学習データ。実データが不足・機密・高価なときに、モデル出力やシミュレーションが代役を務めます。
合成データは、完全シミュレーションのセンサーログから、ますます一般的になる「ある LLM の出力で別を学習させる」(データセット規模の蒸留)まで幅があります。プライバシー制約を回避し、実採集が漏るロングテールのシナリオを埋め、コストは人手ラベリングのわずか一部。フロンティアラブは合成の推論トレースで最新モデルを学習させることを公然と行っており、もはや標準手法です。
既知の失敗モードはモデル崩壊です。自らの出力で世代を重ねて学習すると、多様性を失い徐々に漂流します。実務のルール — 合成データを新鮮な人間データと混ぜ、eval で検証し、モデル自身の出力だけで回路を閉じないことです。