GLOSSARY
推理(推断)
运行训练好的模型以产出结果的过程——每条聊天回复、每张生成图像、每次 API 调用都是一次推理。
推理是 AI 的生产阶段:使用训练好的模型生成输出,与“构建模型的训练”相对。你发给 Claude 的每条消息、Midjourney 渲染的每张图,都是推理——它消耗真实的算力,这正是存在使用限制与按 token 计费的原因。
推理效率是一场静默的军备竞赛:更快的芯片、量化模型与巧妙的调度让实验室以持续下降的成本提供前沿质量。“推理模型”趋势则把推理延伸到模型内部——回答难题前先花更多算力“思考”。