跳到索引

GLOSSARY

推理(推断)

运行训练好的模型以产出结果的过程——每条聊天回复、每张生成图像、每次 API 调用都是一次推理。

推理是 AI 的生产阶段:使用训练好的模型生成输出,与“构建模型的训练”相对。你发给 Claude 的每条消息、Midjourney 渲染的每张图,都是推理——它消耗真实的算力,这正是存在使用限制与按 token 计费的原因。

推理效率是一场静默的军备竞赛:更快的芯片、量化模型与巧妙的调度让实验室以持续下降的成本提供前沿质量。“推理模型”趋势则把推理延伸到模型内部——回答难题前先花更多算力“思考”。

相关术语

使用该技术的工具

相关分类