跳到索引

GLOSSARY

集成(Ensemble)

组合多个模型的输出以得到优于任何单一模型的答案——多数投票、best-of-N 择优,或大规模的专家混合路由。

单一模型会犯“个性化”的错误;多个模型的错误各不相同,因此它们的一致是信号、分歧是警报。集成从简单(跨输出多数投票、带验证器的 best-of-N)到架构级(把每个 token 路由给专家的混合专家)再到产品级(Genspark 式多代理回答)。这个模式是测试时计算收益的基础:花更多推理去咨询更多意见。

代价是延迟与支出按意见数倍增,以及错误相关性——五个在同一类数据上训练的模型会以相似方式失败,因此训练的多样性才是集成有效的前提。对高风险分类与研究,集成往往是“还能买到的最便宜准确率”。

相关术语

使用该技术的工具

相关分类