跳到索引

GLOSSARY

采样参数

温度之外的旋钮(top-p、top-k、惩罚项),决定模型如何选词——调节输出的多样性、聚焦与重复度。

模型为每个可能的下一个 token 输出概率;采样参数决定这些概率如何变成选择。Top-p(核采样)只保留累计概率达到 p 的最可能 token,砍掉荒谬的长尾;top-k 保留固定数量的候选;重复惩罚与出现惩罚则抑制循环和滥用的短语。

实践中多数产品隐藏了这些参数,聊天用默认值即可。构建时它们才重要:创意写作可容忍更宽松的设置,而抽取与代码需要温度接近零、top-p 收紧——这就是“给你惊喜的模型”与“可以上线的模型”之间的差别。

相关术语

使用该技术的工具

相关分类