GLOSSARY
小语言模型(SLM)
紧凑型模型(约 1–13B 参数),经过调校以小博大——足够快、便宜且私密,能在手机、笔记本与边缘设备上运行。
缩放定律曾奖励“大”,因此多年里“小”意味着平庸。现代 SLM 改变了这一点:精选训练数据、来自更大教师模型的蒸馏以及更好的配方,让 3–8B 模型具备可用的通用能力,并在窄域中有惊人深度。正是它们让本地 AI(Ollama)、端侧助手与低价 API 档位成为现实。
决策规则简单得令人愉悦:用能通过你评测的最小模型。小意味着更低延迟、更低成本、更容易的隐私合规,以及端侧运行的选择权——而分界线由你的评测决定,不是民间传说。