GLOSSARY
소형 언어 모델(SLM)
컴팩트한 모델(대략 1~13B 파라미터)로, 크기 이상의 성능을 내도록 조율됐습니다. 충분히 빠르고, 싸고, 사적이어서 폰·노트북·엣지 기기에서 돌아갑니다.
스케일링 법칙은 '큼'을 보상했기에, 오랫동안 '작음'은 평범함을 의미했습니다. 현대 SLM은 그것을 바꿨습니다. 엄선된 학습 데이터, 큰 교사로부터의 증류, 더 나은 레시피로 3~8B 모델이 실용적인 범용 능력과 좁은 도메인의 놀라운 깊이를 갖춥니다. 로컬 AI(Ollama), 온디바이스 어시스턴트, 저가 API 등급을 실용적으로 만든 것이 바로 이 층입니다.
의사결정 규칙은 상쾌할 만큼 단순합니다. 당신의 eval을 통과하는 가장 작은 모델을 쓰세요. 작음은 낮은 지연, 낮은 비용, 쉬운 프라이버시 준수, 온디바이스 실행 선택권을 의미합니다 — 그리고 경계선은 전설이 아니라 당신의 eval이 정합니다.