GLOSSARY
앙상블
여러 모델의 출력을 결합해 어떤 단일 모델보다 나은 답을 얻는 것. 다수결, best-of-N 선택, 대규모 전문가 혼합 라우팅 등.
단일 모델은 개성적인 오류를 냅니다. 여러 모델은 다르게 틀리므로, 그 일치가 신호이고 불일치가 경고입니다. 앙상블은 단순한 것(출력 다수결, 검증기 있는 best-of-N)부터, 아키텍처적 것(토큰마다 전문가로 라우팅하는 MoE), 제품 수준(Genspark식 멀티 에이전트 답변)까지 있습니다. 이 패턴이 추론 시점 연산의 이득의 기반입니다. 추가 추론으로 더 많은 의견을 듣는 것입니다.
비용은 의견 수만큼 지연과 지출이 늘고, 오류의 상관입니다 — 비슷한 데이터로 학습한 다섯 모델은 비슷하게 실패하므로, 학습의 다양성이 앙상블을 작동하게 합니다. 고위험 분류와 리서치에서 앙상블은 흔히 '아직 살 수 있는 가장 싼 정확도'입니다.