GLOSSARY
리랭킹
진짜 관련도로 검색 결과를 재정렬하는 2단계 모델. 진지한 RAG와 엔터프라이즈 검색 뒤의 조용한 품질 향상입니다.
벡터 검색은 빠르지만 얕습니다. 압축된 기하를 비교하므로 대충 관련 있는 항목이 진짜 관련 항목과 섞입니다. 리랭커는 각 후보를 온전히 읽고 — 쿼리와 문서를 나란히 — 정확한 관련도를 채점합니다. 파이프라인은 이렇게 됩니다. 100개 후보를 빠르게 가져오고, 리랭크로 최고 5개를 골라, 그 5개에서 답합니다.
Cohere는 정확히 이 컴포넌트로 비즈니스를 세웠고, 모든 프로덕션 RAG 스택은 결국 '넣을까'를 스스로 묻습니다. 비용은 모델 호출 한 번 추가. 이점은 언어 모델이 그럴듯하지만 틀린 단락이 아니라 올바른 단락에서 답한다는 것 — 그라운딩 실패가 연쇄됨을 감안하면 보통 그만한 값어치가 있습니다.