OpenRouter

OpenRouter는 라우팅 계층에 마켓플레이스를 얹은 존재입니다. 엔드포인트 하나로 수십 개 공급자의 500개 넘는 모델에 접근하고, 가격·컨텍스트 길이·지연 시간을 나란히 보여줍니다. 모델 선택을 되돌릴 수 있게 만드는 배선이 본령입니다. 공급자가 망가지면 자동 폴백, 후보는 비용·속도·도구 호출 신뢰도로 재정렬, 정책대로 공급자를 제한할 수 있습니다. 과금은 선불 크레딧이며, 벤더를 비교할 때 진짜 중요한 건 토큰 단가가 상류 표시 가격 그대로 통과한다는 점입니다. OpenRouter가 붙이는 건 크레딧 충전 시 5.5%(최소 0.80달러, 암호화폐 5%)이지 토큰에 얹는 할증이 아닙니다. 자체 API 키도 쓸 수 있고, 월 무료 한도를 넘으면 5%가 부과됩니다. 프롬프트 저장은 기본적으로 꺼져 있습니다.

지는 지점은 용량이 내 것이 아니라는 점입니다. 속도 제한은 라우터 너머 공급자 소유이고, 장애는 폴백 사슬을 타고 퍼지며, 각 회사 고유의 기능(캐싱 의미, 구조화 출력 방언, 파인튜닝)은 늦게 오거나 아예 오지 않습니다. 그래서 한 랩의 고기능에 물려 있는 팀은 결국 직접 연결합니다. 지연 한 홉도 생기고, 계약·DPA·모델 조건은 라우터가 아니라 공급자 쪽에 있습니다. 매주 체크포인트를 바꿔 비용을 맞추거나, 여러 모델을 서로 붙여 비교하거나, 주인공 모델 대신 백업이 필요하면 이쪽입니다. 충전 수수료 대비 볼륨, 내 등급이 각 공급자에서 실제로 받는 한도, 모델 slug가 사라질 때 벌어지는 일은 확인하세요. 버전을 고정하지 않으면 조용히 재라우팅됩니다.