Fireworks AI

Fireworks AI는 "오픈 가중치도 지연 없이 나올 수 있다"는 사실 자체를 제품으로 팝니다. 서버리스 카탈로그는 토큰 단가를 공개합니다(GLM 5.2는 입력 100만 토큰 1.40달러·출력 4.40달러, Kimi K3는 3/15달러, 임베딩은 0.008달러부터). 그 아래에는 배포 사다리가 이어집니다. 온디맨드 전용 GPU는 초 단위 과금으로 H100과 H200이 시간당 8.00달러, B200이 13.00달러, GB300이 20.00달러이고, 예약 용량은 새 하드웨어에 우선 접근할 수 있습니다. 사업의 나머지 절반은 학습입니다. LoRA 어댑터, 전체 파라미터 SFT, DPO, GPU 시간 과금의 강화학습 파인튜닝을 Training SDK와 firectl CLI로 돌리므로 데이터셋에서 엔드포인트까지 전부 스크립트화됩니다. 앞단의 Nexus는 더 싼 경로로 이어주는 게이트웨이입니다.

정직한 한계는 Fireworks가 여는 것이 오픈 가중치와 파트너 모델이지 폐쇄형 최전선 모델이 아니라는 점입니다. 랭킹 꼭대기는 여전히 남의 집이고, 판매 화법은 지연과 유닛 이코노믹스이며 회사 스스로도 그렇게 말합니다. 과금이 토큰·GPU 초·학습 시간의 세 갈래로 나뉘기 때문에, 토큰량으로 시작한 일이 결국 상시 가동 전용 배포가 되고 전용 엔드포인트는 트래픽이 없어도 돈이 나갑니다. 실제 트래픽 아래 파인튜닝 모델을 돌리는 팀, 첫 토큰 속도가 잔존율을 정하는 스트리밍 제품, vLLM이나 SGLang을 직접 운영하려던 팀이 골라야 합니다. 전용 배포의 자동 확장 하한과 유휴 과금, 인용된 토큰 값 뒤에 있는 양자화, 카탈로그 모델이 사라질 때 공지 시점을 확인하세요.