Novita AI

Novita AI는 자체 모델이 아니라 추론 클라우드입니다. 텍스트·이미지·오디오·비디오에 걸친 약 200개의 오픈 모델을 단일 API 뒤에 두고, 아래 인프라가 필요할 때는 GPU 인스턴스와 에이전트 샌드박스도 제공합니다. 내세우는 것은 화려하지 않고 실용적인 부분입니다. 용량 계획이 필요 없고, 클러스터를 돌볼 필요도 없고, 시간이 아니라 토큰 단위로 과금됩니다.

요금은 하나로 뭉뚱그린 가격이 아니라 모델별 토큰 단가로 공개되며, 저렴한 오픈 모델은 입력 100만 토큰당 1달러를 크게 밑돕니다. 그래서 자사 API와의 비교가 실제로 계산 가능해집니다. 또 읽는 쪽을 기계로 가정합니다. 사이트는 에이전트에게 문서 색인을 가져오라고 안내하고, Accept 헤더가 붙은 요청에는 markdown을 돌려줍니다. 작은 결정이지만 개발자 대상 인프라에서는 시사하는 바가 큽니다.

경쟁하는 것은 폭·가격·편의성이지 최전선 품질이 아닙니다. 가장 강한 모델이 필요하면 답은 다른 곳에 있고, 계약 전에 읽어야 할 것은 모델 수가 아니라 호스팅 보증, 데이터 위치, 지원 조건입니다. 프로토타입, 배치 작업, 비용에 민감한 오픈 모델 운영에는 다른 선택지를 견줄 합리적인 기준이 됩니다.