DeepInfra

DeepInfra 는 AI 추론 클라우드입니다. OpenAI 호환 API 뒤에 언어·비전과 OCR·임베딩과 리랭크·이미지와 영상·음성의 수백 개 오픈 모델을 세우고, 서버리스와 전용 두 형태로 빌려줍니다. 과금의 표어는 고정비 거부입니다. 토큰 종량, 유휴 GPU 없음, 최소 약정 없음, 좌석당 과금 없음이라 취미 프로젝트나 수요가 튀는 운영 앱 모두 0원에서 시작합니다. 공용 서버리스가 좁아지면 같은 카탈로그를 A100부터 현행 Blackwell까지 기업용 가속기의 전용 인스턴스로 올리고 자동 스케일링할 수 있고, GPU만 빌려 자체 스택도 돌립니다.

판단: 인기 오픈 모델의 토큰 단가는 대형 관리형 클라우드보다 낮은 착지가 상례이고, 서버리스 종량이라 용량 리스크는 업체 쪽입니다. 다만 수요가 급증하면 공유 엔드포인트에 대기열이 걸리고, 그 순간 전용 요금이 청구서에 나타납니다. 셀프호스팅 항목은 없고, 대안은 오픈 가중치를 GPU 대여 위의 vLLM 에 태우는 것 — 업체의 마진을 자신의 당직으로 바꾸는 셈입니다. 2026-09-20 에 확인한 공개 페이지에는 보존·소재지 조항이 없으니, 규제 데이터를 흘리기 전에 문서 검토를 거치세요. 가장 넓은 모델 사전값을 가장 저렴한 실용 토큰으로 돌리려면 무난한 기본값이고, 규모에서 지연 보장이 필요하면 격리 비용은 어디서든 발생합니다.