AI 平台
AI 模型托管、部署和运行平台
Hugging Face
Hugging Face
尚未登记状态
模型与数据集仓库、Spaces演示及另行计费推理服务的托管协作平台;权限取决于具体资产和服务。
Replicate
Replicate
尚未登记状态
云端 AI 模型运行平台,无需管理基础设施即可运行开源模型。
Ollama
Ollama
尚未登记状态
本地模型运行器及API,也提供可选付费云模型;MIT运行器、下载模型和托管服务的费用及许可分别处理。
Together AI
Together AI
尚未登记状态
大规模训练、微调与托管开源模型的云平台,为数百个模型检查点提供高速推理 API。
Groq
Groq
尚未登记状态
为所选语言及语音模型提供托管推理API,费用、限制与条款依模型而异。
OpenRouter
OpenRouter
尚未登记状态
统一 API 接入各大厂商数百个模型,提供价格与延迟对比及自动回退。
DeepInfra
DeepInfra
尚未登记状态
按 token 计费的推理云,通过统一标准化 API 服务数百个开源模型(文本、图像、语音与嵌入)。
Fireworks AI
Fireworks
尚未登记状态
面向开源模型的高速推理云,具备生产级可靠性、微调与多模型组合部署能力。
Baseten
Baseten
尚未登记状态
提供托管API、专用部署、扩缩容与可观测性的模型推理及训练平台;私有云选项取决于合同。
Modal
Modal Labs
尚未登记状态
面向代码定义GPU/CPU函数、批处理、训练和沙箱的云执行平台,算力与模型端点计费分开。
RunPod
RunPod
尚未登记状态
为自定义工作负载提供GPU/CPU Pods和Serverless容器端点;计算生命周期、持久存储及安全需分别配置。
Vast.ai
Vast.ai
尚未登记状态
连接数据中心及社区供应者的GPU计算市场;机器条款、存储、网络费用及安全随报价变化。
Novita AI
Novita
尚未登记状态
面向数百个开源模型(LLM、图像与音频生成)的高性价比推理云,按 token 与按图计费。
SiliconFlow
SiliconFlow
尚未登记状态
扎根中国的推理云,通过标准化低价 API 服务 GLM、Qwen、DeepSeek 等主流开源模型。
Perplexity Sonar API
Perplexity
尚未登记状态
Perplexity 的搜索增强推理 API:LLM 回答附带实时网络引用,适合需要有据可查答案的应用。
Azure OpenAI
Microsoft
尚未登记状态
微软 Azure 的 OpenAI 模型企业服务:OpenAI 当前前沿模型(含 GPT-5/6 世代)与嵌入模型,具备企业级安全、合规与区域可用性。
Cohere
Cohere
尚未登记状态
面向安全敏感企业的 LLM 平台:Command 模型家族、面向检索的 Embed 与 Rerank 模型,以及部署在你自己云上或本地的私有化方案。
Writer
Writer
尚未登记状态
将WRITER Agent、受治理模型、Knowledge Graph和开发API结合的专有企业AI平台,席位与用量收费分开。
vLLM
vLLM Project
尚未登记状态
Apache-2.0许可的推理及服务引擎,提供批处理、分硬件后端和文档化API接口;须分别核对模型与部署兼容性。
ModelScope
Alibaba (Dammo Academy)
尚未登记状态
阿里巴巴的开源模型社区与 MaaS 平台:数十万模型与数据集、免费在线推理 Notebook,以及 Qwen 家族的主场。
Dify
Dify (LangGenius)
尚未登记状态
用于可视化AI工作流、RAG和代理的源码可用平台,可选Community自托管、Cloud或Enterprise。
Exa
Exa AI
尚未登记状态
面向应用及代理的网页搜索与正文API,按请求、结果及内容类型计费;查询训练与Enterprise零留存须分开核。
Tavily
Tavily
尚未登记状态
为 LLM 与 RAG 量身打造的搜索 API:一次调用返回排序好的、可直接入上下文的网页结果——无数代理框架的即插即用网页工具。
Serper
Serper Dev
尚未登记状态
为 AI 打造的快速低价 Google 搜索结果 API:以传统 SERP API 零头价格提供结构化 SERP 数据(自然结果、新闻、图片、地图)——众多研究代理背后的主力。
fal.ai
fal
尚未登记状态
提供按模型区分端点、队列调用和独立GPU部署计费的托管生成媒体API平台。
Runware
Runware
尚未登记状态
超低成本图像生成基础设施:通过端到端自持 GPU 管线实现亚秒级 API,声称行业最低单图价格——为海量生成的应用而建。
Vapi
Vapi
尚未登记状态
语音代理开发者平台:以顶级的 STT、LLM 与 TTS 组装亚秒级电话 AI——自带电话号码、转接与集成——无需自建电话管道。
Brave Search API
Brave Software
尚未登记状态
以 API 形式开放的独立搜索索引:隐私优先的 Google 替代结果,含网页、新闻、图片与本地端点——AI 搜索栈中的独立数据选项。
Open WebUI
Open WebUI
尚未登记状态
连接 Ollama 与 OpenAI 兼容模型服务的自托管界面,含文档检索、工具和用户控制;当前源码许可有品牌条件。
LibreChat
LibreChat
尚未登记状态
用于配置本地或远程模型的MIT许可自托管网页聊天平台,提供代理、文件及多用户控制。
Apple Intelligence
Apple
尚未登记状态
苹果的端侧与私有云 AI 层:写作工具、通知摘要、图像生成与重构版 Siri——工程设计确保个人数据无需离开你的设备。
Pinecone
Pinecone
尚未登记状态
定义了向量数据库品类的托管产品:对数十亿嵌入做毫秒级相似搜索,无服务器扩缩,无数生产级 RAG 系统的检索中枢。
LangSmith
LangChain
尚未登记状态
面向 LLM 应用的可观测与评测平台:追踪每条链与代理的运行、构建数据集与评测、调试 RAG 或代理为何出错——来自 LangChain 团队。
Braintrust
Braintrust
尚未登记状态
提供数据集、实验与评分器的AI评估平台,含托管及企业自托管数据平面选项。
Weaviate
Weaviate (SeMI)
尚未登记状态
开源向量数据库:可自托管的相似搜索,混合(稠密+稀疏)检索、内建向量化模块与 GraphQL 访问——托管存储之外的开发者掌控选项。
Langfuse
Langfuse / ClickHouse
尚未登记状态
提供追踪、提示词、数据集与评估的AI工程平台,区分MIT核心、商业扩展及托管Cloud。
Helicone
Helicone
尚未登记状态
LLM网关与可观测工具,提供轨迹、费用指标及Apache自托管代码;加入Mintlify后托管服务继续运行但处维护模式。
Qdrant
Qdrant
尚未登记状态
提供稠密/稀疏混合查询及 payload 过滤的向量库,Apache2 引擎与托管/混合/私有云分别授权。
Jan
Menlo Research
尚未登记状态
可用本地模型或配置云提供方的Apache许可桌面AI应用,支持助手、MCP连接与本地API。
Chroma
Chroma
尚未登记状态
存储文档、embedding与元数据的检索数据库,可选本地、自托管或独立计费Cloud。
LM Studio
LM Studio
尚未登记状态
LM Studio当前Bionic应用结合已下载本地模型、可选付费云推理及代理功能,应用与模型权限分别处理。
Milvus
Zilliz
尚未登记状态
支持过滤、混合及全文检索的Apache许可向量数据库,区分Lite、Standalone及Distributed部署。
Voiceflow
Voiceflow
尚未登记状态
AI 代理的协作画布:设计对话流、用知识接地,发到各渠道,而不让每一轮都变成提示词实验。
Botpress
Botpress
尚未登记状态
偏开源的聊天代理工作室:可视化流程、一层 LLM,以及对话不能只住在别人云里时的自托管路径。
LocalAI
mudler
尚未登记状态
你自己跑的 OpenAI 兼容 API:丢进 GGUF 或其他本地后端,SDK 不变,提示词永不离开机器。
Amazon Bedrock
Amazon Web Services
尚未登记状态
AWS托管基础模型访问服务,提供分型号API、定制、Knowledge Bases与agents,用量及数据条件分范围。
Gemini Enterprise Agent Platform
Google Cloud
尚未登记状态
谷歌云的模型与机器学习平台:GCP IAM 下的 Gemini 加开源模型、调参、RAG 与代理——数据已经住在 BigQuery 时 Bedrock 的孪生。 谷歌已将其更名为 Gemini Enterprise Agent Platform,但文档与 IAM 角色中仍可见 Vertex AI 旧称。
Snowflake Cortex
Snowflake
尚未登记状态
Snowflake 里的 SQL 函数形态 LLM:补全、嵌入、搜索、抽取,不用把表搬出去——治理故事已经是数仓的团队的 AI。
GPT4All
Nomic AI
尚未登记状态
Nomic 的本地聊天应用:开源模型的一键桌面安装器,离线对你的文件做 RAG,以及“在家跑 LLM”还算冒险时就出现的生态。
Databricks
Databricks
尚未登记状态
整合数据流水线、SQL分析、模型工作流与目录治理的托管数据AI平台,费用依云部署和SKU而定。
Rasa
Rasa
尚未登记状态
长出 CALM 的开源对话框架:你拥有的流程、你接入的 LLM,以及不能只住在厂商画布里的助手的自托管路径。
Microsoft Copilot Studio
Microsoft
尚未登记状态
Power Platform 的代理构建器:坐在 Teams 里、用你的 Graph、在你已经为采购打过仗的 Microsoft 365 许可下出货的 Copilot。
Synthflow
Synthflow
尚未登记状态
电话运营的无代码语音代理:流程、号码和分钟,不用电话团队——仍住在 PSTN 上的 CX 的、更画布形的 Bland 表亲。
Comfy Cloud
Comfy Org
尚未登记状态
托管ComfyUI工作流编辑与执行,支持部分自定义节点并共享云/API积分;生产部署与合作模型另有计量及条款。
RunningHub
RunningHub
尚未登记状态
中文工作流的云 ComfyUI:托管图、模板,以及没有本地 4090 的 GPU——Comfy Cloud 的国内表亲。
Browserbase
Browserbase
尚未登记状态
面向程序化自动化和 agent 的托管浏览器基础设施,提供可复用登录上下文、实时视图和会话回放;浏览器时长、并发、代理及其他 API 分别受套餐限制和计费。
Stagehand
Browserbase
尚未登记状态
将自然语言act/extract/observe与代码控制结合的浏览器agent SDK,可用本地浏览器或另计费Browserbase托管。
Bubble
Bubble
尚未登记状态
结合AI辅助、数据库和工作流的托管可视化Web及移动应用构建平台,workload与AI点数分开收费。
Glide
Glide
尚未登记状态
Glide Classic以数据、组件与工作流构建业务应用;独立GlideOS产品另有套餐。
Retool
Retool
尚未登记状态
用Retool AI构建器或Classic编辑器创建连接数据库/API的应用,配工作流及按合同部署。
Activepieces
Activepieces
尚未登记状态
提供集成、分支、循环及AI步骤的流程自动化;MIT核心与另行授权的企业功能,支持云端或自托管。
Softr
Softr
尚未登记状态
Softr是托管应用构建平台,用AI辅助搭建数据库、页面和权限,并以可视化编辑制作门户与内部工具。
Appsmith
Appsmith
尚未登记状态
以控件、数据库/API查询和JavaScript构建内部应用;Apache-2.0社区版与商业版本分开。
ToolJet
ToolJet
尚未登记状态
更轻的开放内部工具:拖、查询、你可以托管的面板——Appsmith 的更起步原生表亲。
Framer
Framer
尚未登记状态
带CMS、发布及按套餐计量AI功能的托管可视化建站工具;独立HTML导出与反向代理交付是不同事项。
IFTTT
IFTTT Ltd.
尚未登记状态
家庭版的如果就:小程序、智能设备、每个习惯一个配方——Zapier 的更消费者原生表亲。
LiteLLM
BerriAI
尚未登记状态
提供模型路由SDK和自托管AI网关,含虚拟key、预算、fallback及请求成本记录,企业功能另许可。
llama.cpp
ggml (community)
尚未登记状态
面向支持的GGUF模型的C/C++推理引擎,提供CLI、服务端及分硬件后端,可本地或另行管理部署。
SGLang
LMSYS
尚未登记状态
带 RadixAttention 的服务引擎:共享前缀进缓存——vLLM 的更懂前缀表亲。
OpenLLM
BentoML
尚未登记状态
把开源模型变成生产端点:BentoML 给开源权重套的包装。
Xinference
Xorbits
尚未登记状态
LLM 与更多的分布式推理:带界面跨群集服务模型——Ollama 的更群集原生表亲。
Text Generation WebUI
oobabooga (community)
尚未登记状态
本地模型的 Gradio 驾驶舱:聊天、角色、LoRA、全后端——LM Studio 的黑客表亲。
KoboldCpp
LostRuins (community)
尚未登记状态
单文件 GGUF 推理带角色扮演血统:故事、冒险、视觉模型——Ollama 的会讲故事表亲。
BentoML
BentoML
尚未登记状态
将代码、依赖及模型产物打包成Bento与容器镜像的Python模型服务库,受管部署另有合同。
Triton Inference Server
NVIDIA
尚未登记状态
NVIDIA 的推理主力:批处理与多模型服务榨干每块 GPU。
Ray
Anyscale
尚未登记状态
分布式 Python 即库:数据、训练、调参、服务——Kubernetes 的更 Python 原生表亲。
Z.ai
Zhipu AI
尚未登记状态
智谱的国际柜台:带代理气质的 GLM 模型,为开发者定价。
SerpApi
SerpApi LLC
尚未登记状态
SerpApi是托管搜索结果API,把公开搜索引擎结果解析成结构化响应,并提供地区、语言和设备参数。
LanceDB
LanceDB
尚未登记状态
嵌入式向量数据库:对象存储上的无服务器检索,无需服务器照料。
Marqo
Marqo
尚未登记状态
提供推荐及商品运营控制的电商搜索与商品发现平台;早期Apache-2.0开源项目已弃用。
Vespa
Vespa.ai
尚未登记状态
雅虎搜索引擎转成的平台:十亿文档排序加即时 ML 推理。
Algolia
Algolia
尚未登记状态
为自有索引记录提供托管搜索与检索,配API客户端、界面库及按套餐提供的AI功能。
Typesense
Typesense
尚未登记状态
提供容错、分面、地理及向量功能的搜索服务器;GPLv3 服务端与 Typesense Cloud 的许可及运维费用不同。
Meilisearch
Meilisearch
尚未登记状态
提供全文、语义及混合检索的搜索API,可自托管MIT社区版;企业功能及托管Cloud另有许可和费用。
pgvector
pgvector community
尚未登记状态
在关系数据旁提供精确与近似向量检索的PostgreSQL扩展,支持HNSW和IVFFlat索引。
Weights & Biases
CoreWeave
尚未登记状态
实验追踪与模型开发工具链:记录训练运行、扫参、评测并在团队内共享结果。
Scale AI
Scale AI
尚未登记状态
面向大规模构建与部署 AI 系统的组织,提供数据标注、评测与数据运营服务。
Portkey
Palo Alto Networks
尚未登记状态
AI 网关:以单一端点接入 1600+ 模型,并叠加可观测性、护栏与提示词管理。
Cerebras Inference
Cerebras
尚未登记状态
在Cerebras硬件提供托管模型推理,分共享/专用目标并兼容部分OpenAI式客户端;模型条款、限额及费用分别核。
SambaNova
SambaNova Systems
尚未登记状态
基于自研数据流芯片的推理、微调与数据中心 AI 系统。
Lambda
Lambda
尚未登记状态
用于训练与推理的 GPU 云,提供按需实例、预留集群与托管推理端点。
CoreWeave
CoreWeave
尚未登记状态
面向 AI 的云服务,提供 GPU 算力、裸金属、存储与托管 Kubernetes,用于训练与推理。
Arize AI
Arize AI
尚未登记状态
面向 AI agent 与大模型应用的可观测性与评测:追踪、评测与实验集中在一处。
E2B
E2B
尚未登记状态
供代理代码及工具使用的隔离云机器,区分受管Cloud、Enterprise BYOC与Apache代码路径;暂停状态可持久化。
Composio
Composio
尚未登记状态
工具调用与委托授权基础设施,把 AI agent 接到大量第三方应用上。
MLflow
Databricks
尚未登记状态
开源平台:记录实验、评测与注册模型,并追踪大模型应用与 agent。
Ragas
Exploding Gradients
尚未登记状态
用于评测大模型与 RAG 应用的开源框架:自动指标、合成测试数据与生产监控。
Guardrails AI
Guardrails AI
尚未登记状态
大模型输出的校验与控制层,在输入输出两侧检查结构、安全与政策合规。
Vectara
Vectara
尚未登记状态
面向企业的检索与 agent 平台,可 SaaS 部署,也可部署在你的云里或气隙隔离的本地环境。
turbopuffer
turbopuffer
尚未登记状态
构建在对象存储而非常驻内存索引之上的向量与全文检索,按存储加查询计费。
Evidently AI
Evidently AI
尚未登记状态
面向机器学习与大模型系统的开源评测与可观测性,覆盖数据漂移、预测质量与大模型输出检查。
RAGFlow
InfiniFlow
尚未登记状态
围绕文档理解与混合检索构建的开源 RAG 引擎与 agent 平台,带可视化工作流。
Axolotl
Axolotl AI
尚未登记状态
开源大模型微调工具:用 YAML 配置而非写代码,并提供常用训练方案的现成配方。
Label Studio
HumanSignal
尚未登记状态
开源标注与复核平台,覆盖文本、图像、音频与视频,也支持 agent 轨迹与 RLHF 工作流。
AI21
AI21 Labs
尚未登记状态
面向企业的 AI 系统:通过路由与调优模型,在保持响应质量的同时压低 token 开销。
ClearML
ClearML
尚未登记状态
AI 基础设施平台:GPU 集群的控制面、开发工具,以及 GPU 即服务方案。
PromptLayer
PromptLayer
尚未登记状态
提示词管理、评测与可观测性:版本化提示词、用数据集测试、并追踪生产中的 agent。
Lakera
Lakera
尚未登记状态
面向 AI 应用与 agent 的安全:守住模型「做了什么」、做对抗性测试,并治理员工与 agent 的使用。
Anyscale
Anyscale
尚未登记状态
Ray 的托管平台,面向跨云的分布式训练、数据整理与向量生成。
Not Diamond
Not Diamond
尚未登记状态
模型路由器:预测每个请求交给哪个模型最合适,目标是在不牺牲质量的前提下降低成本。
Activeloop
Activeloop
尚未登记状态
基于 Deep Lake 的持续学习基础设施;Deep Lake 是一个为 AI agent 与检索负载设计的数据库。
Nebius
Nebius
尚未登记状态
AI 云服务:提供 GPU 集群、托管推理与 MLOps 工具,覆盖从训练到服务。
Unsloth
Unsloth
尚未登记状态
开源框架与桌面应用:在本地微调并运行开源模型,训练过程省显存。
PyTorch
PyTorch Foundation
尚未登记状态
提供自动微分、CPU/GPU执行及分布训练组件的Python张量和神经网络框架。
PromptBase
PromptBase
尚未登记状态
以提示词为商品的市场:买卖可用的图像与文本模型提示词。
FastGPT
labring (FastGPT)
尚未登记状态
开源知识库平台:RAG 管道、工作流编排与可视化构建器一体。
Zep
Zep AI
尚未登记状态
经时序知识图谱实现代理长期记忆:Graphiti 记住的事实自带过期时间。
Pathway
Pathway
尚未登记状态
面向 LLM 应用的实时数据管道:活数据源保持同步,而不是每夜批量。
LlamaCloud
LlamaIndex
尚未登记状态
托管版 LlamaIndex:解析、索引与检索作为开源框架背后的托管服务。
Gumloop
AgentHub Inc. (Gumloop)
尚未登记状态
带连接器、知识、触发及可选人工审批的托管业务代理;旧工作流另列,自助训练条件与签约Enterprise不同。
Lindy
Lindy AI
尚未登记状态
业务运营的 AI 员工:雇一个 Lindy,教它你的工作流,让它跑邮件和 CRM 杂务。
Vanna
Vanna AI
尚未登记状态
学会你表结构的文生 SQL:用英文提问,拿到按你 DDL 训练出的查询。
Cassidy
Cassidy
尚未登记状态
以连接的公司知识为上下文的托管代理与工作流,含会议、工具操作及按套餐的点数权限。
Dust
Dust SAS
尚未登记状态
将指令、公司数据及工具组合为工作区AI代理,按席位与积分规划用量;托管条款与仓库许可分开。
Humanloop
Humanloop
已停止服务
官方公告写明平台于 2025-09-08 关闭,此后平台与数据永久不可访问。导出期限已过;本条目仅作历史记录。
Mintlify
Mintlify
尚未登记状态
提供仓库/网页编辑及文档发布的平台,Assistant、写作代理和更新自动化按档位提供,须另核积分及组织资格。
Weave
Weights & Biases
尚未登记状态
W&B 的 LLM 运维工具箱:追踪、评测与护栏,与熟悉的实验追踪并肩。
Beam
Beam Cloud
尚未登记状态
托管CPU/GPU函数、端点、队列与沙箱平台,另有beta9许可自托管和BYOC控制面选项。
Base44
Base44 (Wix)
尚未登记状态
带后端的氛围编程:提示词出应用,认证、数据库与托管全内置。
StackAI
StackAI Inc.
尚未登记状态
企业级无代码代理构建器:可视化流程、权限与面向运营团队的审计轨迹。
Relevance AI
Relevance AI
尚未登记状态
AI 劳动力平台:为销售、支持与研究构建、训练并部署代理团队。
LangWatch
LangWatch
尚未登记状态
来自欧洲的 LLM 可观测与评估:追踪代理、质量评分、守护生产——GDPR 原生。
Gradio
Hugging Face (Gradio)
尚未登记状态
为Python函数和模型构建界面的Apache许可库,可选公开分享链接及独立托管。
Streamlit
Snowflake (Streamlit)
尚未登记状态
用于交互数据、仪表板和聊天应用的Python框架,Community Cloud与Snowflake部署另有规则。
Text Generation Inference
Hugging Face
尚未登记状态
Hugging Face 的服务层:开源权重进,OpenAI 形状的 LLM 端点出,为大批量调优。
ExLlamaV2
turboderp (community)
历史记录
原 ExLlamaV2 README 明确该项目暂时归档,开发转向 ExLlamaV3。本记录仅指 V2 维护;未测既有安装、fork 或第三方服务器,不判断其均不可用。V3 是另一代,不保证自动兼容。
Petals
Petals community (BigScience)
尚未登记状态
借别人的 GPU 碎片跑巨型开源模型:BitTorrent 式分布式推理。
Patronus AI
Patronus AI
尚未登记状态
面向企业的 LLM 评估:用你的数据、你的规则、你的裁判模型来评模型与代理。