KoboldCpp
产品状态: 尚未登记状态
本条目尚未登记生命周期复核。被目录收录不代表当前可用，选用前请向厂商确认。
尚未记录状态查看日期
单文件 GGUF 推理带角色扮演血统：故事、冒险、视觉模型——Ollama 的会讲故事表亲。 本条目尚未登记生命周期复核。被目录收录不代表当前可用，选用前请向厂商确认。
产品预览
深度介绍
KoboldCpp 用一个可下载的单文件在本地运行 GGUF 语言模型，并带着 KoboldAI 的血统：角色扮演前端所期待的那套接口、内置的浏览器界面，以及无需编译工具链就能把模型的部分层卸载到 GPU。项目自己的一句话说明是「一个文件，零安装」。它面向的是想让模型在自己机器上回答、又希望安装过程只等于下载一个二进制文件的人。
它适合角色与故事类前端、在笔记本或 U 盘上自成一套的便携部署，也适合想要 GPU 加速但不想搭 Python 环境的人。需要托管服务的团队则不太适合：仓库把项目本身描述为 llama.cpp 服务端工作的分支，也就是说新的推理特性源于上游项目，生产团队应先去那里看。它的许可也是 AGPL-3.0——如果要把推理嵌进对外发布的产品，而不是当作工具来跑，这就是一个需要权衡的点。
未核实：本次没有构建，也没有加载模型，因此速度、内存表现以及某个版本在某块显卡上能否工作都没有测试。撰写当日从托管服务的仓库接口读到：约 11,990 星、789 个分支、AGPL-3.0、约 533 个未关闭议题，最新发布版本标记为 v1.122.1，发布于 2026 年 9 月 26 日；其上游 llama.cpp 约为 130,874 星、MIT 许可。这些数字会变动，而且本次没有读项目的发布说明，因此近期版本改了什么并不清楚。
本条目尚未登记内容来源。目录收录和既有评分不代表相关主张已获独立验证。
优点 / 缺点
优点
- 解压即跑，真单文件
- GPU 层卸载无需工具链折腾
- 扮演前端期待的 API
- 同一 exe 支持视觉模型
缺点
- 界面够用不华丽
- Windows 优先的习惯
- 服务功能轻于专用栈
适合谁用
角色驱动的本地扮演
故事与冒险生成
U 盘里的可携带推理
普通 GPU 上的视觉聊天
编辑结论
一个单文件的本地模型运行器，带角色扮演血统和 AGPL 许可——为角色前端选它，推理特性则盯着上游项目。
核心功能
标签
常见问题
KoboldCpp 目前还能使用吗？
本条目尚未登记生命周期复核。被目录收录不代表当前可用，选用前请向厂商确认。
KoboldCpp 是什么？
KoboldCpp 是由 LostRuins (community) 开发的AI 平台工具。它于 2023 年推出，开发方总部位于远程。单文件 GGUF 推理带角色扮演血统：故事、冒险、视觉模型——Ollama 的会讲故事表亲。
KoboldCpp 是免费的吗？
是的——KoboldCpp 可以免费使用。
KoboldCpp 是开源的吗？
是的——KoboldCpp 是开源软件，源代码可在 https://github.com/LostRuins/koboldcpp 公开获取。
KoboldCpp 有哪些最佳替代品？
值得关注的AI 平台替代品包括 Hugging Face、Replicate、Ollama。你可以在我们的AI 平台分类中浏览全部 138 个工具。
这个页面有帮助吗？
