KoboldCpp

单文件应用,用内置网页界面运行 GGUF 模型,还能生成图像、视频、语音和音乐。

  • 本地运行
  • AGPL-3.0 · 开源
  • macOS, Windows, Linux
  • 核实于

KoboldCpp 是免费的开源软件,用来在你自己的电脑上运行 GGUF 语言模型。它基于 llama.cpp,灵感来自 KoboldAI,以单个可执行文件的形式发布,无需安装:提供适用于 Windows、Linux 和 Apple Silicon 版 macOS 的现成下载。你单独下载一个 GGUF 模型,在启动器中选中它,再用浏览器打开内置的 KoboldAI Lite 网页界面(localhost:5001)。

除了文本,README 还列出了图像生成与编辑(Stable Diffusion、SDXL、Flux、Qwen Image、Z-Image 等)、视频生成(Wan 2.2、LTX 2.3 和 MiniMax H3)、基于 Whisper 的语音转文字、包括 Qwen3-TTS 在内的文字转语音,以及音乐生成。它还提供 MCP 服务器支持、工具调用、网页搜索、内置智能体,以及兼容 KoboldAI、OpenAI 和 Ollama API 的端点。

它最初是写故事和角色扮演的工具,相关的记忆、世界设定和角色卡功能至今仍是强项。许可证是 AGPL-3.0:如果你把修改过的版本通过网络提供给用户,就需要分享你的修改。README 还警告 koboldcpp.com 是假冒网站,只有 GitHub 发布页和 koboldcpp.net 才是官方渠道。

适合做什么

  • 不用安装任何东西就能运行 GGUF 模型
  • 用功能丰富的内置界面写故事和角色扮演
  • 一个应用同时处理文本、图像、语音等
  • 通过 KoboldAI、OpenAI 或 Ollama 风格的端点连接其他应用

需要注意

  • Intel 版 Mac 需要从源码构建,因为 macOS 下载版只支持 Apple Silicon
  • 只使用 GitHub 或 koboldcpp.net 的官方下载,README 警告存在假冒网站
  • AGPL-3.0 许可证对修改后通过网络提供服务的情况有分享义务

链接