KoboldCpp

Однофайловое приложение, которое запускает GGUF-модели со встроенным веб-интерфейсом, а также генерирует изображения, видео, речь и музыку.

  • Локальный запуск
  • AGPL-3.0 · Открытый код
  • macOS, Windows, Linux
  • Проверено

KoboldCpp — бесплатное программное обеспечение с открытым кодом для запуска GGUF-языковых моделей на вашем компьютере. Оно построено на llama.cpp, вдохновлено KoboldAI и распространяется одним исполняемым файлом без установки: есть готовые загрузки для Windows, Linux и macOS на Apple Silicon. GGUF-модель скачиваете отдельно, выбираете её в лаунчере и открываете встроенный веб-интерфейс KoboldAI Lite в браузере на localhost:5001.

Помимо текста, README перечисляет генерацию и редактирование изображений (Stable Diffusion, SDXL, Flux, Qwen Image, Z-Image и другие), генерацию видео (Wan 2.2, LTX 2.3 и MiniMax H3), распознавание речи с Whisper, синтез речи, включая Qwen3-TTS, и генерацию музыки. Также есть поддержка сервера MCP, вызов инструментов, веб-поиск, встроенный агент и эндпоинты, совместимые с API KoboldAI, OpenAI и Ollama.

Проект начинался как инструмент для написания историй и ролевых игр, и функции памяти, world-info и карточек персонажей остаются его сильной стороной. Лицензия — AGPL-3.0: если вы предлагаете изменённую версию пользователям через сеть, нужно делиться изменениями. README также предупреждает, что koboldcpp.com — поддельный сайт: официальны только релизы на GitHub и koboldcpp.net.

Подходит для

  • Запуск GGUF-модели без установки чего-либо
  • Написание историй и ролевые игры с богатым встроенным интерфейсом
  • Одно приложение для текста, изображений, речи и не только
  • Подключение других приложений через эндпоинты в стиле KoboldAI, OpenAI или Ollama

На что обратить внимание

  • Макам на Intel нужна сборка из исходников, так как загрузка для macOS — под Apple Silicon
  • Используйте только официальные загрузки с GitHub или koboldcpp.net: README предупреждает о поддельном сайте
  • AGPL-3.0 требует делиться изменениями, если вы предлагаете изменённую версию через сеть

Ссылки