KoboldCpp
Однофайловое приложение, которое запускает GGUF-модели со встроенным веб-интерфейсом, а также генерирует изображения, видео, речь и музыку.
KoboldCpp — бесплатное программное обеспечение с открытым кодом для запуска GGUF-языковых моделей на вашем компьютере. Оно построено на llama.cpp, вдохновлено KoboldAI и распространяется одним исполняемым файлом без установки: есть готовые загрузки для Windows, Linux и macOS на Apple Silicon. GGUF-модель скачиваете отдельно, выбираете её в лаунчере и открываете встроенный веб-интерфейс KoboldAI Lite в браузере на localhost:5001.
Помимо текста, README перечисляет генерацию и редактирование изображений (Stable Diffusion, SDXL, Flux, Qwen Image, Z-Image и другие), генерацию видео (Wan 2.2, LTX 2.3 и MiniMax H3), распознавание речи с Whisper, синтез речи, включая Qwen3-TTS, и генерацию музыки. Также есть поддержка сервера MCP, вызов инструментов, веб-поиск, встроенный агент и эндпоинты, совместимые с API KoboldAI, OpenAI и Ollama.
Проект начинался как инструмент для написания историй и ролевых игр, и функции памяти, world-info и карточек персонажей остаются его сильной стороной. Лицензия — AGPL-3.0: если вы предлагаете изменённую версию пользователям через сеть, нужно делиться изменениями. README также предупреждает, что koboldcpp.com — поддельный сайт: официальны только релизы на GitHub и koboldcpp.net.
Подходит для
- Запуск GGUF-модели без установки чего-либо
- Написание историй и ролевые игры с богатым встроенным интерфейсом
- Одно приложение для текста, изображений, речи и не только
- Подключение других приложений через эндпоинты в стиле KoboldAI, OpenAI или Ollama
На что обратить внимание
- Макам на Intel нужна сборка из исходников, так как загрузка для macOS — под Apple Silicon
- Используйте только официальные загрузки с GitHub или koboldcpp.net: README предупреждает о поддельном сайте
- AGPL-3.0 требует делиться изменениями, если вы предлагаете изменённую версию через сеть