KoboldCpp

Eine Ein-Datei-App, die GGUF-Modelle mit integriertem Web-UI ausführt und auch Bilder, Video, Sprache und Musik generiert.

  • Lokal ausführen
  • AGPL-3.0 · Open Source
  • macOS, Windows, Linux
  • Verifiziert

KoboldCpp ist eine kostenlose Open-Source-Software, um GGUF-Sprachmodelle auf Ihrem eigenen Computer auszuführen. Sie baut auf llama.cpp auf, ist von KoboldAI inspiriert und kommt als eine einzige ausführbare Datei ohne Installation: Fertige Downloads gibt es für Windows, Linux und macOS auf Apple Silicon. Sie laden ein GGUF-Modell separat, wählen es im Launcher und öffnen das mitgelieferte KoboldAI-Lite-Web-UI im Browser unter localhost:5001.

Über Text hinaus listet das README Bilderzeugung und -bearbeitung (Stable Diffusion, SDXL, Flux, Qwen Image, Z-Image und mehr), Videoerzeugung (Wan 2.2, LTX 2.3 und MiniMax H3), Sprache-zu-Text mit Whisper, Text-zu-Sprache inklusive Qwen3-TTS sowie Musikerzeugung. Dazu kommen MCP-Server-Unterstützung, Tool Calling, Websuche, ein integrierter Agent und Endpunkte, die mit den APIs von KoboldAI, OpenAI und Ollama kompatibel sind.

Es begann als Werkzeug zum Geschichteschreiben und für Rollenspiele, und die dafür gedachten Memory-, World-Info- und Character-Card-Funktionen sind weiterhin eine Stärke. Die Lizenz ist AGPL-3.0; sie verlangt, Änderungen zu teilen, wenn Sie eine veränderte Version Nutzern über ein Netzwerk anbieten. Das README warnt außerdem, dass koboldcpp.com eine gefälschte Seite ist: offiziell sind nur die GitHub-Releases und koboldcpp.net.

Geeignet für

  • Ein GGUF-Modell ausführen, ohne etwas zu installieren
  • Geschichteschreiben und Rollenspiele mit einer umfangreichen integrierten Oberfläche
  • Eine App für Text, Bilder, Sprache und mehr
  • Andere Apps über KoboldAI-, OpenAI- oder Ollama-artige Endpunkte anbinden

Darauf achten

  • Intel-Macs brauchen einen Build aus dem Quellcode, denn der macOS-Download ist für Apple Silicon
  • Nur die offiziellen Downloads von GitHub oder koboldcpp.net nutzen; das README warnt vor einer gefälschten Website
  • Die AGPL-3.0-Lizenz verlangt, Änderungen zu teilen, wenn Sie die veränderte Version über ein Netzwerk anbieten

Links