KoboldCpp

내장 웹 UI로 GGUF 모델을 실행하는 단일 파일 앱. 이미지, 비디오, 음성, 음악 생성도 지원합니다.

  • 로컬 실행
  • AGPL-3.0 · 오픈소스
  • macOS, Windows, Linux
  • 검증

KoboldCpp는 자신의 컴퓨터에서 GGUF 언어 모델을 실행하는 무료 오픈소스 소프트웨어입니다. llama.cpp 기반이며 KoboldAI에서 영감을 받았고, 설치 없이 하나의 실행 파일로 배포됩니다. Windows, Linux, Apple Silicon용 macOS를 위한 바로 실행되는 다운로드가 있습니다. GGUF 모델은 따로 내려받고, 런처에서 고른 뒤, 브라우저에서 내장 KoboldAI Lite 웹 UI(localhost:5001)를 엽니다.

텍스트 외에 README는 이미지 생성·편집(Stable Diffusion, SDXL, Flux, Qwen Image, Z-Image 등), 비디오 생성(Wan 2.2, LTX 2.3, MiniMax H3), Whisper 기반 음성 인식, Qwen3-TTS를 포함한 음성 합성, 음악 생성을 나열합니다. MCP 서버 지원, 도구 호출, 웹 검색, 내장 에이전트도 제공하며, KoboldAI, OpenAI, Ollama API와 호환되는 엔드포인트를 갖추고 있습니다.

원래 이야기 쓰기와 롤플레이 도구로 시작했고, 이를 위한 메모리, 월드 정보, 캐릭터 카드 기능은 여전히 강점입니다. 라이선스는 AGPL-3.0으로, 수정한 버전을 네트워크를 통해 사용자에게 제공하면 변경 사항을 공유해야 합니다. README는 koboldcpp.com이 가짜 사이트라고 경고하며, 공식 채널은 GitHub 릴리스와 koboldcpp.net뿐입니다.

적합한 용도

  • 아무것도 설치하지 않고 GGUF 모델 실행
  • 풍부한 내장 인터페이스로 이야기 쓰기와 롤플레이
  • 텍스트, 이미지, 음성 등을 한 앱에서
  • KoboldAI·OpenAI·Ollama 스타일 엔드포인트로 다른 앱 연결

주의할 점

  • macOS 다운로드는 Apple Silicon용이므로 Intel Mac은 소스에서 빌드 필요
  • README가 가짜 웹사이트를 경고하므로 GitHub 또는 koboldcpp.net의 공식 다운로드만 사용
  • AGPL-3.0은 수정 후 네트워크로 제공할 때 공유 의무가 있음

링크