LostRuins/koboldcpp

어떤 프로젝트인가요?

핵심 기능

• 01GGUF 텍스트 모델을 CPU 또는 GPU에서 실행하며, GPU 전체 또는 일부 오프로딩을 지원합니다.
• 02설치나 외부 의존성 없이 단일 실행 파일로 제공됩니다.
• 03메모리, 월드 정보, 캐릭터 카드 기능을 갖춘 KoboldAI Lite 및 llama.cpp 웹 UI가 포함되어 있습니다.
• 04호환되는 모델 파일로 이미지, 동영상, 음성, 음악을 생성합니다.
• 05OpenAI, Ollama, KoboldAI 및 기타 호환 API 엔드포인트를 제공합니다.

활용 사례

• 자신의 컴퓨터에서 완전히 로컬로 실행되는 비공개 AI 비서와 대화하기.
• 캐릭터, 월드 정보, 저장한 스토리를 활용해 역할극과 인터랙티브 픽션을 즐기기.
• 기존 OpenAI 또는 Ollama 호환 앱을 로컬 모델 서버에 연결하기.
• 텍스트 모델과 함께 로컬 이미지·음성·음악 생성을 시험하기.

빠른 시작

1. 1

   최신 릴리스 페이지에서 사용 중인 OS에 맞는 KoboldCpp 실행 파일을 다운로드합니다

2. 2

   Hugging Face에서 GGUF 텍스트 모델을 별도로 다운로드합니다

3. 3

   모델 파일을 지정해 KoboldCpp를 실행합니다(Linux 예시)

   ./koboldcpp-linux-x64 --model /path/to/model.gguf
4. 4

   브라우저에서 localhost의 포트 5001에 접속해 Web UI를 엽니다

사용 전 알아둘 점

• !AGPL-3.0 코피레프트 라이선스가 적용됩니다. 수정한 소스 코드를 배포하거나 네트워크를 통해 제공하는 경우 해당 소스 코드를 공유해야 합니다.
• !모델 파일은 포함되어 있지 않으므로 별도로 다운로드해야 합니다.

포함된 컬렉션

토픽

자주 묻는 질문

koboldcpp은(는) 무엇인가요?

GGUF 언어 모델을 로컬에서 실행하는 단일 파일 런처로, 텍스트·이미지·음성·음악 생성과 KoboldAI 웹 UI를 지원합니다. KoboldCpp는 GGUF 대규모 언어 모델을 별도 설치 없이 자신의 컴퓨터에서 CPU 또는 GPU로 실행합니다. Windows, Linux, macOS용 단일 실행 파일로 제공됩니다. 모델을 불러오면 채팅, 역할극, 어드벤처, 스토리 작성을 위한 KoboldAI Lite 웹 UI와 llama.cpp 웹 UI, 그 밖의 여러 인터페이스를 제공합니다.

koboldcpp은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

koboldcpp은(는) AGPL-3.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

koboldcpp은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. koboldcpp의 마지막 커밋은 2026년 11월 5일입니다.

koboldcpp은(는) 어디에 사용할 수 있나요?

자신의 컴퓨터에서 완전히 로컬로 실행되는 비공개 AI 비서와 대화하기. 캐릭터, 월드 정보, 저장한 스토리를 활용해 역할극과 인터랙티브 픽션을 즐기기. 기존 OpenAI 또는 Ollama 호환 앱을 로컬 모델 서버에 연결하기. 텍스트 모델과 함께 로컬 이미지·음성·음악 생성을 시험하기.

koboldcpp는 어떻게 설치하나요?

최신 릴리스 페이지에서 사용 중인 OS에 맞는 KoboldCpp 실행 파일을 다운로드합니다 Hugging Face에서 GGUF 텍스트 모델을 별도로 다운로드합니다 모델 파일을 지정해 KoboldCpp를 실행합니다(Linux 예시): ./koboldcpp-linux-x64 --model /path/to/model.gguf 브라우저에서 localhost의 포트 5001에 접속해 Web UI를 엽니다

koboldcpp은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/LostRuins/koboldcpp