ds4은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ds4은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ds4은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. ds4의 마지막 커밋은 2026년 10월 19일입니다.

ds4은(는) 어디에 사용할 수 있나요?

메모리가 넉넉한 Mac에서 DeepSeek 또는 GLM 계열 모델을 로컬로 실행하기. 멀티 GPU CUDA 서버에서 여러 사용자가 이용할 수 있는 로컬 LLM 엔드포인트 제공하기. Pi, OpenCode, Claude Code 같은 클라이언트와 로컬 코딩 에이전트 사용하기. 일부 대형 모델의 추론 내부 구조 실험하기.

ds4는 어떻게 설치하나요?

저장소를 클론합니다: git clone https://github.com/antirez/ds4.git 프로젝트 디렉터리로 이동합니다: cd ds4 사용 중인 플랫폼용으로 빌드합니다(Apple Silicon에서는 Metal): make DeepSeek V4 Flash Q2 모델을 다운로드합니다(96GB 또는 128GB 머신용): ./download_model.sh ds4f-q2

ds4은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/antirez/ds4

antirez/ds4

소비자용 Metal, CUDA 및 ROCm 하드웨어에서 DeepSeek V4 Flash와 일부 대형 모델을 실행하기 위한 경량 네이티브 추론 엔진입니다.

GitHub에서 보기

스타: 23,949
포크: 2,313
열린 이슈: 790
마지막 커밋: 9시간 전

어떤 프로젝트인가요?

DwarfStar는 직접 보유할 수 있는 하드웨어에서 소수의 대형 오픈 웨이트 모델을 실행하도록 만든 작고 독립적인 C 추론 엔진입니다. DeepSeek V4 Flash(실험용 비전 모델 포함), DeepSeek V4.1 Flash, DeepSeek V4 PRO, GLM 5.x 변형 모델, Qwen3.8 Flash Next를 대상으로 합니다. 범용 GGUF 실행기를 지향하지 않으며, 프로젝트 자체에서 생성한 GGUF 파일을 사용합니다.

주요 대상은 Apple Silicon Mac이며, RAM이 더 적은 시스템에서는 SSD 스트리밍을 지원합니다. NVIDIA CUDA는 DGX Spark와 Ada Lovelace 및 L40S 카드가 포함된 멀티 GPU 구성에서 지원하며, ROCm은 Strix Halo 시스템에서 지원합니다. 프로젝트에는 대화형 CLI, HTTP 서버 없이 실행되는 네이티브 코딩 에이전트(ds4-agent), 멀티 세션을 지원하는 HTTP 서버(ds4-server), 기능 회귀 테스트용 eval 도구가 포함되어 있습니다.

프로젝트는 베타 단계이며 변경이 잦습니다. 소비자용 시스템에 맞는 크기의 머신에서 사용할 수 있는 최선의 오픈 웨이트를 기준으로 모델 지원 대상을 선정하며, 코드는 AI 코딩 에이전트의 도움을 받아 일부 개발되고 있습니다.

핵심 기능

01Metal, CUDA 및 ROCm 백엔드를 지원하는 네이티브 C 추론 엔진입니다.
02SSD 스트리밍을 사용하면 RAM보다 큰 모델도 사양이 낮은 머신에서 실행할 수 있습니다.
03Ada Lovelace 및 L40S 카드를 포함한 멀티 GPU CUDA를 지원합니다.
04네이티브 코딩 에이전트와 멀티 세션을 지원하는 OpenAI 스타일 HTTP 서버가 내장되어 있습니다.
05세션을 위한 speculative decoding(MTP)과 KV 캐시 저장 및 복원을 지원합니다.

활용 사례

메모리가 넉넉한 Mac에서 DeepSeek 또는 GLM 계열 모델을 로컬로 실행하기.
멀티 GPU CUDA 서버에서 여러 사용자가 이용할 수 있는 로컬 LLM 엔드포인트 제공하기.
Pi, OpenCode, Claude Code 같은 클라이언트와 로컬 코딩 에이전트 사용하기.
일부 대형 모델의 추론 내부 구조 실험하기.

빠른 시작

1
저장소를 클론합니다
git clone https://github.com/antirez/ds4.git
2
프로젝트 디렉터리로 이동합니다
cd ds4
3
사용 중인 플랫폼용으로 빌드합니다(Apple Silicon에서는 Metal)
make
4
DeepSeek V4 Flash Q2 모델을 다운로드합니다(96GB 또는 128GB 머신용)
./download_model.sh ds4f-q2

사용 전 알아둘 점

베타 품질이며 빠르게 변경되므로 불안정한 동작이나 회귀가 발생할 수 있습니다.
DeepSeek 및 GLM의 Metal 지원에는 96GB 이상이 필요합니다. 용량이 더 작은 Mac에서는 SSD 스트리밍이 필요합니다.
의도적으로 지원 범위를 좁혀 특정 지원 모델과 프로젝트에서 생성한 GGUF 파일만 실행하며, 일반 GGUF 파일은 지원하지 않습니다.
이 소프트웨어는 AI 코딩 에이전트의 상당한 도움을 받아 개발되었습니다.

토픽

#llm-inference #deepseek #metal #cuda #rocm #local-llm #gguf #inference-engine

자주 묻는 질문

ds4은(는) 무엇인가요?: 소비자용 Metal, CUDA 및 ROCm 하드웨어에서 DeepSeek V4 Flash와 일부 대형 모델을 실행하기 위한 경량 네이티브 추론 엔진입니다. DwarfStar는 직접 보유할 수 있는 하드웨어에서 소수의 대형 오픈 웨이트 모델을 실행하도록 만든 작고 독립적인 C 추론 엔진입니다. DeepSeek V4 Flash(실험용 비전 모델 포함), DeepSeek V4.1 Flash, DeepSeek V4 PRO, GLM 5.x 변형 모델, Qwen3.8 Flash Next를 대상으로 합니다. 범용 GGUF 실행기를 지향하지 않으며, 프로젝트 자체에서 생성한 GGUF 파일을 사용합니다.
ds4은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?: ds4은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
ds4은(는) 아직 유지보수되고 있나요?: 활발히 유지보수 중. ds4의 마지막 커밋은 2026년 10월 19일입니다.
ds4은(는) 어디에 사용할 수 있나요?: 메모리가 넉넉한 Mac에서 DeepSeek 또는 GLM 계열 모델을 로컬로 실행하기. 멀티 GPU CUDA 서버에서 여러 사용자가 이용할 수 있는 로컬 LLM 엔드포인트 제공하기. Pi, OpenCode, Claude Code 같은 클라이언트와 로컬 코딩 에이전트 사용하기. 일부 대형 모델의 추론 내부 구조 실험하기.
ds4는 어떻게 설치하나요?: 저장소를 클론합니다: git clone https://github.com/antirez/ds4.git 프로젝트 디렉터리로 이동합니다: cd ds4 사용 중인 플랫폼용으로 빌드합니다(Apple Silicon에서는 Metal): make DeepSeek V4 Flash Q2 모델을 다운로드합니다(96GB 또는 128GB 머신용): ./download_model.sh ds4f-q2
ds4은(는) 어디서 받을 수 있나요?: 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/antirez/ds4

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.