Repolode
제출하기
farshed

farshed/sage

오픈소스 음성 인식과 음성 합성을 사용해 LLM과 대화할 수 있는 Rust 기반 셀프 호스팅 음성 채팅 앱입니다.

GitHub에서 보기
스타
464
포크
38
열린 이슈
2
마지막 커밋
2개월 전

어떤 프로젝트인가요?

Sage는 대규모 언어 모델과 대화할 수 있는 셀프 호스팅 음성 채팅 애플리케이션입니다. 음성을 Whisper로 로컬에서 텍스트로 변환하고, LLM이 모델의 답변을 생성한 뒤 Kokoro 텍스트 음성 변환 모델로 답변을 음성으로 들려주므로 음성 처리 파이프라인을 오프라인에서 실행할 수 있습니다.

텍스트를 생성할 때는 Ollama를 통해 로컬 모델을 실행하거나 서드파티 제공자를 사용할 수 있습니다. Deepseek, OpenAI, Anthropic, Together.ai를 기본 지원하며, .env 파일에서 환경 변수를 설정해 제공자를 전환합니다. Sage는 Docker 컨테이너 또는 네이티브 방식으로 실행할 수 있고, Unix와 Windows용 설치 스크립트도 제공합니다. macOS 네이티브 빌드에서는 Whisper에 CoreML을 사용합니다.

클라우드 음성 서비스에 오디오를 보내지 않고 LLM에 음성 인터페이스를 제공하려는 사용자를 위한 프로젝트입니다. README에서는 Docker에서 Whisper 추론을 실행하면 네이티브 실행보다 느리다고 안내하며, CUDA 지원, 다국어 지원, 구성 가능한 시스템 프롬프트를 향후 작업으로 제시합니다.

핵심 기능

  • 01Whisper를 사용한 로컬 음성-텍스트 변환과 Kokoro를 사용한 텍스트-음성 변환.
  • 02셀프 호스팅 모델용 Ollama와 제공자용 Deepseek, OpenAI, Anthropic, Together.ai를 지원합니다.
  • 03환경 변수를 통해 제공자와 모델을 선택합니다.
  • 04Docker 또는 Unix와 Windows에서 네이티브 방식으로 실행할 수 있습니다.
  • 05macOS에서는 Whisper에 CoreML을 사용합니다.

활용 사례

  • 클라우드 서비스에 오디오를 보내지 않고 음성으로 로컬 Ollama 모델과 대화하기.
  • 이미 사용 중인 LLM 제공자에 음성 인터페이스 추가하기.
  • 일반 소비자용 하드웨어에서 오프라인 음성→LLM→음성 파이프라인 실험하기.

포함된 컬렉션

셀프 호스팅 앱로컬에서 LLM 실행하기AI 영상·오디오 도구

토픽

#voice-assistant#llm#speech-to-text#text-to-speech#whisper#self-hosted#ollama#rust

자주 묻는 질문

sage은(는) 무엇인가요?
오픈소스 음성 인식과 음성 합성을 사용해 LLM과 대화할 수 있는 Rust 기반 셀프 호스팅 음성 채팅 앱입니다. Sage는 대규모 언어 모델과 대화할 수 있는 셀프 호스팅 음성 채팅 애플리케이션입니다. 음성을 Whisper로 로컬에서 텍스트로 변환하고, LLM이 모델의 답변을 생성한 뒤 Kokoro 텍스트 음성 변환 모델로 답변을 음성으로 들려주므로 음성 처리 파이프라인을 오프라인에서 실행할 수 있습니다.
sage은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
sage은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
sage은(는) 아직 유지보수되고 있나요?
6개월 이내 업데이트. sage의 마지막 커밋은 2026년 9월 16일입니다.
sage은(는) 어디에 사용할 수 있나요?
클라우드 서비스에 오디오를 보내지 않고 음성으로 로컬 Ollama 모델과 대화하기. 이미 사용 중인 LLM 제공자에 음성 인터페이스 추가하기. 일반 소비자용 하드웨어에서 오프라인 음성→LLM→음성 파이프라인 실험하기.
sage은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/farshed/sage

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트