Repolode
farshed

farshed/sage

一个可自托管的语音对话应用,用开源语音识别和语音合成与大语言模型对话。

Star
464
Fork
38
未关闭 Issue
2
最近提交
2个月前

这是什么?

Sage 是一个可自托管的语音对话应用,用于与大语言模型进行语音交流。语音识别使用 Whisper 在本地完成,模型回复由 LLM 生成,再通过 Kokoro 语音合成模型朗读出来,语音链路可以离线运行。

文本生成既可以通过 Ollama 运行本地模型,也可以接入第三方服务。开箱支持 Deepseek、OpenAI、Anthropic 和 Together.ai,切换时只需修改 .env 文件中的环境变量。Sage 可以用 Docker 容器运行,也可以原生运行,并提供 Unix 和 Windows 的安装脚本;macOS 原生构建下 Whisper 使用 CoreML 加速。

它适合希望为 LLM 添加语音交互、又不想把音频交给云端语音服务的用户。Docker 下 Whisper 推理比原生慢,CUDA 支持、多语言和可自定义系统提示词等功能目前仍在计划中。

核心功能

  • 01使用 Whisper 进行本地语音识别,使用 Kokoro 进行语音合成。
  • 02支持通过 Ollama 运行自托管模型,也支持 Deepseek、OpenAI、Anthropic 和 Together.ai。
  • 03服务商和模型通过环境变量配置。
  • 04可通过 Docker 运行,也可在 Unix 和 Windows 上原生运行。
  • 05macOS 上 Whisper 使用 CoreML 加速。

适用场景

  • 在不把音频发送到云端的前提下,用语音与本地 Ollama 模型对话。
  • 为已经在使用的 LLM 服务添加语音交互界面。
  • 在普通硬件上试验离线的语音识别、大模型、语音合成链路。

收录于专题

标签

常见问题

sage 是什么?
一个可自托管的语音对话应用,用开源语音识别和语音合成与大语言模型对话。 Sage 是一个可自托管的语音对话应用,用于与大语言模型进行语音交流。语音识别使用 Whisper 在本地完成,模型回复由 LLM 生成,再通过 Kokoro 语音合成模型朗读出来,语音链路可以离线运行。
sage 可以免费使用吗?用的什么许可证?
sage 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
sage 还在维护吗?
半年内有更新。sage 最近一次提交是在 2026年9月16日。
sage 适合用来做什么?
在不把音频发送到云端的前提下,用语音与本地 Ollama 模型对话。 为已经在使用的 LLM 服务添加语音交互界面。 在普通硬件上试验离线的语音识别、大模型、语音合成链路。
在哪里获取 sage?
源代码和安装说明在 GitHub 上:https://github.com/farshed/sage

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目