Repolode
farshed

farshed/sage

Самостоятельно размещаемое приложение для голосового общения с LLM на Rust, использующее распознавание речи и синтез речи с открытым исходным кодом.

Звёзды
464
Форки
38
Открытые issues
2
Последний коммит
2 месяца назад

Что это?

Sage — приложение для голосового общения с большими языковыми моделями, которое можно развернуть самостоятельно. Речь локально расшифровывается с помощью Whisper, ответ генерирует LLM, а затем он озвучивается моделью синтеза речи Kokoro — так весь процесс обработки речи может работать офлайн.

Для генерации текста можно запустить локальную модель через Ollama или воспользоваться сторонним провайдером. Deepseek, OpenAI, Anthropic и Together.ai поддерживаются из коробки; переключение между ними настраивается с помощью переменных окружения в файле .env. Sage можно запустить в Docker-контейнере или нативно; для Unix и Windows предусмотрены скрипты настройки. В нативной сборке для macOS Whisper использует CoreML.

Проект рассчитан на тех, кому нужен голосовой интерфейс для LLM без отправки аудио в облачный сервис распознавания речи. В README отмечено, что инференс Whisper в Docker работает медленнее, чем нативный, а поддержка CUDA, нескольких языков и настраиваемого системного промпта указана в планах.

Ключевые возможности

  • 01Локальное преобразование речи в текст с помощью Whisper и текста в речь с помощью Kokoro.
  • 02Поддерживаются Ollama для самостоятельно размещаемых моделей, а также Deepseek, OpenAI, Anthropic и Together.ai в качестве провайдеров.
  • 03Провайдер и модель выбираются с помощью переменных окружения.
  • 04Работает в Docker или нативно на Unix и Windows.
  • 05На macOS для Whisper используется CoreML.

Сценарии использования

  • Голосовое общение с локальной моделью Ollama без отправки аудио в облачный сервис.
  • Добавление голосового интерфейса к уже используемому провайдеру LLM.
  • Эксперименты с офлайн-конвейером «речь — LLM — речь» на обычном пользовательском оборудовании.

В подборках

Темы

Частые вопросы

Что такое sage?
Самостоятельно размещаемое приложение для голосового общения с LLM на Rust, использующее распознавание речи и синтез речи с открытым исходным кодом. Sage — приложение для голосового общения с большими языковыми моделями, которое можно развернуть самостоятельно. Речь локально расшифровывается с помощью Whisper, ответ генерирует LLM, а затем он озвучивается моделью синтеза речи Kokoro — так весь процесс обработки речи может работать офлайн.
sage можно использовать бесплатно? Какая у него лицензия?
sage распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
sage всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в sage — 16 сент. 2026 г..
Для чего можно использовать sage?
Голосовое общение с локальной моделью Ollama без отправки аудио в облачный сервис. Добавление голосового интерфейса к уже используемому провайдеру LLM. Эксперименты с офлайн-конвейером «речь — LLM — речь» на обычном пользовательском оборудовании.
Где скачать sage?
Исходный код и инструкции по установке — на GitHub: https://github.com/farshed/sage

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Приложение для голосового ввода с открытым исходным кодом на Mac: зажмите Fn, продиктуйте текст — и его очищенная версия появится там, где находится курсор.

672+6 за неделю115TypeScriptMITОбновлён в прошлом месяце

Открытый голосовой помощник для Android, который обрабатывает запросы на устройстве и отвечает голосом и на экране, а также включает набор встроенных навыков.

1,5 тыс.+6 за неделю192KotlinGPL-3.0Обновлён 14 дней назад