Repolode
Предложить
ggml-org

ggml-org/whisper.cpp

Порт модели распознавания речи OpenAI Whisper на C/C++ для быстрого автономного преобразования речи в текст на CPU и GPU без зависимостей.

Open source альтернатива:Otter.aiGoogle Cloud Speech-to-Text

Открыть на GitHub
Звёзды
54,500
Форки
6,271
Открытые issues
353
Последний коммит
24 часа назад

Что это?

whisper.cpp — это реализация модели автоматического распознавания речи OpenAI Whisper на чистом C/C++. Она выполняет транскрибацию локально, без Python и тяжёлых зависимостей времени выполнения, поэтому её удобно встраивать в настольные, мобильные и встраиваемые приложения.

Проект поддерживает множество аппаратных платформ: Apple Silicon через Metal и Core ML, NVIDIA через CUDA, AMD через HIP/ROCm, а также Vulkan, AVX, ARM NEON, OpenBLAS, OpenVINO и несколько NPU. Модели хранятся в собственном формате ggml, а целочисленная квантизация позволяет сократить расход памяти и места на диске. Можно включить обнаружение голосовой активности, чтобы пропускать тишину перед транскрибацией.

Помимо инструмента whisper-cli, в репозитории есть HTTP-сервер с API в стиле OpenAI, пример потоковой передачи звука с микрофона в реальном времени и биндинги для таких языков, как Rust, Go, Ruby, JavaScript и .NET. Проект также собирается в WebAssembly и работает на iOS, Android и Raspberry Pi.

Ключевые возможности

  • 01Полностью работает автономно на чистом C/C++ и не требует зависимостей.
  • 02Ускоряет инференс с помощью бэкендов Metal, Core ML, CUDA, Vulkan, HIP/ROCm и OpenVINO.
  • 03Поддерживает целочисленную квантизацию, сокращающую размер модели и расход памяти.
  • 04Включает обнаружение голосовой активности, чтобы обрабатывать только фрагменты с речью.
  • 05Предоставляет HTTP-сервер, потоковую передачу в реальном времени и языковые биндинги.

Сценарии использования

  • Добавление автономного преобразования речи в текст в настольное или мобильное приложение без облачного API.
  • Транскрибация аудиофайлов из командной строки или с помощью пакетных скриптов.
  • Запуск собственного сервера транскрибации на локальном CPU или GPU.
  • Создание голосового управления или ассистента на встраиваемом устройстве, например Raspberry Pi.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/ggml-org/whisper.cpp.git
  2. 2

    Перейдите в каталог проекта

    cd whisper.cpp
  3. 3

    Скачайте модель base.en

    sh ./models/download-ggml-model.sh base.en
  4. 4

    Соберите whisper-cli и транскрибируйте пример файла

    cmake -B build && cmake --build build -j --config Release && ./build/bin/whisper-cli -f samples/jfk.wav

Что важно знать

  • Пример whisper-cli принимает только WAV-файлы с глубиной 16 бит, поэтому файлы в других форматах нужно предварительно преобразовать, например с помощью ffmpeg.
  • Для некоторых способов аппаратного ускорения, таких как Core ML, OpenVINO и AMD NPU, требуются дополнительная настройка и специальное оборудование.

Темы

#speech-recognition#speech-to-text#whisper#c-plus-plus#inference#offline#transcription#openai#transformer

Частые вопросы

Что такое whisper.cpp?
Порт модели распознавания речи OpenAI Whisper на C/C++ для быстрого автономного преобразования речи в текст на CPU и GPU без зависимостей. whisper.cpp — это реализация модели автоматического распознавания речи OpenAI Whisper на чистом C/C++. Она выполняет транскрибацию локально, без Python и тяжёлых зависимостей времени выполнения, поэтому её удобно встраивать в настольные, мобильные и встраиваемые приложения.
whisper.cpp можно использовать бесплатно? Какая у него лицензия?
whisper.cpp распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
whisper.cpp всё ещё поддерживается?
Активно поддерживается. Последний коммит в whisper.cpp — 19 окт. 2026 г..
Для чего можно использовать whisper.cpp?
Добавление автономного преобразования речи в текст в настольное или мобильное приложение без облачного API. Транскрибация аудиофайлов из командной строки или с помощью пакетных скриптов. Запуск собственного сервера транскрибации на локальном CPU или GPU. Создание голосового управления или ассистента на встраиваемом устройстве, например Raspberry Pi.
Как установить whisper.cpp?
Клонируйте репозиторий: git clone https://github.com/ggml-org/whisper.cpp.git Перейдите в каталог проекта: cd whisper.cpp Скачайте модель base.en: sh ./models/download-ggml-model.sh base.en Соберите whisper-cli и транскрибируйте пример файла: cmake -B build && cmake --build build -j --config Release && ./build/bin/whisper-cli -f samples/jfk.wav
Где скачать whisper.cpp?
Исходный код и инструкции по установке — на GitHub: https://github.com/ggml-org/whisper.cpp

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты