Repolode
Предложить
SYSTRAN

SYSTRAN/faster-whisper

Более быстрая реализация модели распознавания речи Whisper от OpenAI на движке инференса CTranslate2 с меньшим потреблением памяти и 8-битным квантованием.

Open source альтернатива:Otter.aiRev

Открыть на GitHub
Звёзды
25,987
Форки
2,152
Открытые issues
20
Последний коммит
4 дня назад

Что это?

faster-whisper — это реализация модели распознавания речи Whisper от OpenAI на Python, работающая на CTranslate2 — быстром движке инференса для моделей Transformer. Она предназначена для разработчиков, которым нужно распознавать речь с помощью Whisper, тратя на инференс меньше времени и памяти. Поддерживается 8-битное квантование как на CPU, так и на GPU.

Библиотека предоставляет класс WhisperModel, который загружает модели по названию размера, например large-v3 или distil-large-v3, и скачивает преобразованные веса с Hugging Face Hub. Результат распознавания — генератор сегментов с временными метками. Среди доступных параметров — метки времени для отдельных слов, фильтрация тишины на основе Silero VAD и BatchedInferencePipeline для пакетной обработки на GPU или CPU. Для декодирования аудио используется PyAV, поэтому отдельно устанавливать FFmpeg не нужно.

Скрипт конвертации преобразует модели Whisper в формате Transformers, в том числе дообученные, в формат CTranslate2. Для работы на GPU требуются библиотеки NVIDIA cuBLAS и cuDNN; в документации приведены примечания для CUDA 11 и 12.

Ключевые возможности

  • 01Запускает модели Whisper на CTranslate2 и потребляет меньше памяти, чем исходная реализация.
  • 02Поддерживает квантование FP16 и INT8 как на GPU, так и на CPU.
  • 03Предоставляет временные метки для слов и сегментов.
  • 04Фильтрует тишину с помощью Silero VAD, пропуская тихие участки аудио.
  • 05Предлагает конвейер пакетного инференса, который можно использовать вместо transcribe без изменения остального кода.
  • 06Преобразует модели Whisper в формате Transformers, в том числе дообученные, в формат CTranslate2.

Сценарии использования

  • Распознавание записей встреч или подкастов на локальном сервере с GPU или CPU.
  • Добавление распознавания речи в Python-приложение или серверную службу.
  • Создание субтитров с временными метками для отдельных слов в видео.
  • Построение конвейера транскрибации в реальном времени или с минимальной задержкой на основе Whisper.

Быстрый старт

  1. 1

    Установите пакет из PyPI

    pip install faster-whisper
  2. 2

    Расшифруйте аудиофайл с помощью Python API (полный код см. в разделе Usage)

Что важно знать

  • Для использования GPU необходимо отдельно установить библиотеки NVIDIA cuBLAS для CUDA 12 и cuDNN 9.
  • Последняя версия ctranslate2 поддерживает только CUDA 12 и cuDNN 9, поэтому для более старых конфигураций CUDA требуется более ранняя версия ctranslate2.

Темы

#speech-to-text#whisper#speech-recognition#ctranslate2#quantization#transcription#inference#deep-learning#openai#transformer

Частые вопросы

Что такое faster-whisper?
Более быстрая реализация модели распознавания речи Whisper от OpenAI на движке инференса CTranslate2 с меньшим потреблением памяти и 8-битным квантованием. faster-whisper — это реализация модели распознавания речи Whisper от OpenAI на Python, работающая на CTranslate2 — быстром движке инференса для моделей Transformer. Она предназначена для разработчиков, которым нужно распознавать речь с помощью Whisper, тратя на инференс меньше времени и памяти. Поддерживается 8-битное квантование как на CPU, так и на GPU.
faster-whisper можно использовать бесплатно? Какая у него лицензия?
faster-whisper распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
faster-whisper всё ещё поддерживается?
Активно поддерживается. Последний коммит в faster-whisper — 16 окт. 2026 г..
Для чего можно использовать faster-whisper?
Распознавание записей встреч или подкастов на локальном сервере с GPU или CPU. Добавление распознавания речи в Python-приложение или серверную службу. Создание субтитров с временными метками для отдельных слов в видео. Построение конвейера транскрибации в реальном времени или с минимальной задержкой на основе Whisper.
Как установить faster-whisper?
Установите пакет из PyPI: pip install faster-whisper Расшифруйте аудиофайл с помощью Python API (полный код см. в разделе Usage)
Где скачать faster-whisper?
Исходный код и инструкции по установке — на GitHub: https://github.com/SYSTRAN/faster-whisper

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты