Код оценки и ссылки на данные бенчмарков MMMU и MMMU-Pro, проверяющих мультимодальные модели на междисциплинарных вопросах университетского уровня.
Picovoice/speech-to-text-benchmark
Минималистичный расширяемый фреймворк для сравнения движков распознавания речи по WER, CER, ошибкам пунктуации, задержке, нагрузке на CPU и размеру модели.
- Звёзды
- 699
- Форки
- 73
- Открытые issues
- 0
- Последний коммит
- вчера
Что это?
Фреймворк для сравнения движков распознавания речи на одних и тех же аудиодатасетах. Он запускает пакетные и потоковые движки, включая облачные сервисы Amazon Transcribe, Azure Speech-to-Text и Google Speech-to-Text, а также локальные модели Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron, Picovoice Cheetah и Leopard на общих корпусах, таких как LibriSpeech, Common Voice, TED-LIUM и Fleurs.
Результаты оцениваются по нескольким показателям: частота ошибок слов, частота ошибок символов для корейского и японского языков, частота ошибок пунктуации для точек и вопросительных знаков, задержка вывода слов для потоковых движков, число процессор-часов на каждые сто часов аудио и совокупный размер моделей. Результаты приводятся отдельно по языкам: английскому, французскому, немецкому, итальянскому, испанскому, португальскому, корейскому и японскому.
Это инструмент командной строки на Python. Каждый движок выбирается флагом, а для измерения точности и задержки предусмотрены отдельные скрипты. Датасеты нужно скачать локально, а для облачных движков необходимы соответствующие учётные данные аккаунта.
Ключевые возможности
- 01Сравнивает пакетные и потоковые движки на одних и тех же датасетах
- 02Измеряет WER, CER и частоту ошибок пунктуации
- 03Показывает задержку вывода слов для потоковых движков
- 04Измеряет число процессор-часов и размер моделей для локальных движков
- 05Поддерживает английский, французский, немецкий, итальянский, испанский, португальский, корейский и японский языки
Сценарии использования
- Выбрать движок распознавания речи для продукта, сравнив точность и задержку
- Оценить локальные модели и сравнить их с облачными API для нужного языка
- Сравнить вычислительные затраты и размер моделей для развёртывания на устройстве
- Добавить новый STT-движок в единый процесс оценки
Быстрый старт
- 1
Установите FFmpeg
- 2
Установите зависимости Python
pip3 install -r requirements.txt - 3
Скачайте наборы данных для бенчмарка
- 4
Запустите benchmark.py, указав выбранные движок, набор данных и язык, как описано в README
Что важно знать
- Бенчмарк разработан и протестирован только на Ubuntu 22.04 с Python 3.12.
- Для многих движков нужны облачные аккаунты или API-ключи, например для Amazon, Azure, Google, IBM Watson и Picovoice.
- Перед запуском бенчмарка необходимо самостоятельно скачать большие наборы речевых данных.
В подборках
Темы
Частые вопросы
- Что такое speech-to-text-benchmark?
- Минималистичный расширяемый фреймворк для сравнения движков распознавания речи по WER, CER, ошибкам пунктуации, задержке, нагрузке на CPU и размеру модели. Фреймворк для сравнения движков распознавания речи на одних и тех же аудиодатасетах. Он запускает пакетные и потоковые движки, включая облачные сервисы Amazon Transcribe, Azure Speech-to-Text и Google Speech-to-Text, а также локальные модели Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron, Picovoice Cheetah и Leopard на общих корпусах, таких как LibriSpeech, Common Voice, TED-LIUM и Fleurs.
- speech-to-text-benchmark можно использовать бесплатно? Какая у него лицензия?
- speech-to-text-benchmark распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- speech-to-text-benchmark всё ещё поддерживается?
- Активно поддерживается. Последний коммит в speech-to-text-benchmark — 6 нояб. 2026 г..
- Для чего можно использовать speech-to-text-benchmark?
- Выбрать движок распознавания речи для продукта, сравнив точность и задержку Оценить локальные модели и сравнить их с облачными API для нужного языка Сравнить вычислительные затраты и размер моделей для развёртывания на устройстве Добавить новый STT-движок в единый процесс оценки
- Как установить speech-to-text-benchmark?
- Установите FFmpeg Установите зависимости Python: pip3 install -r requirements.txt Скачайте наборы данных для бенчмарка Запустите benchmark.py, указав выбранные движок, набор данных и язык, как описано в README
- Где скачать speech-to-text-benchmark?
- Исходный код и инструкции по установке — на GitHub: https://github.com/Picovoice/speech-to-text-benchmark
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Голосовой ввод по push-to-talk для компьютеров и Android: зажмите горячую клавишу, говорите — и текст вставится в место, где находится курсор.
Офлайн-инструмент для голосового ввода в Windows: удерживайте CapsLock или боковую кнопку мыши X2, чтобы говорить, и отпустите, чтобы вставить распознанный текст.
Приложение для Linux и Sailfish OS: заметки, чтение и перевод с офлайн-распознаванием и синтезом речи, а также машинным переводом.
Распознавание речи с открытым исходным кодом на базе Whisper: точные временные метки для каждого слова и опциональная диаризация говорящих.
Открытый набор инструментов для офлайн-распознавания речи и ASR в потоковом режиме, с VAD, расстановкой знаков препинания, метками говорящих и совместимым с OpenAI сервером.