Código de evaluación y referencias a los datos de los benchmarks MMMU y MMMU-Pro, que evalúan modelos multimodales con preguntas universitarias de distintas disciplinas.
Picovoice/speech-to-text-benchmark
Framework minimalista y extensible para evaluar motores de conversión de voz a texto según WER, CER, errores de puntuación, latencia, consumo de CPU y tamaño del modelo.
- Estrellas
- 699
- Forks
- 73
- Issues abiertos
- 0
- Último commit
- hace 11 horas
¿Qué es?
Este proyecto es un framework de evaluación comparativa para comparar motores de conversión de voz a texto con los mismos conjuntos de datos de audio. Ejecuta motores por lotes y en streaming, incluidos servicios en la nube como Amazon Transcribe, Azure Speech-to-Text y Google Speech-to-Text, y modelos locales como Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron y Picovoice Cheetah y Leopard, con corpus comunes como LibriSpeech, Common Voice, TED-LIUM y Fleurs.
Los resultados se presentan en varios aspectos: tasa de error por palabra, tasa de error por carácter para coreano y japonés, tasa de error de puntuación para puntos y signos de interrogación, latencia de emisión de palabras en motores en streaming, horas-núcleo de CPU por cada cien horas de audio y tamaño total de los modelos. Los resultados se desglosan por idioma: inglés, francés, alemán, italiano, español, portugués, coreano y japonés.
El código es una herramienta de línea de comandos en Python. Cada motor se selecciona con una opción, y hay scripts independientes para medir la precisión y la latencia. Los conjuntos de datos deben descargarse localmente y los motores en la nube requieren las credenciales de la cuenta correspondiente.
Funciones clave
- 01Compara motores por lotes y en streaming con los mismos conjuntos de datos
- 02Mide WER, CER y la tasa de error de puntuación
- 03Informa la latencia de emisión de palabras de los motores en streaming
- 04Mide las horas-núcleo de CPU y el tamaño de los modelos locales
- 05Cubre inglés, francés, alemán, italiano, español, portugués, coreano y japonés
Casos de uso
- Elegir un motor de reconocimiento de voz para un producto comparando precisión y latencia
- Evaluar modelos sin conexión frente a APIs en la nube en tu propio idioma
- Comparar el costo computacional y el tamaño del modelo para implementarlo en el dispositivo
- Añadir un nuevo motor de STT a un flujo de evaluación uniforme
Inicio rápido
- 1
Instala FFmpeg
- 2
Instala los requisitos de Python
pip3 install -r requirements.txt - 3
Descarga los conjuntos de datos de referencia
- 4
Ejecuta benchmark.py con el motor, el conjunto de datos y el idioma que elijas, tal como se describe en el README
Antes de usarlo
- El benchmark se desarrolló y probó únicamente en Ubuntu 22.04 con Python 3.12.
- Muchos motores requieren cuentas en la nube o claves de API, como Amazon, Azure, Google, IBM Watson y Picovoice.
- Debes descargar por tu cuenta los grandes conjuntos de datos de voz antes de ejecutar el benchmark.
En colecciones
Temas
Preguntas frecuentes
- ¿Qué es speech-to-text-benchmark?
- Framework minimalista y extensible para evaluar motores de conversión de voz a texto según WER, CER, errores de puntuación, latencia, consumo de CPU y tamaño del modelo. Este proyecto es un framework de evaluación comparativa para comparar motores de conversión de voz a texto con los mismos conjuntos de datos de audio. Ejecuta motores por lotes y en streaming, incluidos servicios en la nube como Amazon Transcribe, Azure Speech-to-Text y Google Speech-to-Text, y modelos locales como Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron y Picovoice Cheetah y Leopard, con corpus comunes como LibriSpeech, Common Voice, TED-LIUM y Fleurs.
- ¿speech-to-text-benchmark es gratuito? ¿Qué licencia tiene?
- speech-to-text-benchmark es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
- ¿speech-to-text-benchmark sigue mantenido?
- Mantenimiento activo. El último commit de speech-to-text-benchmark fue el 6 nov 2026.
- ¿Para qué puedo usar speech-to-text-benchmark?
- Elegir un motor de reconocimiento de voz para un producto comparando precisión y latencia Evaluar modelos sin conexión frente a APIs en la nube en tu propio idioma Comparar el costo computacional y el tamaño del modelo para implementarlo en el dispositivo Añadir un nuevo motor de STT a un flujo de evaluación uniforme
- ¿Cómo se instala speech-to-text-benchmark?
- Instala FFmpeg Instala los requisitos de Python: pip3 install -r requirements.txt Descarga los conjuntos de datos de referencia Ejecuta benchmark.py con el motor, el conjunto de datos y el idioma que elijas, tal como se describe en el README
- ¿Dónde consigo speech-to-text-benchmark?
- El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Picovoice/speech-to-text-benchmark
Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.
Proyectos relacionados
Dictado por voz con pulsar para hablar en escritorio y Android: mantén presionada una tecla de acceso rápido, habla y el texto se pega donde esté el cursor.
Herramienta de dictado por voz sin conexión para Windows: mantén pulsado CapsLock o el botón lateral X2 del ratón para hablar y suéltalo para escribir el texto reconocido.
Aplicación para Linux de escritorio y Sailfish OS para tomar notas, leer y traducir, con reconocimiento de voz, síntesis de voz y traducción automática sin conexión.
Herramienta de código abierto de voz a texto basada en Whisper, con marcas de tiempo por palabra mediante alineación forzada y diarización de hablantes opcional.
Kit open source de reconocimiento de voz para ASR offline y en streaming, con VAD, puntuación, etiquetas de hablante y servicio compatible con OpenAI.