Repolode
Picovoice

Picovoice/speech-to-text-benchmark

음성 텍스트 변환 엔진의 WER, CER, 문장 부호 오류율, 지연 시간, CPU 비용, 모델 크기를 벤치마킹하는 간결하고 확장 가능한 프레임워크입니다.

스타
699
포크
73
열린 이슈
0
마지막 커밋
23시간 전

어떤 프로젝트인가요?

같은 오디오 데이터셋에서 음성 텍스트 변환 엔진을 비교하는 벤치마킹 프레임워크입니다. Amazon Transcribe, Azure Speech-to-Text, Google Speech-to-Text 같은 클라우드 서비스와 Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron, Picovoice Cheetah 및 Leopard 같은 로컬 모델을 비롯해 배치 및 스트리밍 엔진을 실행하고, LibriSpeech, Common Voice, TED-LIUM, Fleurs 같은 공통 코퍼스를 대상으로 평가합니다.

결과는 여러 지표로 보고합니다. 단어 오류율, 한국어와 일본어의 문자 오류율, 마침표와 물음표에 대한 문장 부호 오류율, 스트리밍 엔진의 단어 출력 지연 시간, 오디오 100시간당 CPU 코어 시간, 전체 모델 크기를 측정합니다. 영어, 프랑스어, 독일어, 이탈리아어, 스페인어, 포르투갈어, 한국어, 일본어별로 결과를 나눠 제공합니다.

코드베이스는 Python 명령줄 도구입니다. 플래그로 각 엔진을 선택하며, 정확도와 지연 시간 측정에는 별도의 스크립트를 사용합니다. 데이터셋은 로컬에 다운로드해야 하며, 클라우드 엔진을 사용하려면 해당 계정의 인증 정보가 필요합니다.

핵심 기능

  • 01같은 데이터셋에서 배치 및 스트리밍 엔진을 비교합니다
  • 02WER, CER, 문장 부호 오류율을 측정합니다
  • 03스트리밍 엔진의 단어 출력 지연 시간을 보고합니다
  • 04로컬 엔진의 CPU 코어 시간과 모델 크기를 측정합니다
  • 05영어, 프랑스어, 독일어, 이탈리아어, 스페인어, 포르투갈어, 한국어, 일본어를 지원합니다

활용 사례

  • 정확도와 지연 시간을 비교해 제품에 사용할 음성 인식 엔진을 선택합니다
  • 사용하려는 언어의 오프라인 모델을 클라우드 API와 비교 평가합니다
  • 온디바이스 배포를 위해 연산 비용과 모델 크기를 비교합니다
  • 일관된 평가 파이프라인에 새로운 STT 엔진을 추가합니다

빠른 시작

  1. 1

    FFmpeg 설치

  2. 2

    Python 요구 사항 설치

    pip3 install -r requirements.txt
  3. 3

    벤치마크 데이터셋 다운로드

  4. 4

    README의 설명에 따라 선택한 엔진, 데이터셋, 언어를 지정해 benchmark.py 실행

사용 전 알아둘 점

  • 이 벤치마크는 Ubuntu 22.04와 Python 3.12에서만 개발 및 테스트되었습니다.
  • Amazon, Azure, Google, IBM Watson, Picovoice 등 많은 엔진은 클라우드 계정이나 API 키가 필요합니다.
  • 벤치마크를 실행하기 전에 대용량 음성 데이터셋을 직접 다운로드해야 합니다.

포함된 컬렉션

토픽

자주 묻는 질문

speech-to-text-benchmark은(는) 무엇인가요?
음성 텍스트 변환 엔진의 WER, CER, 문장 부호 오류율, 지연 시간, CPU 비용, 모델 크기를 벤치마킹하는 간결하고 확장 가능한 프레임워크입니다. 같은 오디오 데이터셋에서 음성 텍스트 변환 엔진을 비교하는 벤치마킹 프레임워크입니다. Amazon Transcribe, Azure Speech-to-Text, Google Speech-to-Text 같은 클라우드 서비스와 Whisper, Whisper.cpp, Vosk, Moonshine, Nemotron, Picovoice Cheetah 및 Leopard 같은 로컬 모델을 비롯해 배치 및 스트리밍 엔진을 실행하고, LibriSpeech, Common Voice, TED-LIUM, Fleurs 같은 공통 코퍼스를 대상으로 평가합니다.
speech-to-text-benchmark은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
speech-to-text-benchmark은(는) Apache-2.0 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
speech-to-text-benchmark은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. speech-to-text-benchmark의 마지막 커밋은 2026년 11월 6일입니다.
speech-to-text-benchmark은(는) 어디에 사용할 수 있나요?
정확도와 지연 시간을 비교해 제품에 사용할 음성 인식 엔진을 선택합니다 사용하려는 언어의 오프라인 모델을 클라우드 API와 비교 평가합니다 온디바이스 배포를 위해 연산 비용과 모델 크기를 비교합니다 일관된 평가 파이프라인에 새로운 STT 엔진을 추가합니다
speech-to-text-benchmark는 어떻게 설치하나요?
FFmpeg 설치 Python 요구 사항 설치: pip3 install -r requirements.txt 벤치마크 데이터셋 다운로드 README의 설명에 따라 선택한 엔진, 데이터셋, 언어를 지정해 benchmark.py 실행
speech-to-text-benchmark은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Picovoice/speech-to-text-benchmark

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트