Семейство открытых моделей синтеза речи Resemble AI с клонированием голоса по короткому аудиообразцу на английском и многих других языках.
OpenBMB/VoxCPM
VoxCPM2 — open-source модель преобразования текста в речь без токенизатора: поддерживает 30 языков, создание голоса по текстовому описанию и клонирование по короткому аудиофрагменту.
Open source альтернатива:ElevenLabs
- Звёзды
- 39,635
- Форки
- 4,500
- Открытые issues
- 135
- Последний коммит
- 13 дней назад
Что это?
VoxCPM2 — система преобразования текста в речь от OpenBMB. Вместо дискретных токенов она генерирует непрерывные представления речи с помощью диффузионной авторегрессионной архитектуры. Модель с 2 млрд параметров построена на базе MiniCPM-4 и генерирует аудио с частотой 48 кГц.
Модель поддерживает несколько сценариев: обычный синтез на 30 языках и нескольких китайских диалектах, создание голоса по описанию на естественном языке без референсного аудио и клонирование по короткому аудиофрагменту с возможностью управлять стилем. Режим повышенного качества принимает и референсное аудио, и его текстовую расшифровку, чтобы сгенерированная речь продолжала референс.
Модель доступна через Python API, CLI, локальную веб-демонстрацию и потоковую генерацию. Для запуска доступны Nano-vLLM, vLLM-Omni с OpenAI-совместимым endpoint и llama.cpp-omni для работы на устройстве. Поддерживается дообучение с полным SFT и LoRA. Веса и код распространяются по лицензии Apache-2.0.
Ключевые возможности
- 01Синтез речи на 30 языках, включая несколько китайских диалектов, без указания языкового тега.
- 02Создание голоса по текстовому описанию, например с указанием пола, возраста и тембра.
- 03Клонирование голоса по короткому референсному аудиофрагменту с возможностью управлять стилем и эмоциями.
- 04Генерация аудио с частотой 48 кГц на основе референсного аудио с частотой 16 кГц.
- 05Потоковая генерация через Python API, CLI и веб-демонстрацию.
- 06Поддержка полного дообучения и дообучения с LoRA.
Сценарии использования
- Создание многоязычной озвучки или дикторского текста по сценарию.
- Создание уникальных голосов персонажей для игр, видео или виртуальных помощников.
- Дубляж или локализация видео с клонированным голосом говорящего.
- Офлайн-синтез речи непосредственно на устройстве с помощью llama.cpp-omni.
Быстрый старт
- 1
Установите пакет с помощью pip
pip install voxcpm - 2
Загрузите модель и генерируйте речь из Python
- 3
Или запустите локальную веб-демонстрацию
python app.py --port 8808
Что важно знать
- Для описанной в README конфигурации требуются Python версии от 3.10 до 3.12, PyTorch 2.5 или новее и CUDA 12.0 или новее.
- Для инференса в полном качестве ориентируйтесь на GPU; в README приведены коэффициенты реального времени, измеренные на NVIDIA RTX 4090.
- Модель содержит 2 млрд параметров и требует загрузки большого объёма данных с Hugging Face или ModelScope.
Темы
Частые вопросы
- Что такое VoxCPM?
- VoxCPM2 — open-source модель преобразования текста в речь без токенизатора: поддерживает 30 языков, создание голоса по текстовому описанию и клонирование по короткому аудиофрагменту. VoxCPM2 — система преобразования текста в речь от OpenBMB. Вместо дискретных токенов она генерирует непрерывные представления речи с помощью диффузионной авторегрессионной архитектуры. Модель с 2 млрд параметров построена на базе MiniCPM-4 и генерирует аудио с частотой 48 кГц.
- VoxCPM можно использовать бесплатно? Какая у него лицензия?
- VoxCPM распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- VoxCPM всё ещё поддерживается?
- Активно поддерживается. Последний коммит в VoxCPM — 8 окт. 2026 г..
- Для чего можно использовать VoxCPM?
- Создание многоязычной озвучки или дикторского текста по сценарию. Создание уникальных голосов персонажей для игр, видео или виртуальных помощников. Дубляж или локализация видео с клонированным голосом говорящего. Офлайн-синтез речи непосредственно на устройстве с помощью llama.cpp-omni.
- Как установить VoxCPM?
- Установите пакет с помощью pip: pip install voxcpm Загрузите модель и генерируйте речь из Python Или запустите локальную веб-демонстрацию: python app.py --port 8808
- Где скачать VoxCPM?
- Исходный код и инструкции по установке — на GitHub: https://github.com/OpenBMB/VoxCPM
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Открытая мультиязычная zero-shot модель преобразования текста в речь для более чем 600 языков с клонированием и настройкой голоса.
Открытая система синтеза речи из текста с клонированием голоса, управлением эмоциями на естественном языке и генерацией речи нескольких персонажей на основе моделей в стиле LLM.
Библиотека с открытым исходным кодом для синтеза речи: модель KittenTTS 2 клонирует голос по 5 секундам аудио и работает на CPU в реальном времени.
Библиотека инференса на Python для Kokoro-82M — текстовой модели синтеза речи с открытыми весами и 82 миллионами параметров.
Лёгкая TTS-модель на базе ZipVoice для клонирования голоса и генерации речи с частотой 48 кГц, работающая на GPU быстрее реального времени более чем в 150 раз.