Лёгкая TTS-модель на базе ZipVoice для клонирования голоса и генерации речи с частотой 48 кГц, работающая на GPU быстрее реального времени более чем в 150 раз.
SWivid/F5-TTS
Открытая система синтеза речи на основе flow matching и Diffusion Transformer с клонированием голоса по короткому аудиофрагменту без предварительного обучения на диктора.
Open source альтернатива:ElevenLabs
- Звёзды
- 15,427
- Форки
- 2,250
- Открытые issues
- 65
- Последний коммит
- 6 дней назад
Что это?
F5-TTS — система синтеза речи на основе flow matching и Diffusion Transformer (DiT) с блоками ConvNeXt V2. Она генерирует речь по тексту и короткому аудиофрагменту, воспроизводя голос диктора из записи без отдельного обучения на каждом дикторе. В проект также входит вариант E2 TTS — Transformer с плоской архитектурой UNet, который авторы описывают как точное воспроизведение оригинальной статьи, — а также стратегия Sway Sampling для шагов вывода модели.
В репозитории есть pip-пакет, веб-интерфейс на Gradio и CLI-инструмент для вывода модели с конфигурацией в файлах TOML. Также доступны процессы обучения и дообучения на базе Hugging Face Accelerate, приложение Gradio для дообучения, Docker-образы и среда выполнения Triton и TensorRT-LLM для развёртывания.
Предобученные модели распространяются по лицензии CC-BY-NC, поскольку данные для обучения — Emilia — собраны в естественных условиях, тогда как сам код лицензирован по MIT.
Ключевые возможности
- 01Клонирование голоса без предварительного обучения по короткому аудиофрагменту и его расшифровке.
- 02Веб-интерфейс Gradio для вывода модели и приложение для дообучения.
- 03Вывод модели через CLI с настройкой в файлах TOML, в том числе для историй с несколькими голосами.
- 04Обучение и дообучение с помощью Hugging Face Accelerate.
- 05Docker-образы и среда выполнения Triton и TensorRT-LLM для развёртывания.
Сценарии использования
- Создание озвучки или закадрового голоса, клонирующего голос по короткому образцу.
- Изучение моделей синтеза речи на основе flow matching и методов их обучения.
- Развёртывание собственного сервиса синтеза речи с GPU-ускорением через Triton и TensorRT-LLM.
- Дообучение базовой модели для нового языка или диктора.
Быстрый старт
- 1
Создайте и активируйте окружение с Python 3.10 или новее
conda create -n f5-tts python=3.11 - 2
Установите PyTorch, подходящий для вашего устройства (например, сборку с NVIDIA CUDA)
pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 - 3
Установите pip-пакет F5-TTS для инференса
pip install f5-tts - 4
Запустите веб-интерфейс Gradio
f5-tts_infer-gradio
Что важно знать
- Предварительно обученные модели распространяются по лицензии CC-BY-NC, поэтому их нельзя использовать в коммерческих целях.
- Для практической скорости инференса требуется GPU.
- Требуются FFmpeg и сборка PyTorch, подходящая для вашего оборудования.
Темы
Частые вопросы
- Что такое F5-TTS?
- Открытая система синтеза речи на основе flow matching и Diffusion Transformer с клонированием голоса по короткому аудиофрагменту без предварительного обучения на диктора. F5-TTS — система синтеза речи на основе flow matching и Diffusion Transformer (DiT) с блоками ConvNeXt V2. Она генерирует речь по тексту и короткому аудиофрагменту, воспроизводя голос диктора из записи без отдельного обучения на каждом дикторе. В проект также входит вариант E2 TTS — Transformer с плоской архитектурой UNet, который авторы описывают как точное воспроизведение оригинальной статьи, — а также стратегия Sway Sampling для шагов вывода модели.
- F5-TTS можно использовать бесплатно? Какая у него лицензия?
- F5-TTS распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- F5-TTS всё ещё поддерживается?
- Активно поддерживается. Последний коммит в F5-TTS — 14 окт. 2026 г..
- Для чего можно использовать F5-TTS?
- Создание озвучки или закадрового голоса, клонирующего голос по короткому образцу. Изучение моделей синтеза речи на основе flow matching и методов их обучения. Развёртывание собственного сервиса синтеза речи с GPU-ускорением через Triton и TensorRT-LLM. Дообучение базовой модели для нового языка или диктора.
- Как установить F5-TTS?
- Создайте и активируйте окружение с Python 3.10 или новее: conda create -n f5-tts python=3.11 Установите PyTorch, подходящий для вашего устройства (например, сборку с NVIDIA CUDA): pip install torch==2.8.0+cu128 torchaudio==2.8.0+cu128 --extra-index-url https://download.pytorch.org/whl/cu128 Установите pip-пакет F5-TTS для инференса: pip install f5-tts Запустите веб-интерфейс Gradio: f5-tts_infer-gradio
- Где скачать F5-TTS?
- Исходный код и инструкции по установке — на GitHub: https://github.com/SWivid/F5-TTS
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Семейство открытых моделей синтеза речи Resemble AI с клонированием голоса по короткому аудиообразцу на английском и многих других языках.
Открытая мультиязычная zero-shot модель преобразования текста в речь для более чем 600 языков с клонированием и настройкой голоса.
Семейство open-source голосовых AI-моделей Microsoft: распознавание длинной речи (ASR), многоязычная по говорящим генерация речи (TTS) и потоковый TTS в реальном времени.
Открытая система синтеза речи из текста с клонированием голоса, управлением эмоциями на естественном языке и генерацией речи нескольких персонажей на основе моделей в стиле LLM.
Система синтеза речи zero-shot, которая клонирует голос по одной аудиозаписи и позволяет управлять эмоциями, скоростью и произношением.