Repolode
yizhi-chengzi

yizhi-chengzi/video-ai-talking

Локальный инструмент, который превращает запись говорящего человека и текст сценария в вертикальный MP4 с озвучкой от AI и автоматической синхронизацией губ.

Звёзды
480
Форки
70
Открытые issues
0
Последний коммит
2 месяца назад

Что это?

video-ai-talking создаёт короткие видео с говорящим человеком на основе одной записи реального человека. Загрузите крупный план с лицом анфас и текст для озвучки или попросите LLM составить сценарий по заданной теме. Инструмент генерирует озвучку с помощью Volcano Engine или Alibaba Bailian CosyVoice, отправляет видео и аудио в Bailian VideoRetalk для синхронизации губ, а затем с помощью FFmpeg собирает вертикальный MP4 с выбранным стилем субтитров и заголовка.

Всё работает на вашем компьютере. API-ключи хранятся в localStorage браузера, а задачи и готовые видео записываются в локальную папку с данными. Видеоматериалы можно вставлять поверх отдельных строк субтитров, заменяя изображение в эти моменты. В mock-режиме можно проверить весь процесс без обращения к внешним сервисам.

Для настройки нужны Node.js 20+, FFmpeg в PATH и API-ключи сервиса синхронизации губ, а также как минимум одного TTS-провайдера. DeepSeek необязателен и используется для подготовки сценариев.

Ключевые возможности

  • 01Генерирует озвучку по тексту с помощью Volcano Engine или Alibaba Bailian CosyVoice.
  • 02Синхронизирует движения губ в записи с аудио через Bailian VideoRetalk.
  • 03Собирает вертикальный MP4 с помощью FFmpeg и позволяет выбирать стиль субтитров.
  • 04Вставляет локальные видеоматериалы поверх выбранных строк субтитров.
  • 05При необходимости составляет сценарии по теме с помощью DeepSeek.
  • 06Хранит API-ключи в браузере, а данные задач — на локальном компьютере.

Сценарии использования

  • Создание коротких поясняющих видео с говорящим человеком без записи каждого дубля.
  • Подготовка вертикальных роликов для платформ коротких видео на основе одной записи лица.
  • Создание прототипов контента с говорящим человеком и AI-озвучкой: mock-режим позволяет проверить результат до оплаты API-вызовов.

Быстрый старт

  1. 1

    Клонируйте репозиторий

    git clone https://github.com/yizhi-chengzi/video-ai-talking.git
  2. 2

    Перейдите в папку проекта

    cd video-ai-talking
  3. 3

    Скопируйте пример файла env

    cp .env.example .env
  4. 4

    Установите зависимости и запустите сервер разработки, затем откройте http://127.0.0.1:5175

    npm install && npm run dev

Что важно знать

  • Требуется ключ API Bailian VideoRetalk и локально установленный FFmpeg.
  • Для синхронизации губ и озвучивания используются платные облачные API (Alibaba Bailian, Volcengine и, при необходимости, DeepSeek).
  • Исходное видео и аудио загружаются во временное хранилище Alibaba Bailian для обработки.
  • Для работы выбора файлов в Linux необходимо установить Zenity.

Темы

Частые вопросы

Что такое video-ai-talking?
Локальный инструмент, который превращает запись говорящего человека и текст сценария в вертикальный MP4 с озвучкой от AI и автоматической синхронизацией губ. video-ai-talking создаёт короткие видео с говорящим человеком на основе одной записи реального человека. Загрузите крупный план с лицом анфас и текст для озвучки или попросите LLM составить сценарий по заданной теме. Инструмент генерирует озвучку с помощью Volcano Engine или Alibaba Bailian CosyVoice, отправляет видео и аудио в Bailian VideoRetalk для синхронизации губ, а затем с помощью FFmpeg собирает вертикальный MP4 с выбранным стилем субтитров и заголовка.
video-ai-talking можно использовать бесплатно? Какая у него лицензия?
video-ai-talking распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
video-ai-talking всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в video-ai-talking — 3 сент. 2026 г..
Для чего можно использовать video-ai-talking?
Создание коротких поясняющих видео с говорящим человеком без записи каждого дубля. Подготовка вертикальных роликов для платформ коротких видео на основе одной записи лица. Создание прототипов контента с говорящим человеком и AI-озвучкой: mock-режим позволяет проверить результат до оплаты API-вызовов.
Как установить video-ai-talking?
Клонируйте репозиторий: git clone https://github.com/yizhi-chengzi/video-ai-talking.git Перейдите в папку проекта: cd video-ai-talking Скопируйте пример файла env: cp .env.example .env Установите зависимости и запустите сервер разработки, затем откройте http://127.0.0.1:5175: npm install && npm run dev
Где скачать video-ai-talking?
Исходный код и инструкции по установке — на GitHub: https://github.com/yizhi-chengzi/video-ai-talking

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Open-source система агентного видеопроизводства, превращающая AI-ассистента для программирования в студию с пайплайнами для исследований, написания сценариев, создания материалов, монтажа и рендеринга.

70,3 тыс.9,1 тыс.PythonAGPL-3.0Обновлён 4 дня назад

Десктопное приложение для создания цифровых людей с помощью ИИ: синтез видео с липсинком, озвучивание текста, клонирование голоса и управление локальными моделями ИИ.

5,7 тыс.840VueApache-2.0Обновлён 16 часов назад