基于码本查找 Transformer 的盲人脸修复工具,可增强模糊、低质量或受损的人脸图像与视频。
showlab/livecc
基于流式语音转写训练的视频大模型,可对视频进行实时解说,对应 CVPR 2025 论文 LiveCC。
- Star
- 480
- Fork
- 59
- 未关闭 Issue
- 16
- 最近提交
- 12个月前
这是什么?
LiveCC 是一个视频大语言模型,训练时使用了与视频对齐的流式语音转写数据,因此能在视频播放过程中持续生成实时解说,而不仅限于对已结束的片段做问答。本项目是 CVPR 2025 同名论文的研究代码,涵盖训练、推理和评测。
仓库提供 Gradio 网页演示和命令行演示,并包含基于 DeepSpeed 与 Hugging Face Transformers 的预训练和监督微调脚本。训练数据集(如 Live-WhisperX-526K)、已发布的模型权重以及 LiveSports3KCC 基准均可通过链接获取。评测脚本覆盖 VideoMME 和 OVOBench,另附数据生产流程,便于自行构建训练数据。
代码要求 Python 3.11 及以上,模型基于 Qwen2-VL,并使用 Flash Attention 与 Liger kernel 提升效率。
核心功能
- 01利用流式语音转写数据训练,可生成实时视频解说。
- 02提供 Gradio 网页演示和命令行演示。
- 03包含基于 DeepSpeed 的预训练与 SFT 脚本。
- 04附带 LiveSports3KCC、VideoMME 和 OVOBench 的评测脚本。
- 05训练数据集和模型权重托管在 Hugging Face,可直接获取。
适用场景
- 研究基于语音对齐数据训练的视频大模型的研究人员。
- 开发体育赛事或现场活动实时解说原型的团队。
- 希望复现 LiveCC 论文训练与评测结果的开发者。
快速上手
- 1
安装 Python 3.11 或更新版本,然后安装 PyTorch
pip install torch torchvision torchaudio - 2
安装项目的 Python 依赖和 livecc-utils
pip install "transformers>=4.52.4" accelerate deepspeed peft opencv-python decord datasets tensorboard gradio pillow-heif gpustat timm sentencepiece openai av==12.0.0 qwen_vl_utils liger_kernel numpy==1.24.4 && pip install flash-attn --no-build-isolation && pip install livecc-utils==0.0.2 - 3
启动 Gradio 演示
python demo/app.py --js_monitor
使用前须知
- README 未说明许可证,使用权限不明确。
- 部署需要 CUDA GPU,并依赖 flash-attn、deepspeed 等较重的库。
- 默认的 GPT-4o 评测需要 Azure OpenAI 账户。
标签
常见问题
- livecc 是什么?
- 基于流式语音转写训练的视频大模型,可对视频进行实时解说,对应 CVPR 2025 论文 LiveCC。 LiveCC 是一个视频大语言模型,训练时使用了与视频对齐的流式语音转写数据,因此能在视频播放过程中持续生成实时解说,而不仅限于对已结束的片段做问答。本项目是 CVPR 2025 同名论文的研究代码,涵盖训练、推理和评测。
- livecc 可以免费使用吗?用的什么许可证?
- livecc 没有声明许可证。代码虽然公开,但没有许可证就没有明确的使用授权,正式使用前建议先联系作者。
- livecc 还在维护吗?
- 超过半年未提交。livecc 最近一次提交是在 2025年10月29日。
- livecc 适合用来做什么?
- 研究基于语音对齐数据训练的视频大模型的研究人员。 开发体育赛事或现场活动实时解说原型的团队。 希望复现 LiveCC 论文训练与评测结果的开发者。
- livecc 怎么安装和运行?
- 安装 Python 3.11 或更新版本,然后安装 PyTorch: pip install torch torchvision torchaudio 安装项目的 Python 依赖和 livecc-utils: pip install "transformers>=4.52.4" accelerate deepspeed peft opencv-python decord datasets tensorboard gradio pillow-heif gpustat timm sentencepiece openai av==12.0.0 qwen_vl_utils liger_kernel numpy==1.24.4 && pip install flash-attn --no-build-isolation && pip install livecc-utils==0.0.2 启动 Gradio 演示: python demo/app.py --js_monitor
- 在哪里获取 livecc?
- 源代码和安装说明在 GitHub 上:https://github.com/showlab/livecc
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
基于 PyTorch 的开源 Python OCR 库,使用深度学习模型识别 PDF 和图片中的文字。
NEO 是一系列原生视觉-语言模型,采用无编码器的统一稠密架构直接处理像素与文字。
开源 Python 框架,用于构建实时语音和多模态 AI 智能体,可插拔接入语音、大模型与传输服务。
基于 PyTorch 的开源医学影像深度学习框架,涵盖预处理、网络模型、损失函数与评估指标。
基于 vLLM 扩展的推理服务框架,支持文本、图像、音频、视频等全模态模型部署。