开源 Python 框架,用于构建实时语音和多模态 AI 智能体,可插拔接入语音、大模型与传输服务。
asanchezyali/talking-avatar-with-ai
一个能听你说话、用 GPT 回复、借助 Eleven Labs 发声并用 Rhubarb 做口型同步的数字人。
- Star
- 471
- Fork
- 113
- 未关闭 Issue
- 3
- 最近提交
- 上个月
这是什么?
这是一个可以听你说话、也能开口回应的数字人项目。文字或语音输入会先交给 OpenAI 的 GPT 生成回复,语音输入则通过 Whisper 转写成文字。回复随后由 Eleven Labs 文本转语音生成音频,再由 Rhubarb Lip Sync 产出口型(viseme)数据,让数字人的嘴型与语音对齐。
大模型按照预设格式返回最多三条消息的 JSON 数组,每条包含台词、表情和动作名称。后端会把音频和口型数据随消息一并返回,前端即可在播放语音的同时呈现对应的表情与动作。仓库采用 yarn monorepo 结构,后端位于 apps/backend,前端在本地开发端口提供页面。
运行前需要准备 OpenAI 密钥、Eleven Labs 密钥及声音、模型 ID,把 Rhubarb Lip-Sync 可执行文件放入后端的 bin 目录,并安装 ffmpeg。README 建议使用 Eleven Labs 付费版,免费版在请求频繁时可能出错。
核心功能
- 01通过 OpenAI Whisper 将语音输入转为文字。
- 02GPT 回复带有表情和动作字段的结构化输出。
- 03通过 Eleven Labs TTS API 合成语音。
- 04借助 Rhubarb Lip Sync 生成口型同步数据。
- 05采用 monorepo 结构,包含后端与浏览器端客户端,便于本地开发。
适用场景
- 为演示或游戏原型搭建可对话的角色。
- 学习如何把大模型、语音识别、语音合成和口型同步串成一条流程。
- 制作带动画面孔的虚拟主播或助手。
快速上手
- 1
克隆仓库
- 2
在项目目录中安装 monorepo 依赖
yarn - 3
在 /apps/backend/ 中创建 .env 文件并填入 OpenAI 与 Eleven Labs 密钥
- 4
运行开发环境
yarn dev
使用前须知
- 未指定许可证,使用权限不明确。
- 需要付费的 OpenAI 和 Eleven Labs 订阅;据称免费版 Eleven Labs 因请求次数限制无法正常工作。
- 运行前必须手动安装 Rhubarb Lip-Sync 和 ffmpeg。
标签
常见问题
- talking-avatar-with-ai 是什么?
- 一个能听你说话、用 GPT 回复、借助 Eleven Labs 发声并用 Rhubarb 做口型同步的数字人。 这是一个可以听你说话、也能开口回应的数字人项目。文字或语音输入会先交给 OpenAI 的 GPT 生成回复,语音输入则通过 Whisper 转写成文字。回复随后由 Eleven Labs 文本转语音生成音频,再由 Rhubarb Lip Sync 产出口型(viseme)数据,让数字人的嘴型与语音对齐。
- talking-avatar-with-ai 可以免费使用吗?用的什么许可证?
- talking-avatar-with-ai 没有声明许可证。代码虽然公开,但没有许可证就没有明确的使用授权,正式使用前建议先联系作者。
- talking-avatar-with-ai 还在维护吗?
- 半年内有更新。talking-avatar-with-ai 最近一次提交是在 2026年9月16日。
- talking-avatar-with-ai 适合用来做什么?
- 为演示或游戏原型搭建可对话的角色。 学习如何把大模型、语音识别、语音合成和口型同步串成一条流程。 制作带动画面孔的虚拟主播或助手。
- talking-avatar-with-ai 怎么安装和运行?
- 克隆仓库 在项目目录中安装 monorepo 依赖: yarn 在 /apps/backend/ 中创建 .env 文件并填入 OpenAI 与 Eleven Labs 密钥 运行开发环境: yarn dev
- 在哪里获取 talking-avatar-with-ai?
- 源代码和安装说明在 GitHub 上:https://github.com/asanchezyali/talking-avatar-with-ai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
一个把数字人与大语言模型接入业务系统的 agent 框架,支持多终端接入。
一个命令行工具和 Python 库,用于调用远程及本地部署的大语言模型运行提示词和对话。
开源 Python 库,可将网页、PDF、图片、YouTube 视频或主题转换为多语言的 AI 播客音频对话。
一款桌面端一站式 AI 数字人应用,提供口型同步视频合成、语音合成、声音复刻和本地模型管理。
本机运行的工具,用真人出镜视频加文案,自动配音并对口型,合成竖屏 MP4。