Repolode
asanchezyali

asanchezyali/talking-avatar-with-ai

一个能听你说话、用 GPT 回复、借助 Eleven Labs 发声并用 Rhubarb 做口型同步的数字人。

Star
471
Fork
113
未关闭 Issue
3
最近提交
上个月

这是什么?

这是一个可以听你说话、也能开口回应的数字人项目。文字或语音输入会先交给 OpenAI 的 GPT 生成回复,语音输入则通过 Whisper 转写成文字。回复随后由 Eleven Labs 文本转语音生成音频,再由 Rhubarb Lip Sync 产出口型(viseme)数据,让数字人的嘴型与语音对齐。

大模型按照预设格式返回最多三条消息的 JSON 数组,每条包含台词、表情和动作名称。后端会把音频和口型数据随消息一并返回,前端即可在播放语音的同时呈现对应的表情与动作。仓库采用 yarn monorepo 结构,后端位于 apps/backend,前端在本地开发端口提供页面。

运行前需要准备 OpenAI 密钥、Eleven Labs 密钥及声音、模型 ID,把 Rhubarb Lip-Sync 可执行文件放入后端的 bin 目录,并安装 ffmpeg。README 建议使用 Eleven Labs 付费版,免费版在请求频繁时可能出错。

核心功能

  • 01通过 OpenAI Whisper 将语音输入转为文字。
  • 02GPT 回复带有表情和动作字段的结构化输出。
  • 03通过 Eleven Labs TTS API 合成语音。
  • 04借助 Rhubarb Lip Sync 生成口型同步数据。
  • 05采用 monorepo 结构,包含后端与浏览器端客户端,便于本地开发。

适用场景

  • 为演示或游戏原型搭建可对话的角色。
  • 学习如何把大模型、语音识别、语音合成和口型同步串成一条流程。
  • 制作带动画面孔的虚拟主播或助手。

快速上手

  1. 1

    克隆仓库

  2. 2

    在项目目录中安装 monorepo 依赖

    yarn
  3. 3

    在 /apps/backend/ 中创建 .env 文件并填入 OpenAI 与 Eleven Labs 密钥

  4. 4

    运行开发环境

    yarn dev

使用前须知

  • 未指定许可证,使用权限不明确。
  • 需要付费的 OpenAI 和 Eleven Labs 订阅;据称免费版 Eleven Labs 因请求次数限制无法正常工作。
  • 运行前必须手动安装 Rhubarb Lip-Sync 和 ffmpeg。

标签

常见问题

talking-avatar-with-ai 是什么?
一个能听你说话、用 GPT 回复、借助 Eleven Labs 发声并用 Rhubarb 做口型同步的数字人。 这是一个可以听你说话、也能开口回应的数字人项目。文字或语音输入会先交给 OpenAI 的 GPT 生成回复,语音输入则通过 Whisper 转写成文字。回复随后由 Eleven Labs 文本转语音生成音频,再由 Rhubarb Lip Sync 产出口型(viseme)数据,让数字人的嘴型与语音对齐。
talking-avatar-with-ai 可以免费使用吗?用的什么许可证?
talking-avatar-with-ai 没有声明许可证。代码虽然公开,但没有许可证就没有明确的使用授权,正式使用前建议先联系作者。
talking-avatar-with-ai 还在维护吗?
半年内有更新。talking-avatar-with-ai 最近一次提交是在 2026年9月16日。
talking-avatar-with-ai 适合用来做什么?
为演示或游戏原型搭建可对话的角色。 学习如何把大模型、语音识别、语音合成和口型同步串成一条流程。 制作带动画面孔的虚拟主播或助手。
talking-avatar-with-ai 怎么安装和运行?
克隆仓库 在项目目录中安装 monorepo 依赖: yarn 在 /apps/backend/ 中创建 .env 文件并填入 OpenAI 与 Eleven Labs 密钥 运行开发环境: yarn dev
在哪里获取 talking-avatar-with-ai?
源代码和安装说明在 GitHub 上:https://github.com/asanchezyali/talking-avatar-with-ai

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目