음성, LLM, 전송 서비스를 플러그인 방식으로 연결해 실시간 음성 및 멀티모달 AI 에이전트를 만드는 오픈소스 Python 프레임워크입니다.
asanchezyali/talking-avatar-with-ai
음성을 듣고 GPT로 답변하며 ElevenLabs 음성과 Rhubarb 립싱크로 말하는 디지털 휴먼 아바타입니다.
- 스타
- 471
- 포크
- 113
- 열린 이슈
- 3
- 마지막 커밋
- 지난달
어떤 프로젝트인가요?
이 프로젝트는 음성을 듣고 응답할 수 있는 대화형 디지털 휴먼을 구현합니다. 텍스트나 음성 입력을 OpenAI의 GPT가 답변으로 만들고, 음성 입력은 Whisper가 텍스트로 변환합니다. 이어서 Eleven Labs 텍스트 음성 변환으로 답변을 음성화하고, Rhubarb Lip Sync가 비짐 데이터를 생성해 아바타의 입 모양을 오디오에 맞춥니다.
LLM은 텍스트, 표정, 애니메이션 이름이 각각 포함된 메시지를 최대 3개까지 담은 구조화된 JSON 배열을 반환하도록 프롬프트가 설정되어 있습니다. 백엔드는 각 메시지에 오디오와 립싱크 데이터를 함께 묶어 제공하므로, 프런트엔드 클라이언트에서 음성을 재생하는 동시에 아바타가 알맞은 표정과 제스처를 보여줄 수 있습니다. 저장소는 yarn 모노레포이며, apps/backend에 백엔드가 있고 웹 클라이언트는 로컬 개발 포트에서 제공됩니다.
설정하려면 OpenAI 키, 음성 및 모델 ID가 포함된 Eleven Labs 키, bin 디렉터리에 배치한 Rhubarb Lip-Sync 바이너리, 그리고 ffmpeg가 필요합니다. README에서는 요청량이 많을 때 무료 요금제가 실패할 수 있으므로 Eleven Labs 유료 요금제를 권장합니다.
핵심 기능
- 01OpenAI Whisper를 통한 음성 텍스트 변환 입력.
- 02표정 및 애니메이션 필드가 포함된 구조화된 GPT 답변 생성.
- 03Eleven Labs TTS API를 통한 음성 합성.
- 04Rhubarb Lip Sync를 통한 립싱크 비짐 데이터 생성.
- 05로컬 개발을 위한 백엔드와 브라우저 클라이언트로 구성된 모노레포.
활용 사례
- 데모나 게임용 대화형 캐릭터 프로토타이핑.
- LLM, 음성 텍스트 변환, TTS, 립싱크를 하나의 파이프라인으로 연결하는 방법 학습.
- 애니메이션 얼굴을 갖춘 가상 진행자나 어시스턴트 구축.
빠른 시작
- 1
저장소를 클론합니다
- 2
프로젝트 디렉터리에서 모노레포의 종속성을 설치합니다
yarn - 3
OpenAI 및 Eleven Labs 키가 포함된 .env 파일을 /apps/backend/에 만듭니다
- 4
개발 시스템을 실행합니다
yarn dev
사용 전 알아둘 점
- 라이선스가 지정되어 있지 않아 사용 권한이 불분명합니다.
- 유료 OpenAI 및 Eleven Labs 구독이 필요합니다. Eleven Labs 무료 요금제는 요청 한도로 인해 작동하지 않는다고 합니다.
- 실행 전에 Rhubarb Lip-Sync와 ffmpeg를 수동으로 설치해야 합니다.
토픽
자주 묻는 질문
- talking-avatar-with-ai은(는) 무엇인가요?
- 음성을 듣고 GPT로 답변하며 ElevenLabs 음성과 Rhubarb 립싱크로 말하는 디지털 휴먼 아바타입니다. 이 프로젝트는 음성을 듣고 응답할 수 있는 대화형 디지털 휴먼을 구현합니다. 텍스트나 음성 입력을 OpenAI의 GPT가 답변으로 만들고, 음성 입력은 Whisper가 텍스트로 변환합니다. 이어서 Eleven Labs 텍스트 음성 변환으로 답변을 음성화하고, Rhubarb Lip Sync가 비짐 데이터를 생성해 아바타의 입 모양을 오디오에 맞춥니다.
- talking-avatar-with-ai은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- talking-avatar-with-ai에는 명시된 라이선스가 없습니다. 코드는 공개되어 있지만 라이선스가 없으면 재사용 허가가 명확하지 않으므로, 사용 전에 작성자에게 문의하는 것이 좋습니다.
- talking-avatar-with-ai은(는) 아직 유지보수되고 있나요?
- 6개월 이내 업데이트. talking-avatar-with-ai의 마지막 커밋은 2026년 9월 16일입니다.
- talking-avatar-with-ai은(는) 어디에 사용할 수 있나요?
- 데모나 게임용 대화형 캐릭터 프로토타이핑. LLM, 음성 텍스트 변환, TTS, 립싱크를 하나의 파이프라인으로 연결하는 방법 학습. 애니메이션 얼굴을 갖춘 가상 진행자나 어시스턴트 구축.
- talking-avatar-with-ai는 어떻게 설치하나요?
- 저장소를 클론합니다 프로젝트 디렉터리에서 모노레포의 종속성을 설치합니다: yarn OpenAI 및 Eleven Labs 키가 포함된 .env 파일을 /apps/backend/에 만듭니다 개발 시스템을 실행합니다: yarn dev
- talking-avatar-with-ai은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/asanchezyali/talking-avatar-with-ai
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
디지털 휴먼(2.5D, 3D, 모바일, PC, 웹)과 LLM(OpenAI 호환, DeepSeek)을 비즈니스 시스템에 연결하는 에이전트 프레임워크입니다.
원격 및 로컬 대규모 언어 모델에 프롬프트를 보내고 대화할 수 있는 CLI 도구이자 Python 라이브러리입니다.
웹사이트, PDF, 이미지, YouTube 동영상 또는 주제를 다국어 팟캐스트 대화로 변환하는 오픈소스 Python 패키지입니다.
립싱크 영상 합성, 음성 합성, 보이스 클로닝, 로컬 AI 모델 관리를 지원하는 AI 디지털 휴먼 제작 데스크톱 앱입니다.
녹화한 인물 영상과 대본을 AI 음성 및 자동 립싱크가 적용된 세로형 MP4로 만드는 로컬 우선 도구입니다.