텍스트, 이미지, 오디오, 비디오 및 액션을 출력하는 옴니 모달리티 모델을 실행하도록 vLLM을 확장한 서빙 프레임워크입니다.
#multimodal
“multimodal” 관련 오픈소스 프로젝트
multimodal 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
시간에 따른 멀티모달 로보틱스 및 센서 데이터를 로깅하고 시각화·조회·스트리밍하는 오픈소스 Rust 툴킷입니다.
URL이나 로컬 파일을 타임스탬프가 포함된 프레임과 자막으로 변환해 AI 에이전트가 동영상을 살펴보게 해주는 Claude Code 및 Agent Skills 플러그인입니다.
음성, LLM, 전송 서비스를 플러그인 방식으로 연결해 실시간 음성 및 멀티모달 AI 에이전트를 만드는 오픈소스 Python 프레임워크입니다.
CPU 전용 머신을 포함한 다양한 하드웨어에서 LLM, 비전, 음성, 이미지, 동영상 모델을 실행하는 자체 호스팅 OpenAI 호환 AI 엔진입니다.
NEO는 픽셀과 단어를 하나의 인코더 없는 dense 아키텍처로 처리하는 네이티브 VLM 제품군입니다.
웹사이트, PDF, 이미지, YouTube 동영상 또는 주제를 다국어 팟캐스트 대화로 변환하는 오픈소스 Python 패키지입니다.
FSDP2, Muon, Liger 커널을 지원하는 통합 멀티모달 모델 학습 엔진
CVPR 2025 LiveCC 논문의 실시간 영상 해설을 생성하는 스트리밍 음성 전사 기반 학습 비디오 LLM입니다.
Playwright 자동화와 OpenAI 호환 비전 모델을 사용하는 자체 호스팅 CAPTCHA 솔버
자체 OpenAI 호환 비전 모델로 PDF, Office 파일, 스캔 문서와 이미지를 AI용 Markdown으로 변환합니다.
이미지 이해, 텍스트-이미지 생성, 이미지 편집을 하나의 아키텍처로 처리하는 SenseNova의 오픈소스 네이티브 통합 멀티모달 모델
웹 페이지와 PDF를 스크린샷으로 렌더링해 시각적으로 검색하는 오픈소스 파이프라인으로, 표와 차트를 RAG에 그대로 보존합니다.
Apple Silicon에서 MLX로 이미지 하나에 대한 후보 답변을 채점하는 비전-언어 모델 추론 교육용 프로젝트
Qwen3.5와 C-RADIOv4-H 기반의 9B 오픈 웨이트 멀티모달 모델
ByteDance의 Seedance 2.0 동영상 생성 모델에 맞는 프롬프트 작성을 안내하는 에이전트 스킬 파일입니다.
텍스트·이미지 생성을 통해 다양한 컴퓨터 비전 작업을 수행하는 통합 멀티모달 모델입니다.
Mac, Windows, Linux에서 사진·PDF·문서·녹음·동영상·코드를 내용 설명으로 찾는 로컬 파일 검색 앱