일반 NVIDIA 또는 AMD GPU PC에서 125B 파라미터 Qwen3.8-Flash-Next를 실행하고 localhost API를 제공합니다.
2.7만2.9천C++MIT업데이트 그저께
#local-inference
“local-inference” 관련 오픈소스 프로젝트
local-inference 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
저장소 4개
이미지·동영상·오디오·3D를 로컬에서 생성하는 diffusion 모델용 노드 그래프 GUI, API 및 백엔드입니다.
13.8만1.6만PythonGPL-3.0업데이트 10시간 전
무료 티어, 오픈 웨이트 모델, 로컬 추론 도구를 아우르는 무료 AI 모델·API·도구 목록입니다.
2.5천244Other업데이트 8일 전
80M 파라미터 구조의 초경량 온디바이스 TTS 모델로, 32kHz 스트리밍 출력과 CPU·CUDA·MPS를 지원합니다.
1.6천138PythonApache-2.0업데이트 9개월 전