“openai-compatible-api” 관련 오픈소스 프로젝트

대규모 언어 모델을 로컬에서 실행하고, 채팅 UI와 OpenAI/Anthropic 호환 API를 제공하는 무료 오픈소스 데스크톱 앱입니다.

llama.cpp 기반으로 로컬 LLM을 실행하고, 로컬 API 서버와 내장 WebUI를 제공하는 macOS 메뉴 막대 앱