0xSojalSec/LLMs-local

어떤 프로젝트인가요?

핵심 기능

• 01llama.cpp, Ollama, vLLM, MLX-LM 같은 로컬 추론 엔진을 한 줄 설명과 함께 소개합니다.
• 02Open WebUI, LM Studio 스타일 클라이언트, SillyTavern 같은 채팅 프런트엔드를 분류해 소개합니다.
• 03로컬 모델과 함께 사용할 수 있는 에이전트 프레임워크, MCP 서버, RAG 도구를 다룹니다.
• 04프롬프트, 컨텍스트, 추론 관련 하드웨어 정보와 튜토리얼을 포함합니다.

활용 사례

• 개인용 컴퓨터에서 모델을 실행할 추론 엔진이나 데스크톱 앱을 선택할 때 참고합니다.
• 오픈 웨이트 모델과 함께 사용할 로컬 채팅 인터페이스나 코딩 어시스턴트를 찾을 때 유용합니다.
• 로컬 기술 스택을 구성하기 전에 사용할 수 있는 오픈 모델과 벤치마크를 살펴볼 때 활용합니다.

사용 전 알아둘 점

• !라이선스가 지정되어 있지 않아 재사용 조건이 불분명합니다.

토픽

자주 묻는 질문

LLMs-local은(는) 무엇인가요?

내 하드웨어에서 LLM을 로컬로 실행하는 플랫폼, 엔진, UI, 모델, 도구, 튜토리얼 모음 LLMs-local은 호스팅 API를 이용하는 대신 자신의 컴퓨터에서 대규모 언어 모델을 실행할 때 참고할 자료를 선별해 모아 둔 목록입니다. 추론 플랫폼과 엔진, 사용자 인터페이스, 특정 오픈 웨이트 모델, 에이전트 프레임워크, Model Context Protocol 서버, 검색 증강 생성, 코딩 에이전트, 메모리 계층, 평가 도구, 하드웨어, 튜토리얼을 다루는 섹션으로 구성되어 있습니다.

LLMs-local은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

LLMs-local에는 명시된 라이선스가 없습니다. 코드는 공개되어 있지만 라이선스가 없으면 재사용 허가가 명확하지 않으므로, 사용 전에 작성자에게 문의하는 것이 좋습니다.

LLMs-local은(는) 아직 유지보수되고 있나요?

6개월 이내 업데이트. LLMs-local의 마지막 커밋은 2026년 6월 10일입니다.

LLMs-local은(는) 어디에 사용할 수 있나요?

개인용 컴퓨터에서 모델을 실행할 추론 엔진이나 데스크톱 앱을 선택할 때 참고합니다. 오픈 웨이트 모델과 함께 사용할 로컬 채팅 인터페이스나 코딩 어시스턴트를 찾을 때 유용합니다. 로컬 기술 스택을 구성하기 전에 사용할 수 있는 오픈 모델과 벤치마크를 살펴볼 때 활용합니다.

LLMs-local은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/0xSojalSec/LLMs-local