whichllm은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

whichllm은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

whichllm은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. whichllm의 마지막 커밋은 2026년 10월 19일입니다.

whichllm은(는) 어디에 사용할 수 있나요?

GPU를 구매하거나 업그레이드하기 전에 로컬 모델 선택 노트북이나 데스크톱에서 원활하게 실행할 수 있는 가장 큰 모델 찾기 Llama 70B 같은 특정 모델에 필요한 GPU 확인 스크립트나 Ollama 워크플로에 사용할 최상위 모델 ID 가져오기

whichllm는 어떻게 설치하나요?

설정 없이 추천을 한 번 실행해 보세요: uvx whichllm@latest 하드웨어를 구매하기 전에 GPU를 시뮬레이션해 보세요: uvx whichllm@latest --gpu "RTX 4090" 자주 사용할 예정이라면 설치하세요: uv tool install whichllm

whichllm은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Andyyyy64/whichllm

Andyyyy64/whichllm

GPU, CPU, RAM을 감지하고 매개변수 수가 아닌 벤치마크를 기준으로 실제 하드웨어에서 실행 가능한 HuggingFace 로컬 LLM의 순위를 매기는 CLI입니다.

GitHub에서 보기

스타: 6,767
포크: 373
열린 이슈: 6
마지막 커밋: 어제

어떤 프로젝트인가요?

whichllm은 현재 컴퓨터에서 실제로 원활하게 실행할 수 있는 로컬 LLM이 무엇인지 알려줍니다. NVIDIA, AMD, Intel, Apple Silicon 및 CPU 전용 환경을 감지하고, 후보 모델별 VRAM 요구량과 생성 속도를 추정한 뒤 HuggingFace API에서 실시간으로 가져온 모델의 순위를 출력합니다.

순위는 LiveBench, Artificial Analysis, Aider, Chatbot Arena ELO, Open LLM Leaderboard 등의 벤치마크 결과를 통합해 산정하며, 오래된 점수는 최신성을 고려해 낮게 반영합니다. 각 점수에는 근거 레이블(direct, variant, base, interpolated 또는 self-reported)이 표시되어, 다른 모델에서 물려받았거나 업로더가 직접 주장한 결과가 낮게 평가된다는 점을 확인할 수 있습니다. 하드웨어를 구매하기 전에 --gpu로 GPU를 시뮬레이션하고, 업그레이드 후보를 비교하거나 특정 모델에 필요한 GPU를 찾아볼 수 있습니다.

추천 기능 외에도 llama-cpp-python, transformers 또는 AutoAWQ/AutoGPTQ를 통해 모델을 다운로드하고 대화할 수 있으며, 바로 실행할 수 있는 Python 코드 조각을 출력하거나 스크립트 및 이슈에 사용할 JSON 또는 Markdown 형식으로 결과를 내보낼 수 있습니다.

핵심 기능

01NVIDIA, AMD, Intel, Apple Silicon 및 CPU 전용 하드웨어를 자동 감지
02최신성을 고려해 오래된 점수의 비중을 낮추고, 실제 벤치마크를 통합해 모델 순위 산정
03VRAM 적합 여부, 전체 GPU 사용 또는 부분 오프로딩, 초당 토큰 수 추정
04구매 전에 --gpu로 GPU 한 개 또는 여러 개로 구성된 환경 시뮬레이션
05plan으로 모델에 필요한 하드웨어 역으로 검색
06run으로 한 번에 대화하고 snippet으로 복사해 붙여 넣을 Python 코드 제공
07스크립트와 공유를 위한 JSON 및 Markdown 출력

활용 사례

GPU를 구매하거나 업그레이드하기 전에 로컬 모델 선택
노트북이나 데스크톱에서 원활하게 실행할 수 있는 가장 큰 모델 찾기
Llama 70B 같은 특정 모델에 필요한 GPU 확인
스크립트나 Ollama 워크플로에 사용할 최상위 모델 ID 가져오기

빠른 시작

1
설정 없이 추천을 한 번 실행해 보세요
uvx whichllm@latest
2
하드웨어를 구매하기 전에 GPU를 시뮬레이션해 보세요
uvx whichllm@latest --gpu "RTX 4090"
3
자주 사용할 예정이라면 설치하세요
uv tool install whichllm

사용 전 알아둘 점

모델 순위는 HuggingFace의 최신 데이터와 벤치마크 출처에 따라 달라지므로 시간이 지나면서 바뀔 수 있습니다.
속도와 VRAM 수치는 추정치이며, 사용 중인 머신에서 실시간으로 측정한 값이 아닙니다.

토픽

#local-llm #llm #gpu #huggingface #benchmark #cli #hardware #quantization #localllm

자주 묻는 질문

whichllm은(는) 무엇인가요?: GPU, CPU, RAM을 감지하고 매개변수 수가 아닌 벤치마크를 기준으로 실제 하드웨어에서 실행 가능한 HuggingFace 로컬 LLM의 순위를 매기는 CLI입니다. whichllm은 현재 컴퓨터에서 실제로 원활하게 실행할 수 있는 로컬 LLM이 무엇인지 알려줍니다. NVIDIA, AMD, Intel, Apple Silicon 및 CPU 전용 환경을 감지하고, 후보 모델별 VRAM 요구량과 생성 속도를 추정한 뒤 HuggingFace API에서 실시간으로 가져온 모델의 순위를 출력합니다.
whichllm은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?: whichllm은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
whichllm은(는) 아직 유지보수되고 있나요?: 활발히 유지보수 중. whichllm의 마지막 커밋은 2026년 10월 19일입니다.
whichllm은(는) 어디에 사용할 수 있나요?: GPU를 구매하거나 업그레이드하기 전에 로컬 모델 선택 노트북이나 데스크톱에서 원활하게 실행할 수 있는 가장 큰 모델 찾기 Llama 70B 같은 특정 모델에 필요한 GPU 확인 스크립트나 Ollama 워크플로에 사용할 최상위 모델 ID 가져오기
whichllm는 어떻게 설치하나요?: 설정 없이 추천을 한 번 실행해 보세요: uvx whichllm@latest 하드웨어를 구매하기 전에 GPU를 시뮬레이션해 보세요: uvx whichllm@latest --gpu "RTX 4090" 자주 사용할 예정이라면 설치하세요: uv tool install whichllm
whichllm은(는) 어디서 받을 수 있나요?: 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/Andyyyy64/whichllm

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.