“localllm” 관련 오픈소스 프로젝트

GPU, CPU, RAM을 감지하고 매개변수 수가 아닌 벤치마크를 기준으로 실제 하드웨어에서 실행 가능한 HuggingFace 로컬 LLM의 순위를 매기는 CLI입니다.