12 GB 및 8 GB NVIDIA GPU에서 262k 컨텍스트로 1.58비트 Ternary Bonsai 2 27B 모델을 실행하는 런처와 패치된 llama.cpp 구성입니다.
826PythonOther업데이트 17시간 전
#rtx-4070
“rtx-4070” 관련 오픈소스 프로젝트
rtx-4070 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#rtx-4070
rtx-4070 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
12 GB 및 8 GB NVIDIA GPU에서 262k 컨텍스트로 1.58비트 Ternary Bonsai 2 27B 모델을 실행하는 런처와 패치된 llama.cpp 구성입니다.