약 45MB RAM으로 Raspberry Pi 같은 저가형 보드에서 10억 개급 LLaMA 아키텍처 GGUF 모델을 실행하는 최소형 C11 LLM 추론 엔진입니다.
2.2천286CMIT업데이트 8개월 전
#arm
“arm” 관련 오픈소스 프로젝트
arm 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
#arm
arm 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
약 45MB RAM으로 Raspberry Pi 같은 저가형 보드에서 10억 개급 LLaMA 아키텍처 GGUF 모델을 실행하는 최소형 C11 LLM 추론 엔진입니다.