하드웨어에 맞게 커널을 튜닝해 Apple Silicon, NVIDIA, AMD 또는 CPU에서 오픈 모델을 더 빠르게 실행하는 오픈소스 추론 엔진입니다.
7.2천494RustApache-2.0업데이트 그저께
#ollama-alternative
ollama-alternative 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
하드웨어에 맞게 커널을 튜닝해 Apple Silicon, NVIDIA, AMD 또는 CPU에서 오픈 모델을 더 빠르게 실행하는 오픈소스 추론 엔진입니다.