하드웨어에 맞게 커널을 튜닝해 오픈 모델을 최대한 빠르게 실행하는 오픈소스 추론 엔진입니다.
7.1천491RustApache-2.0업데이트 어제
대안 1개
Ollama의 무료 오픈소스 대안을 찾고 계신가요? 아래 1개 프로젝트가 Ollama를 대체할 수 있습니다. 모두 사람이 검토하고 쉽게 설명했으니 스타, 라이선스, 유지보수 상태를 한눈에 비교해 보세요.
| 프로젝트 | 스타 | 라이선스 | 마지막 커밋 |
|---|---|---|---|
| magnitudedev/magnitude | ★ 7.1천 | Apache-2.0 | 어제 |
하드웨어에 맞게 커널을 튜닝해 오픈 모델을 최대한 빠르게 실행하는 오픈소스 추론 엔진입니다.