ggml-org/ggml

어떤 프로젝트인가요?

핵심 기능

• 01외부 의존성이 없는 순수 C/C++ 구현
• 02x86, ARM 및 RISC-V용 SIMD 최적화 커널
• 03CPU, GPU, NPU 및 브라우저용 백엔드
• 042~8비트 정수 양자화와 MXFP4 및 NVFP4 형식
• 05런타임 중 메모리 할당 없음

활용 사례

• 적은 용량으로 C/C++ 애플리케이션에 ML 추론 기능 임베드
• 엣지 디바이스나 임베디드 하드웨어에서 텐서 연산 실행
• CPU와 가속기용 양자화 모델 런타임 구축
• 브라우저의 WebAssembly에서 ML 워크로드 실행

빠른 시작

1. 1

   저장소를 클론합니다

   git clone https://github.com/ggml-org/ggml
2. 2

   프로젝트 디렉터리로 이동합니다

   cd ggml
3. 3

   빌드 디렉터리를 만들고 CMake로 구성합니다

   mkdir build && cd build cmake ..
4. 4

   Release 모드로 라이브러리를 빌드합니다

   cmake --build . --config Release -j 8

사용 전 알아둘 점

• !코어 라이브러리만 제공되며, 상위 수준의 모델 런타임은 포함되어 있지 않습니다. C API를 사용해 직접 코드를 작성해야 합니다.
• !빌드하려면 CMake와 C/C++ 컴파일러가 필요합니다.

토픽

자주 묻는 질문

ggml은(는) 무엇인가요?

간단하고 이식성·효율성이 뛰어나며 설정 부담이 적은 머신러닝용 순수 C/C++ 텐서 라이브러리입니다. ggml은 외부 의존성 없이 순수 C와 C++로 작성된 머신러닝용 텐서 라이브러리입니다. 텐서 연산과 계산 그래프를 비롯해 ML 모델을 실행하는 데 필요한 저수준 구성 요소를 제공하며, 다른 프로그램에 쉽게 임베드할 수 있도록 설계되었습니다.

ggml은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

ggml은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

ggml은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. ggml의 마지막 커밋은 2026년 11월 4일입니다.

ggml은(는) 어디에 사용할 수 있나요?

적은 용량으로 C/C++ 애플리케이션에 ML 추론 기능 임베드 엣지 디바이스나 임베디드 하드웨어에서 텐서 연산 실행 CPU와 가속기용 양자화 모델 런타임 구축 브라우저의 WebAssembly에서 ML 워크로드 실행

ggml는 어떻게 설치하나요?

저장소를 클론합니다: git clone https://github.com/ggml-org/ggml 프로젝트 디렉터리로 이동합니다: cd ggml 빌드 디렉터리를 만들고 CMake로 구성합니다: mkdir build && cd build cmake .. Release 모드로 라이브러리를 빌드합니다: cmake --build . --config Release -j 8

ggml은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/ggml-org/ggml