inisis/OnnxSlim

어떤 프로젝트인가요?

핵심 기능

• 01정확도 유지를 목표로 ONNX 그래프의 연산자 수를 줄입니다.
• 02모델을 빠르게 간소화할 수 있는 명령줄 도구를 제공합니다.
• 03로드한 ONNX 모델을 입력받아 최적화된 모델을 반환하는 Python API를 제공합니다.
• 04PyPI 패키지로 설치하거나 소스 코드에서 직접 설치할 수 있습니다.

활용 사례

• ONNX Runtime으로 배포하기 전에 ONNX 모델의 크기와 연산자 수를 줄입니다.
• PyTorch 또는 유사한 프레임워크를 기반으로 한 모델 내보내기 파이프라인에 최적화 단계를 추가합니다.
• LLM 또는 비전 추론 워크로드에 사용하는 모델을 간소화합니다.

빠른 시작

1. 1

   PyPI에서 사전 빌드된 패키지 설치하기

   pip install onnxslim
2. 2

   명령줄에서 ONNX 모델 경량화하기

   onnxslim your_onnx_model slimmed_onnx_model

토픽

자주 묻는 질문

OnnxSlim은(는) 무엇인가요?

정확도를 유지하면서 연산자 수를 줄여 ONNX 모델을 최적화하고 추론 속도 향상을 목표로 하는 Python 툴킷입니다. OnnxSlim은 중복 연산자를 제거해 ONNX 모델을 간소화합니다. 그 결과 그래프 크기가 줄고 추론도 대체로 빨라집니다. 명령줄에서 `onnxslim input output` 한 번으로 실행하거나, Python에서 로드한 모델을 `onnxslim.slim()`에 전달한 뒤 결과를 저장할 수 있습니다.

OnnxSlim은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?

OnnxSlim은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.

OnnxSlim은(는) 아직 유지보수되고 있나요?

활발히 유지보수 중. OnnxSlim의 마지막 커밋은 2026년 10월 16일입니다.

OnnxSlim은(는) 어디에 사용할 수 있나요?

ONNX Runtime으로 배포하기 전에 ONNX 모델의 크기와 연산자 수를 줄입니다. PyTorch 또는 유사한 프레임워크를 기반으로 한 모델 내보내기 파이프라인에 최적화 단계를 추가합니다. LLM 또는 비전 추론 워크로드에 사용하는 모델을 간소화합니다.

OnnxSlim는 어떻게 설치하나요?

PyPI에서 사전 빌드된 패키지 설치하기: pip install onnxslim 명령줄에서 ONNX 모델 경량화하기: onnxslim your_onnx_model slimmed_onnx_model

OnnxSlim은(는) 어디서 받을 수 있나요?

소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/inisis/OnnxSlim