Repolode
microsoft

microsoft/onnxruntime

ONNX 형식으로 내보낸 ML 모델 실행을 위한 크로스 플랫폼 가속기이며, PyTorch 스크립트 학습도 지원합니다.

스타
22,137
포크
4,347
열린 이슈
1,820
마지막 커밋
55분 전

어떤 프로젝트인가요?

ONNX Runtime은 머신러닝 추론과 학습을 위한 크로스 플랫폼 가속기입니다. PyTorch, TensorFlow/Keras 같은 프레임워크와 scikit-learn, LightGBM, XGBoost 같은 전통적인 라이브러리의 모델을 ONNX 형식으로 변환하면 실행할 수 있습니다.

추론 시 그래프 최적화와 변환을 적용하고, 사용 가능한 경우 하드웨어 가속기를 활용해 응답 시간을 단축하고 컴퓨팅 비용을 낮춥니다. 다양한 하드웨어, 드라이버, 운영체제에서 실행되도록 설계되었습니다.

학습 측면에서는 여러 노드로 구성된 NVIDIA GPU 환경에서 트랜스포머 모델을 가속하며, 기존 PyTorch 학습 스크립트에 한 줄만 추가하면 된다고 설명합니다.

핵심 기능

  • 01PyTorch, TensorFlow/Keras 및 기존 ML 라이브러리에서 내보낸 모델을 ONNX 형식으로 실행
  • 02추론 성능을 높이기 위해 그래프 최적화와 변환 적용
  • 03다양한 하드웨어와 드라이버에서 해당하는 경우 하드웨어 가속기 활용
  • 04여러 노드로 구성된 NVIDIA GPU에서 트랜스포머 모델 학습 가속

활용 사례

  • 지연 시간이 짧은 프로덕션 서비스에 학습된 딥러닝 모델 배포
  • 다양한 하드웨어와 운영체제에서 하나의 모델 실행
  • NVIDIA GPU 클러스터에서 트랜스포머 모델 학습 속도 향상

토픽

자주 묻는 질문

onnxruntime은(는) 무엇인가요?
ONNX 형식으로 내보낸 ML 모델 실행을 위한 크로스 플랫폼 가속기이며, PyTorch 스크립트 학습도 지원합니다. ONNX Runtime은 머신러닝 추론과 학습을 위한 크로스 플랫폼 가속기입니다. PyTorch, TensorFlow/Keras 같은 프레임워크와 scikit-learn, LightGBM, XGBoost 같은 전통적인 라이브러리의 모델을 ONNX 형식으로 변환하면 실행할 수 있습니다.
onnxruntime은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
onnxruntime은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
onnxruntime은(는) 아직 유지보수되고 있나요?
활발히 유지보수 중. onnxruntime의 마지막 커밋은 2026년 10월 22일입니다.
onnxruntime은(는) 어디에 사용할 수 있나요?
지연 시간이 짧은 프로덕션 서비스에 학습된 딥러닝 모델 배포 다양한 하드웨어와 운영체제에서 하나의 모델 실행 NVIDIA GPU 클러스터에서 트랜스포머 모델 학습 속도 향상
onnxruntime은(는) 어디서 받을 수 있나요?
소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/microsoft/onnxruntime

요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.

관련 프로젝트