Keras 3는 JAX, TensorFlow, PyTorch에서 실행되고 추론에는 OpenVINO도 사용할 수 있는 딥러닝 프레임워크입니다.
microsoft/onnxruntime
ONNX 형식으로 내보낸 ML 모델 실행을 위한 크로스 플랫폼 가속기이며, PyTorch 스크립트 학습도 지원합니다.
- 스타
- 22,137
- 포크
- 4,347
- 열린 이슈
- 1,820
- 마지막 커밋
- 55분 전
어떤 프로젝트인가요?
ONNX Runtime은 머신러닝 추론과 학습을 위한 크로스 플랫폼 가속기입니다. PyTorch, TensorFlow/Keras 같은 프레임워크와 scikit-learn, LightGBM, XGBoost 같은 전통적인 라이브러리의 모델을 ONNX 형식으로 변환하면 실행할 수 있습니다.
추론 시 그래프 최적화와 변환을 적용하고, 사용 가능한 경우 하드웨어 가속기를 활용해 응답 시간을 단축하고 컴퓨팅 비용을 낮춥니다. 다양한 하드웨어, 드라이버, 운영체제에서 실행되도록 설계되었습니다.
학습 측면에서는 여러 노드로 구성된 NVIDIA GPU 환경에서 트랜스포머 모델을 가속하며, 기존 PyTorch 학습 스크립트에 한 줄만 추가하면 된다고 설명합니다.
핵심 기능
- 01PyTorch, TensorFlow/Keras 및 기존 ML 라이브러리에서 내보낸 모델을 ONNX 형식으로 실행
- 02추론 성능을 높이기 위해 그래프 최적화와 변환 적용
- 03다양한 하드웨어와 드라이버에서 해당하는 경우 하드웨어 가속기 활용
- 04여러 노드로 구성된 NVIDIA GPU에서 트랜스포머 모델 학습 가속
활용 사례
- 지연 시간이 짧은 프로덕션 서비스에 학습된 딥러닝 모델 배포
- 다양한 하드웨어와 운영체제에서 하나의 모델 실행
- NVIDIA GPU 클러스터에서 트랜스포머 모델 학습 속도 향상
토픽
자주 묻는 질문
- onnxruntime은(는) 무엇인가요?
- ONNX 형식으로 내보낸 ML 모델 실행을 위한 크로스 플랫폼 가속기이며, PyTorch 스크립트 학습도 지원합니다. ONNX Runtime은 머신러닝 추론과 학습을 위한 크로스 플랫폼 가속기입니다. PyTorch, TensorFlow/Keras 같은 프레임워크와 scikit-learn, LightGBM, XGBoost 같은 전통적인 라이브러리의 모델을 ONNX 형식으로 변환하면 실행할 수 있습니다.
- onnxruntime은(는) 무료로 사용할 수 있나요? 라이선스는 무엇인가요?
- onnxruntime은(는) MIT 라이선스의 오픈소스입니다. 상업용 제품에 사용하기 전에 라이선스 조건을 확인하세요.
- onnxruntime은(는) 아직 유지보수되고 있나요?
- 활발히 유지보수 중. onnxruntime의 마지막 커밋은 2026년 10월 22일입니다.
- onnxruntime은(는) 어디에 사용할 수 있나요?
- 지연 시간이 짧은 프로덕션 서비스에 학습된 딥러닝 모델 배포 다양한 하드웨어와 운영체제에서 하나의 모델 실행 NVIDIA GPU 클러스터에서 트랜스포머 모델 학습 속도 향상
- onnxruntime은(는) 어디서 받을 수 있나요?
- 소스 코드와 설치 방법은 GitHub에 있습니다: https://github.com/microsoft/onnxruntime
요약은 프로젝트 README를 바탕으로 AI가 작성했습니다. GitHub 통계는 매일 갱신됩니다.
관련 프로젝트
Microsoft가 제공하는 12주 24강 초급 AI 커리큘럼으로, 기호 AI, 신경망, 컴퓨터 비전, NLP, 윤리를 다루며 PyTorch와 TensorFlow 노트북을 제공합니다.
ONNX, TensorFlow, PyTorch, Core ML 등 다양한 형식을 지원하는 신경망·딥러닝·머신러닝 모델 뷰어입니다.
ivy.transpile을 통해 PyTorch, TensorFlow, JAX, NumPy 등 프레임워크 간 머신러닝 코드를 변환하는 Python 라이브러리입니다.
머신러닝 실험, 데이터셋, 모델을 추적하고 시각화하며 관리하는 Python 라이브러리 및 호스팅 플랫폼입니다.
Ultralytics YOLOv5는 객체 탐지, 인스턴스 분할, 이미지 분류를 지원하며 학습과 내보내기를 제공하는 PyTorch 기반 컴퓨터 비전 툴킷입니다.