Keras 3 是一个多后端深度学习框架，可运行于 JAX、TensorFlow、PyTorch 之上，OpenVINO 仅用于推理。
6.4万2万PythonApache-2.0更新于 昨天
microsoft/onnxruntime
跨平台的机器学习推理与训练加速器，用于运行 ONNX 格式的模型。
- Star
- 22,137
- Fork
- 4,347
- 未关闭 Issue
- 1,820
- 最近提交
- 2小时前
这是什么？
ONNX Runtime 是一个跨平台的机器学习推理与训练加速器。它可以运行由 PyTorch、TensorFlow/Keras 等深度学习框架，以及 scikit-learn、LightGBM、XGBoost 等经典机器学习库导出为 ONNX 格式的模型。
在推理方面，它会做图优化和算子转换，并在可用时调用硬件加速器，以降低延迟和计算成本。它兼容不同的硬件、驱动和操作系统。
在训练方面，它可以在多节点 NVIDIA GPU 上加速 Transformer 模型的训练，据项目介绍，只需在现有 PyTorch 训练脚本中添加一行代码即可接入。
核心功能
- 01运行由 PyTorch、TensorFlow/Keras 及经典机器学习库导出的 ONNX 模型
- 02通过图优化和算子转换提升推理性能
- 03在支持的情况下调用硬件加速器，兼容多种硬件与驱动
- 04在多节点 NVIDIA GPU 上加速 Transformer 模型训练
适用场景
- 在生产服务中部署训练好的深度学习模型，降低推理延迟
- 让同一个模型在不同硬件和操作系统上运行
- 在 NVIDIA GPU 集群上加速 Transformer 模型训练
快速上手
- 1
从 GitHub 发布页面获取版本
- 2
阅读 onnxruntime.ai/docs 上的使用文档和教程
使用前须知
- README 中描述的训练加速针对的是 NVIDIA GPU。
标签
常见问题
- onnxruntime 是什么？
- 跨平台的机器学习推理与训练加速器，用于运行 ONNX 格式的模型。 ONNX Runtime 是一个跨平台的机器学习推理与训练加速器。它可以运行由 PyTorch、TensorFlow/Keras 等深度学习框架，以及 scikit-learn、LightGBM、XGBoost 等经典机器学习库导出为 ONNX 格式的模型。
- onnxruntime 可以免费使用吗？用的什么许可证？
- onnxruntime 以 MIT 许可证开源。用于商业产品前，请先确认许可证条款。
- onnxruntime 还在维护吗？
- 活跃维护中。onnxruntime 最近一次提交是在 2026年10月22日。
- onnxruntime 适合用来做什么？
- 在生产服务中部署训练好的深度学习模型，降低推理延迟 让同一个模型在不同硬件和操作系统上运行 在 NVIDIA GPU 集群上加速 Transformer 模型训练
- onnxruntime 怎么安装和运行？
- 从 GitHub 发布页面获取版本 阅读 onnxruntime.ai/docs 上的使用文档和教程
- 在哪里获取 onnxruntime？
- 源代码和安装说明在 GitHub 上：https://github.com/microsoft/onnxruntime
概要由 AI 根据项目 README 生成；GitHub 数据每日更新。
相关项目
微软出品的 12 周 24 课初学者 AI 课程，涵盖符号 AI、神经网络、计算机视觉、NLP 和 AI 伦理，配有 PyTorch 与 TensorFlow 代码。
7万1.4万Jupyter NotebookMIT更新于 上个月
用于可视化神经网络、深度学习和机器学习模型结构的查看器，支持 ONNX、PyTorch 等多种格式。
3.4万3191JavaScriptMIT更新于 4天前
一个 Python 机器学习代码转换库，可在 PyTorch、TensorFlow、JAX、NumPy 等框架之间互相转换代码。
1.4万5443PythonOther更新于 8小时前
用于跟踪、可视化和管理机器学习实验、数据集与模型的 Python 库及托管平台。
1.1万907PythonMIT更新于 3小时前
基于 PyTorch 的计算机视觉工具库，支持目标检测、实例分割和图像分类的训练与模型导出。
5.8万1.7万PythonAGPL-3.0更新于 4天前