Repolode
inisis

inisis/OnnxSlim

Python-инструментарий для оптимизации моделей ONNX: сокращает число операторов, стремясь сохранить точность и ускорить инференс.

Звёзды
521
Форки
44
Открытые issues
31
Последний коммит
4 дня назад

Что это?

OnnxSlim уменьшает модели ONNX, удаляя избыточные операторы. В результате граф становится компактнее и обычно быстрее выполняется при инференсе. Инструментом можно пользоваться через командную строку, выполнив `onnxslim input output`, или из Python: передать загруженную модель в `onnxslim.slim()` и сохранить результат.

Проект опубликован на PyPI как `onnxslim`; его также можно установить из исходного кода. В README перечислены несколько open-source-проектов, использующих OnnxSlim в конвейерах экспорта или оптимизации моделей, в том числе Ultralytics, Hugging Face Optimum и transformers.js.

Ключевые возможности

  • 01Сокращает число операторов в графе ONNX, стремясь сохранить точность.
  • 02Предоставляет CLI-инструмент для быстрой оптимизации моделей.
  • 03Предлагает Python API, который принимает загруженную модель ONNX и возвращает оптимизированную.
  • 04Можно установить через PyPI или напрямую из исходного кода.

Сценарии использования

  • Уменьшение размера модели ONNX и числа операторов перед развёртыванием с ONNX Runtime.
  • Добавление этапа оптимизации в конвейер экспорта моделей на базе PyTorch или аналогичных фреймворков.
  • Оптимизация моделей для задач инференса с LLM или компьютерным зрением.

Быстрый старт

  1. 1

    Установить предварительно собранный пакет из PyPI

    pip install onnxslim
  2. 2

    Уменьшить размер модели ONNX из командной строки

    onnxslim your_onnx_model slimmed_onnx_model

Темы

Частые вопросы

Что такое OnnxSlim?
Python-инструментарий для оптимизации моделей ONNX: сокращает число операторов, стремясь сохранить точность и ускорить инференс. OnnxSlim уменьшает модели ONNX, удаляя избыточные операторы. В результате граф становится компактнее и обычно быстрее выполняется при инференсе. Инструментом можно пользоваться через командную строку, выполнив `onnxslim input output`, или из Python: передать загруженную модель в `onnxslim.slim()` и сохранить результат.
OnnxSlim можно использовать бесплатно? Какая у него лицензия?
OnnxSlim распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
OnnxSlim всё ещё поддерживается?
Активно поддерживается. Последний коммит в OnnxSlim — 16 окт. 2026 г..
Для чего можно использовать OnnxSlim?
Уменьшение размера модели ONNX и числа операторов перед развёртыванием с ONNX Runtime. Добавление этапа оптимизации в конвейер экспорта моделей на базе PyTorch или аналогичных фреймворков. Оптимизация моделей для задач инференса с LLM или компьютерным зрением.
Как установить OnnxSlim?
Установить предварительно собранный пакет из PyPI: pip install onnxslim Уменьшить размер модели ONNX из командной строки: onnxslim your_onnx_model slimmed_onnx_model
Где скачать OnnxSlim?
Исходный код и инструкции по установке — на GitHub: https://github.com/inisis/OnnxSlim

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты