Repolode
Предложить
amd

amd/RyzenAI-SW

Руководства, демо и примеры запуска AI-инференса на ПК с AMD Ryzen AI с помощью инструментов и среды выполнения Ryzen AI Software.

Открыть на GitHub
Звёзды
894
Форки
135
Открытые issues
105
Последний коммит
2 месяца назад

Что это?

Этот репозиторий дополняет AMD Ryzen AI Software примерами, демо и руководствами. Ryzen AI Software — набор инструментов для оптимизации и развертывания AI-инференса на ПК с AMD Ryzen AI. Здесь представлена лишь часть полного релиза Ryzen AI Software, а инструкции по установке опубликованы в официальном руководстве для разработчиков, а не в этом репозитории.

Примеры охватывают несколько семейств моделей: классификацию изображений с помощью CNN, обнаружение объектов с YOLOv8, сверхразрешение, модели Transformer, например дообученную DistilBERT, а также распознавание речи с Whisper и NVIDIA Parakeet TDT. Здесь также есть сценарии работы с LLM и vision-language-моделями на базе ONNX Runtime GenAI API, включая RAG-пайплайн и инференс GPT-OSS-20B, а также примеры для Windows ML с ResNet, Transformers и LLM.

В репозитории для хранения крупных файлов моделей используется Git LFS, поэтому после клонирования нужно установить Git LFS и выполнить команду git lfs pull. Инструкции есть в каталоге каждого примера. Квантование моделей рассматривается в руководстве по AMD Quark.

Ключевые возможности

  • 01Запускает AI-инференс на NPU и iGPU AMD Ryzen AI
  • 02Содержит примеры с CNN, Transformer, обнаружением объектов и сверхразрешением
  • 03Предлагает сценарии работы с LLM и vision-language-моделями на базе ONNX Runtime GenAI
  • 04Содержит примеры для Windows ML с ResNet, Transformers и LLM
  • 05Включает демо распознавания речи с Whisper и Parakeet TDT
  • 06Показывает, как квантовать модели с помощью AMD Quark

Сценарии использования

  • Попробовать локальный инференс LLM или VLM на ноутбуке с Ryzen AI
  • Развернуть ONNX-модель компьютерного зрения на NPU Ryzen AI
  • Создать локальное RAG-приложение с ONNX Runtime GenAI
  • Добавить распознавание речи на устройстве с Whisper в Windows

Быстрый старт

  1. 1

    Установите Git LFS с официального сайта

  2. 2

    Настройте Git LFS на своём компьютере

    git lfs install
  3. 3

    Клонируйте репозиторий

    git clone https://github.com/amd/RyzenAI-SW.git
  4. 4

    Загрузите настоящие файлы LFS

    git lfs pull

Что важно знать

  • Проект предназначен только для ПК с AMD Ryzen AI, поэтому для демонстраций требуется оборудование Ryzen AI.
  • Для некоторых примеров нужны большие файлы через Git LFS, а установка выполняется по внешней документации Ryzen AI Software.
  • Этот репозиторий содержит лишь часть релиза Ryzen AI Software, поэтому для каждой демонстрации предусмотрены отдельные инструкции по настройке.

Темы

#ai-inference#onnx-runtime#npu#llm#computer-vision#speech-recognition#quantization#windows-ml

Частые вопросы

Что такое RyzenAI-SW?
Руководства, демо и примеры запуска AI-инференса на ПК с AMD Ryzen AI с помощью инструментов и среды выполнения Ryzen AI Software. Этот репозиторий дополняет AMD Ryzen AI Software примерами, демо и руководствами. Ryzen AI Software — набор инструментов для оптимизации и развертывания AI-инференса на ПК с AMD Ryzen AI. Здесь представлена лишь часть полного релиза Ryzen AI Software, а инструкции по установке опубликованы в официальном руководстве для разработчиков, а не в этом репозитории.
RyzenAI-SW можно использовать бесплатно? Какая у него лицензия?
RyzenAI-SW распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
RyzenAI-SW всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в RyzenAI-SW — 18 авг. 2026 г..
Для чего можно использовать RyzenAI-SW?
Попробовать локальный инференс LLM или VLM на ноутбуке с Ryzen AI Развернуть ONNX-модель компьютерного зрения на NPU Ryzen AI Создать локальное RAG-приложение с ONNX Runtime GenAI Добавить распознавание речи на устройстве с Whisper в Windows
Как установить RyzenAI-SW?
Установите Git LFS с официального сайта Настройте Git LFS на своём компьютере: git lfs install Клонируйте репозиторий: git clone https://github.com/amd/RyzenAI-SW.git Загрузите настоящие файлы LFS: git lfs pull
Где скачать RyzenAI-SW?
Исходный код и инструкции по установке — на GitHub: https://github.com/amd/RyzenAI-SW

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты