收录 419 个预训练 AI 模型,覆盖视觉、语音、NLP 与大模型,可通过统一的 Python 命令行运行。
amd/RyzenAI-SW
AMD Ryzen AI 处理器上运行 AI 推理的教程、示例与演示代码,基于 Ryzen AI 软件工具和运行时。
- Star
- 894
- Fork
- 135
- 未关闭 Issue
- 105
- 最近提交
- 2个月前
这是什么?
本仓库是 AMD Ryzen AI 软件的示例、演示和教程合集,该软件用于在搭载 AMD Ryzen AI 处理器的 PC 上优化和部署 AI 推理。它只包含完整发行版的一部分,安装步骤请参考官方开发者文档。
示例覆盖多种模型类型:包括 CNN 图像分类、基于 YOLOv8 的目标检测、超分辨率,以及微调 DistilBERT 等 Transformer 模型,还有使用 Whisper 和 NVIDIA Parakeet TDT 的语音识别。LLM 部分基于 ONNX Runtime GenAI API,提供 RAG 流程、GPT-OSS-20B 推理和视觉语言模型运行示例;Windows ML 部分提供 ResNet、Transformer 和 LLM 的样例。
仓库使用 Git LFS 存储大体积模型文件,克隆后需要执行 git lfs pull。每个示例目录都附有单独的运行说明。量化方面提供了基于 AMD Quark 的教程。
核心功能
- 01在 AMD Ryzen AI 的 NPU 和集成 GPU 上运行 AI 推理
- 02包含 CNN、Transformer、目标检测和超分辨率示例
- 03基于 ONNX Runtime GenAI 提供 LLM 和视觉语言模型流程
- 04提供 ResNet、Transformer 和 LLM 的 Windows ML 样例
- 05包含 Whisper 和 Parakeet TDT 语音识别演示
- 06演示使用 AMD Quark 进行模型量化
适用场景
- 在 Ryzen AI 笔记本上体验本地 LLM 或视觉语言模型推理
- 将 ONNX 视觉模型部署到 Ryzen AI NPU 上
- 使用 ONNX Runtime GenAI 构建本地 RAG 应用
- 在 Windows 上通过 Whisper 实现端侧语音识别
快速上手
- 1
从官方网站安装 Git LFS
- 2
在本机设置 Git LFS
git lfs install - 3
克隆代码仓库
git clone https://github.com/amd/RyzenAI-SW.git - 4
拉取实际的 LFS 文件
git lfs pull
使用前须知
- 仅面向 AMD Ryzen AI 电脑,演示需要 Ryzen AI 硬件。
- 部分示例需要通过 Git LFS 获取大文件,安装依赖外部 Ryzen AI 软件文档。
- 本仓库只是 Ryzen AI 软件发行版的子集,每个演示需要单独按说明配置。
标签
常见问题
- RyzenAI-SW 是什么?
- AMD Ryzen AI 处理器上运行 AI 推理的教程、示例与演示代码,基于 Ryzen AI 软件工具和运行时。 本仓库是 AMD Ryzen AI 软件的示例、演示和教程合集,该软件用于在搭载 AMD Ryzen AI 处理器的 PC 上优化和部署 AI 推理。它只包含完整发行版的一部分,安装步骤请参考官方开发者文档。
- RyzenAI-SW 可以免费使用吗?用的什么许可证?
- RyzenAI-SW 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- RyzenAI-SW 还在维护吗?
- 半年内有更新。RyzenAI-SW 最近一次提交是在 2026年8月18日。
- RyzenAI-SW 适合用来做什么?
- 在 Ryzen AI 笔记本上体验本地 LLM 或视觉语言模型推理 将 ONNX 视觉模型部署到 Ryzen AI NPU 上 使用 ONNX Runtime GenAI 构建本地 RAG 应用 在 Windows 上通过 Whisper 实现端侧语音识别
- RyzenAI-SW 怎么安装和运行?
- 从官方网站安装 Git LFS 在本机设置 Git LFS: git lfs install 克隆代码仓库: git clone https://github.com/amd/RyzenAI-SW.git 拉取实际的 LFS 文件: git lfs pull
- 在哪里获取 RyzenAI-SW?
- 源代码和安装说明在 GitHub 上:https://github.com/amd/RyzenAI-SW
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
用于压缩、部署和服务大语言模型与视觉语言模型的工具包,内含 TurboMind 与 PyTorch 两种推理引擎。
基于 Rust 的大模型推理引擎,提供 OpenAI 与 Anthropic 兼容接口,支持量化与多模态模型。
带有 GLaDOS 风格语音、摄像头观察、持久记忆和工具调用的本地语音助手,附带浏览器控制台。
面向 LLM 与智能体的决策层,基于语义相似度或小型决策模型快速路由请求,并给出校准后的置信度。
基于 llama.cpp 的分支,专注 CPU 推理性能,提供更多量化类型,用于本地运行 GGUF 大模型。