Uma coleção de 419 modelos de IA pré-treinados para visão, fala, NLP e LLMs, todos executáveis por uma CLI Python unificada usando o ailia SDK.
2,4 mil367PythonOtherAtualizado anteontem
amd/RyzenAI-SW
Tutoriais, demos e exemplos de inferência de IA em PCs com AMD Ryzen AI usando as ferramentas e o runtime do Ryzen AI Software.
- Estrelas
- 894
- Forks
- 135
- Issues abertas
- 105
- Último commit
- há 2 meses
O que é?
Este repositório reúne exemplos, demos e tutoriais complementares ao Ryzen AI Software da AMD, um toolkit para otimizar e implantar inferência de IA em PCs com AMD Ryzen AI. Ele é um subconjunto da versão completa do Ryzen AI Software; as instruções de instalação estão no guia oficial para desenvolvedores, não neste repositório.
Os exemplos abrangem várias famílias de modelos: classificação de imagens com CNNs, detecção de objetos com YOLOv8, super-resolução, modelos Transformer como o DistilBERT ajustado e reconhecimento de fala com Whisper e NVIDIA Parakeet TDT. Também há fluxos de trabalho com LLMs e modelos de visão e linguagem baseados na API ONNX Runtime GenAI, incluindo um pipeline RAG e inferência com GPT-OSS-20B, além de exemplos de Windows ML para ResNet, Transformers e LLMs.
O repositório usa Git LFS para arquivos de modelos grandes, então é preciso instalar o Git LFS e executar git lfs pull após clonar. Cada diretório de exemplo tem suas próprias instruções. A quantização é abordada em um tutorial que usa AMD Quark.
Recursos principais
- 01Executa inferência de IA em NPUs e iGPUs AMD Ryzen AI
- 02Inclui exemplos de CNNs, Transformers, detecção de objetos e super-resolução
- 03Oferece fluxos de trabalho com LLMs e modelos de visão e linguagem usando ONNX Runtime GenAI
- 04Oferece exemplos de Windows ML para ResNet, Transformers e LLMs
- 05Inclui demos de reconhecimento de fala com Whisper e Parakeet TDT
- 06Demonstra a quantização de modelos com AMD Quark
Casos de uso
- Experimentar inferência local de LLM ou VLM em um laptop com Ryzen AI
- Implantar um modelo de visão ONNX na NPU Ryzen AI
- Criar um aplicativo RAG local com ONNX Runtime GenAI
- Adicionar reconhecimento de fala no dispositivo com Whisper no Windows
Início rápido
- 1
Instale o Git LFS pelo site oficial
- 2
Configure o Git LFS na sua máquina
git lfs install - 3
Clone o repositório
git clone https://github.com/amd/RyzenAI-SW.git - 4
Baixe os arquivos LFS reais
git lfs pull
Antes de usar
- O projeto é voltado apenas para PCs com AMD Ryzen AI, então as demonstrações exigem hardware Ryzen AI.
- Alguns exemplos precisam de arquivos grandes via Git LFS, e a instalação segue a documentação externa do Ryzen AI Software.
- Este repositório é um subconjunto da versão do Ryzen AI Software, então cada demonstração tem suas próprias instruções de configuração.
Tópicos
Perguntas frequentes
- O que é RyzenAI-SW?
- Tutoriais, demos e exemplos de inferência de IA em PCs com AMD Ryzen AI usando as ferramentas e o runtime do Ryzen AI Software. Este repositório reúne exemplos, demos e tutoriais complementares ao Ryzen AI Software da AMD, um toolkit para otimizar e implantar inferência de IA em PCs com AMD Ryzen AI. Ele é um subconjunto da versão completa do Ryzen AI Software; as instruções de instalação estão no guia oficial para desenvolvedores, não neste repositório.
- RyzenAI-SW é gratuito? Qual é a licença?
- RyzenAI-SW é open source sob a licença MIT. Confira os termos da licença antes de usá-lo em produtos comerciais.
- RyzenAI-SW ainda é mantido?
- Atualizado nos últimos 6 meses. O último commit de RyzenAI-SW foi em 18 de ago. de 2026.
- Para que posso usar RyzenAI-SW?
- Experimentar inferência local de LLM ou VLM em um laptop com Ryzen AI Implantar um modelo de visão ONNX na NPU Ryzen AI Criar um aplicativo RAG local com ONNX Runtime GenAI Adicionar reconhecimento de fala no dispositivo com Whisper no Windows
- Como instalar RyzenAI-SW?
- Instale o Git LFS pelo site oficial Configure o Git LFS na sua máquina: git lfs install Clone o repositório: git clone https://github.com/amd/RyzenAI-SW.git Baixe os arquivos LFS reais: git lfs pull
- Onde consigo RyzenAI-SW?
- O código-fonte e as instruções de instalação estão no GitHub: https://github.com/amd/RyzenAI-SW
Resumo gerado por IA a partir do README do projeto. As estatísticas do GitHub são atualizadas diariamente.
Projetos relacionados
Um toolkit para compactar, implantar e servir LLMs e modelos de visão e linguagem, com engines de inferência TurboMind e PyTorch.
8,1 mil767PythonApache-2.0Atualizado há 3 horas
Engine de inferência de LLM em Rust, com APIs compatíveis com OpenAI e Anthropic, quantização, modelos multimodais e ferramentas para agentes.
7,8 mil742RustMITAtualizado ontem
Assistente de voz local com voz personalizada no estilo da GLaDOS, visão por câmera, memória persistente, ferramentas e console no navegador.
5,8 mil446PythonMITAtualizado há 10 dias
Uma camada de decisão para LLMs e agentes que roteia solicitações por similaridade semântica ou com um pequeno modelo de decisão, retornando uma confiança calibrada.
4 mil382PythonMITAtualizado há 8 horas
Fork do llama.cpp focado em acelerar a inferência em CPU, com tipos extras de quantização e recursos para executar LLMs GGUF localmente.
3,3 mil494C++MITAtualizado ontem