Treine e execute IA em GPUs: os melhores de 2026

Uma plataforma open source completa para criar e implantar modelos de machine learning, com APIs para Python e C++.

GUI em grafo de nós, API e backend para executar modelos de difusão localmente e gerar imagens, vídeos, áudio e conteúdo 3D.

Mecanismo de inferência de LLM em C/C++ puro para executar modelos de linguagem e visão-linguagem localmente ou na nuvem, em diversos backends de hardware.

Biblioteca e servidor rápidos e eficientes em memória para executar e servir modelos de linguagem grandes com uma API compatível com a OpenAI.

Emulador de terminal multiplataforma com aceleração por GPU e OpenGL, que usa ferramentas como tmux para oferecer abas e divisões.

Biblioteca de otimização de deep learning que facilita e torna mais eficiente o treinamento distribuído e a inferência de modelos grandes.

Biblioteca C++ com bindings para Python que permite fazer busca por similaridade e clustering eficientes de vetores densos, com aceleração opcional por GPU.

Biblioteca Python que executa LLMs grandes camada por camada, permitindo inferência com modelos da classe 70B em uma única GPU de 4 GB, sem quantização.

SGLang é um framework open source de inferência para servir modelos de linguagem, visão-linguagem e difusão em diversas plataformas com GPU, TPU e CPU.

Framework minimalista de deep learning com API de tensores no estilo PyTorch, autograd, compilador e suporte a vários backends de aceleradores.

Uma plataforma de simulação para robótica e IA incorporada que combina um mecanismo de física múltipla, um renderizador fotorrealista e um compilador multiplataforma com uma interface Python.

Mecanismo de inferência local que executa o grande modelo Qwen3.8-Flash-Next em GPUs NVIDIA ou AMD de uso doméstico no Windows ou Linux, com APIs compatíveis com OpenAI e Anthropic.

Implementação oficial do FlashAttention, um kernel de atenção exata e eficiente em memória para treinar e executar inferência de modelos Transformer em GPUs.

Biblioteca otimizada para GPU e scripts de referência para treinar grandes modelos transformer com paralelismo multidimensional.

GPU.js transpila funções JavaScript simples em código de shader para executá-las na GPU em navegadores e no Node.js, com fallback para JavaScript puro.

Um mecanismo de inferência MoE nativo de edge que executa modelos grandes de pesos abertos, como DeepSeek-V4 e Qwen3.6, em GPUs e CPUs de consumo.

Uma camada de gerenciamento de cache KV que armazena, compartilha e reutiliza caches de atenção de LLMs entre mecanismos de serving para reduzir o time-to-first-token.

Livro open source e coleção de código com anotações sobre CUDA moderno e mais de 200 kernels, cobrindo HGEMM, GEMM em FP8/FP4 e Flash-Attention.

Sistema de código aberto para executar, gerenciar e escalar workloads de IA em Kubernetes, Slurm e mais de 20 provedores de nuvem ou GPU com uma única interface.

Biblioteca de templates CUDA C++ e DSL em Python para criar kernels GEMM e de álgebra linear relacionados, de alto desempenho, em GPUs NVIDIA.

Biblioteca de comunicação GPU para dispatch e combine de MoE com paralelismo de especialistas, FP8 e suporte a NVLink/RDMA para treinamento e inferência.

App para desktop que estabiliza vídeos usando dados de giroscópio gravados por câmeras e sensores externos.

Framework open source da DeepSeek para inferência offline do DeepSeek-V4.1-Flash em hardware NVIDIA SM100 e Huawei Ascend 950.

Ferramenta para Windows que permite visualizar e editar configurações de perfis do driver NVIDIA, incluindo muitas opções ocultas que não aparecem no Painel de Controle NVIDIA.

Monitor interativo de terminal para GPUs NVIDIA, com status dos dispositivos e dos processos, seletor de dispositivos via CLI e APIs Python.

Uma CLI que detecta sua GPU, CPU e RAM e classifica os LLMs locais do HuggingFace que realmente rodam no seu hardware, com base em benchmarks, não na contagem de parâmetros.

Stack de inferência on-device do PyTorch para executar modelos exportados em celulares, laptops, navegadores e microcontroladores.

Imagem Docker que executa um cliente Steam headless com desktop, permitindo transmitir jogos para um navegador, Moonlight ou Steam Link.

Uma interface web modular para gerar imagens, vídeos e áudio com IA, baseada em Stable Diffusion, Flux, Wan e outros modelos, com uma aba de workflows do ComfyUI.

Biblioteca multiplataforma de filtros de imagem e vídeo em C++ que usa OpenGL/ES e oferece efeitos de beleza e baseados em rostos.

Uma ponte de GPU por IP que permite que máquinas sem GPU usem GPUs CUDA instaladas em servidores remotos pela rede.

Um control plane open source que provisiona e orquestra recursos de GPU para treinamento e inferência em clouds, Kubernetes, VMs e clusters on-premises.

Runtime open source em Go e Python para workloads de IA serverless, incluindo endpoints de inferência em GPU, sandboxes e tarefas em segundo plano.

Emulador de terminal com renderização por GPU, feito em Rust, que mantém shells e painéis ativos após o fechamento da janela e oferece sessões integradas a agentes e acesso remoto via SSH.

Execute o ffmpeg em uma máquina remota com GPU a partir de qualquer cliente, por uma única porta TCP e sem passthrough de GPU nem sistemas de arquivos compartilhados.

Curso semana a semana para criar uma central de atendimento por voz com IA usando FastRTC, Superlinked, Twilio, Opik e Runpod.

Framework para treinar LLMs, VLMs, modelos de difusão e modelos incorporados em GPUs NVIDIA e XPUs Kunlun, baseado no Megatron-LM e em backends nativos do torch.

Configuração para servir o Mirai S 27B (um Qwen3.8-27B em GGUF) em uma RTX 4070 de 12 GB, com janela completa de 262 mil tokens e cache K/V q8_0.

Digite um prompt de texto e obtenha um personagem 3D rigado executando o movimento, com modelos de vídeo da fal, recuperação de pose com GVHMR e retargeting para Mixamo.