Entrena y ejecuta IA en GPU: los mejores de 2026

Plataforma open source integral para crear e implementar modelos de machine learning, con API para Python y C++.

Interfaz gráfica de nodos, API y backend para ejecutar modelos de difusión localmente y generar imágenes, video, audio y contenido 3D.

Motor de inferencia de LLM en C/C++ puro para ejecutar modelos de lenguaje y de visión y lenguaje localmente o en la nube, en numerosos tipos de hardware.

Biblioteca y servidor rápidos y eficientes en memoria para ejecutar y servir modelos de lenguaje grandes mediante una API compatible con OpenAI.

Un emulador de terminal multiplataforma con aceleración por GPU y OpenGL que se apoya en herramientas como tmux para las pestañas y los paneles.

Una biblioteca de optimización de deep learning que facilita y hace más eficiente el entrenamiento distribuido y la inferencia de modelos grandes.

Biblioteca de C++ con bindings para Python para buscar similitudes y agrupar vectores densos de forma eficiente, con aceleración opcional mediante GPU.

Biblioteca de Python que ejecuta modelos de lenguaje grandes capa por capa para que los modelos de 70B puedan inferir en una sola GPU de 4 GB, sin cuantización.

SGLang es un framework de inferencia de código abierto para servir modelos de lenguaje, visión y difusión en diversas plataformas GPU, TPU y CPU.

Un framework minimalista de deep learning con una API de tensores similar a PyTorch, autograd, un compilador y compatibilidad con numerosos aceleradores.

Plataforma de simulación para robótica e IA incorporada que combina un motor de física múltiple, un renderizador fotorrealista y un compilador multiplataforma mediante una interfaz Python.

Motor de inferencia local que ejecuta el gran modelo Qwen3.8-Flash-Next en GPU NVIDIA o AMD de consumo con Windows o Linux, mediante APIs compatibles con OpenAI y Anthropic.

Implementación oficial de FlashAttention, un kernel de atención exacta y eficiente en memoria para entrenar e inferir con modelos Transformer en GPU.

Biblioteca optimizada para GPU y scripts de referencia para entrenar grandes modelos Transformer con paralelismo multidimensional.

GPU.js transpila funciones sencillas de JavaScript a código de shaders para ejecutarlas en la GPU en navegadores y Node.js, con fallback a JavaScript normal.

Un motor de serving nativo para el edge que ejecuta grandes modelos de pesos abiertos, como DeepSeek-V4 y Qwen3.6, en GPU y CPU de consumo.

Una capa de gestión de KV cache que almacena, comparte y reutiliza cachés de atención de LLM entre motores de serving para reducir el tiempo hasta el primer token.

Libro y colección de código de código abierto con apuntes actuales para aprender CUDA y más de 200 kernels de HGEMM, GEMM con FP8/FP4 y Flash-Attention.

Sistema de código abierto para ejecutar, gestionar y escalar cargas de trabajo de IA en Kubernetes, Slurm y más de 20 nubes o proveedores de GPU desde una sola interfaz.

Biblioteca de plantillas de CUDA C++ y DSL de Python para escribir kernels GEMM y de álgebra lineal de alto rendimiento en GPU NVIDIA.

Biblioteca de comunicación GPU para dispatch y combine de MoE con paralelismo de expertos, dispatch FP8 y compatibilidad con NVLink/RDMA para entrenamiento e inferencia.

Aplicación de escritorio que estabiliza videos usando datos del giroscopio registrados por cámaras y sensores externos.

Framework de inferencia offline de código abierto de DeepSeek para ejecutar DeepSeek-V4.1-Flash en hardware NVIDIA SM100 y Huawei Ascend 950.

Herramienta para Windows que permite ver y editar perfiles de controladores NVIDIA, incluidas muchas opciones ocultas que no aparecen en el Panel de control de NVIDIA.

Monitor interactivo de terminal para GPU NVIDIA que muestra el estado de los dispositivos y de cada proceso, con selector de dispositivos CLI y API de Python.

Una CLI que detecta tu GPU, CPU y RAM, y clasifica los LLM locales de HuggingFace que realmente funcionan en tu hardware según benchmarks, no por cantidad de parámetros.

Stack de inferencia en el dispositivo de PyTorch para ejecutar modelos exportados en teléfonos, laptops, navegadores y microcontroladores.

Una imagen de Docker que ejecuta un cliente de Steam sin pantalla con escritorio y permite transmitir juegos a un navegador, Moonlight o Steam Link.

Interfaz web modular para generar imágenes, video y audio con IA, basada en Stable Diffusion, Flux, Wan y otros modelos, con una pestaña de flujos de trabajo de ComfyUI.

Biblioteca multiplataforma de filtros de imagen y video en C++ que funciona con OpenGL/ES e incluye efectos de belleza y basados en el rostro.

Un puente GPU-over-IP que permite a equipos sin GPU usar por red las GPU CUDA instaladas en servidores remotos.

Plano de control open source que aprovisiona y orquesta recursos de cómputo con GPU para entrenamiento e inferencia en nubes con GPU, Kubernetes, VM y clústeres locales.

Runtime open source en Go y Python para cargas de trabajo de IA serverless, con endpoints de inferencia en GPU, sandboxes y tareas en segundo plano.

Un emulador de terminal en Rust con renderizado por GPU, cuyo servidor en segundo plano mantiene vivos los shells y paneles tras cerrar la ventana, con sesiones conscientes de agentes y trabajo remoto por SSH.

Ejecuta ffmpeg en una máquina remota con GPU desde cualquier cliente a través de un único puerto TCP, sin passthrough de GPU ni sistemas de archivos compartidos.

Curso semana a semana para crear un centro de llamadas de voz con IA usando FastRTC, Superlinked, Twilio, Opik y Runpod.

Framework de entrenamiento para LLM, VLM, modelos de difusión y modelos corporizados en GPU NVIDIA y XPU Kunlun, basado en Megatron-LM y backends nativos de torch.

Configuración para servir Mirai S 27B (un Qwen3.8-27B GGUF) en una RTX 4070 de 12 GB, con una ventana completa de 262k tokens y caché K/V q8_0.

Escribe un prompt de texto y obtén un personaje 3D con rig que realiza ese movimiento, usando modelos de video de fal, recuperación de pose con GVHMR y retargeting a Mixamo.