Repolode
Enviar
Andyyyy64

Andyyyy64/whichllm

Una CLI que detecta tu GPU, CPU y RAM, y clasifica los LLM locales de HuggingFace que realmente funcionan en tu hardware según benchmarks, no por cantidad de parámetros.

Ver en GitHub
Estrellas
6,767
Forks
373
Issues abiertos
6
Último commit
ayer

¿Qué es?

whichllm responde a la pregunta de qué LLM local puedes ejecutar bien en tu equipo. Detecta configuraciones con NVIDIA, AMD, Intel, Apple Silicon o solo CPU, estima la VRAM necesaria y la velocidad de generación de cada candidato, e imprime una lista clasificada de modelos obtenidos en tiempo real mediante la API de HuggingFace.

La clasificación se basa en resultados combinados de benchmarks como LiveBench, Artificial Analysis, Aider, Chatbot Arena ELO y Open LLM Leaderboard, y resta posiciones a las puntuaciones desactualizadas teniendo en cuenta su antigüedad. Cada puntuación incluye una etiqueta de evidencia (direct, variant, base, interpolated o self-reported), para que los resultados heredados o declarados por quien subió el modelo reciban una penalización visible. Puedes simular cualquier GPU con --gpu antes de comprar hardware, comparar opciones de actualización o averiguar qué GPU necesitas para un modelo determinado.

Además de recomendar modelos, la herramienta puede descargar uno y permitirte conversar con él mediante llama-cpp-python, transformers o AutoAWQ/AutoGPTQ, imprimir fragmentos de Python listos para ejecutar y generar resultados en JSON o Markdown para scripts e incidencias.

Funciones clave

  • 01Detecta automáticamente hardware NVIDIA, AMD, Intel, Apple Silicon o solo CPU
  • 02Clasifica modelos según benchmarks reales combinados, con penalización según su antigüedad
  • 03Estima si caben en la VRAM, la descarga total o parcial a la GPU y los tokens por segundo
  • 04Simula cualquier GPU o configuración multi-GPU con --gpu antes de comprar
  • 05Busca el hardware necesario para un modelo con plan
  • 06Permite conversar con un modelo con un solo comando mediante run y copiar y pegar código Python mediante snippet
  • 07Genera resultados en JSON y Markdown para scripts y para compartir

Casos de uso

  • Elegir un modelo local antes de comprar o actualizar una GPU
  • Encontrar el modelo más grande que funcione sin problemas en una laptop o computadora de escritorio
  • Comprobar qué GPU requiere un modelo concreto, como Llama 70B
  • Pasar el ID del modelo mejor clasificado a scripts o a un flujo de trabajo de Ollama

Inicio rápido

  1. 1

    Ejecuta la recomendación una vez sin configurar nada

    uvx whichllm@latest
  2. 2

    Simula una GPU antes de comprar hardware

    uvx whichllm@latest --gpu "RTX 4090"
  3. 3

    Instálalo si vas a usarlo con frecuencia

    uv tool install whichllm

Antes de usarlo

  • La clasificación de modelos depende de los datos actualizados de HuggingFace y de las fuentes de benchmarks, por lo que los resultados pueden cambiar con el tiempo.
  • Las cifras de velocidad y VRAM son estimaciones, no mediciones en tiempo real en tu equipo.

Temas

#local-llm#llm#gpu#huggingface#benchmark#cli#hardware#quantization#localllm

Preguntas frecuentes

¿Qué es whichllm?
Una CLI que detecta tu GPU, CPU y RAM, y clasifica los LLM locales de HuggingFace que realmente funcionan en tu hardware según benchmarks, no por cantidad de parámetros. whichllm responde a la pregunta de qué LLM local puedes ejecutar bien en tu equipo. Detecta configuraciones con NVIDIA, AMD, Intel, Apple Silicon o solo CPU, estima la VRAM necesaria y la velocidad de generación de cada candidato, e imprime una lista clasificada de modelos obtenidos en tiempo real mediante la API de HuggingFace.
¿whichllm es gratuito? ¿Qué licencia tiene?
whichllm es open source bajo la licencia MIT. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿whichllm sigue mantenido?
Mantenimiento activo. El último commit de whichllm fue el 19 oct 2026.
¿Para qué puedo usar whichllm?
Elegir un modelo local antes de comprar o actualizar una GPU Encontrar el modelo más grande que funcione sin problemas en una laptop o computadora de escritorio Comprobar qué GPU requiere un modelo concreto, como Llama 70B Pasar el ID del modelo mejor clasificado a scripts o a un flujo de trabajo de Ollama
¿Cómo se instala whichllm?
Ejecuta la recomendación una vez sin configurar nada: uvx whichllm@latest Simula una GPU antes de comprar hardware: uvx whichllm@latest --gpu "RTX 4090" Instálalo si vas a usarlo con frecuencia: uv tool install whichllm
¿Dónde consigo whichllm?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/Andyyyy64/whichllm

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados