Servir DeepSeek-V4.1-Flash (MoE de 552B) en cuatro NVIDIA DGX Spark con TensorFold y vLLM, con scripts de lanzamiento, parches y resultados medidos.
#vllm
Proyectos open source sobre «vllm»
Repositorios de GitHub seleccionados relacionados con vllm, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
4 repositorios
11920PythonMITActualizado hace 5 horas
Biblioteca de Python que detecta corrupción en la decodificación de LLM, como bucles de repetición y cambios de idioma a mitad de la generación, para descartar tokens defectuosos antes de que los vean los usuarios.
10015PythonApache-2.0Actualizado hace 27 días
Modelo multimodal de pesos abiertos con 9B parámetros para comprensión visual, razonamiento espacial, uso de herramientas e investigación en IA encarnada, basado en Qwen3.5 y C-RADIOv4-H.
3,1 mil540PythonApache-2.0Actualizado el mes pasado
Spark-X2.5 es una serie de modelos de lenguaje de pesos abiertos (4B y 1.7B) orientados a la programación con agentes y al uso de herramientas en hardware local y dispositivos.
812110Apache-2.0Actualizado hace 29 días