Projetos open source sobre “vllm”

Servindo o DeepSeek-V4.1-Flash (552B MoE) em quatro NVIDIA DGX Spark com TensorFold e vLLM, incluindo scripts de inicialização, patches e resultados medidos.

Biblioteca Python que detecta corrupções na decodificação de LLMs, como loops de repetição e mudança de idioma no meio da geração, para cortar tokens problemáticos antes que cheguem aos usuários.

Modelo multimodal de pesos abertos com 9 bilhões de parâmetros para compreensão visual, raciocínio espacial, uso de ferramentas e pesquisa em IA incorporada, baseado no Qwen3.5 e no C-RADIOv4-H.

Spark-X2.5 é uma série de modelos de linguagem com pesos abertos (4B e 1.7B), voltada para programação agêntica e uso de ferramentas em hardware local e dispositivos.