Open source проекты по теме «vllm»

Запуск DeepSeek-V4.1-Flash (552B MoE) на четырёх NVIDIA DGX Spark с TensorFold и vLLM: скрипты запуска, патчи и результаты замеров.

Библиотека Python выявляет сбои декодирования LLM — например, циклы повторов и смену языка на ходу, — чтобы отсечь некорректные токены до того, как их увидят пользователи.

Мультимодальная модель с открытыми весами и 9 млрд параметров для визуального понимания, пространственных рассуждений, работы с инструментами и исследований embodied AI, построенная на Qwen3.5 и C-RADIOv4-H.

Spark-X2.5 — серия языковых моделей с открытыми весами (4B и 1.7B) для агентного программирования и работы с инструментами на локальных устройствах.