Движок инференса LLM на Rust с API, совместимыми с OpenAI и Anthropic, квантованием, мультимодальными моделями и инструментами для агентов.
7,8 тыс.742RustMITОбновлён вчера
#uqff
Отобранные репозитории GitHub по теме uqff с описаниями от ИИ и ключевыми метриками.
Движок инференса LLM на Rust с API, совместимыми с OpenAI и Anthropic, квантованием, мультимодальными моделями и инструментами для агентов.