Не зависящий от движка шлюз для LLM на Rust, который маршрутизирует запросы в форматах OpenAI и Anthropic между локальными серверами инференса и облачными провайдерами моделей.
633195RustApache-2.0Обновлён вчера
#inference-gateway
Open source проекты по теме «inference-gateway»
Отобранные репозитории GitHub по теме inference-gateway с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий