Сервер инференса для самостоятельного развёртывания: запускает модели эмбеддингов, reranking, извлечения данных, OCR, защиты и LLM в одном кластере в вашем облаке.
3,4 тыс.322PythonApache-2.0Обновлён 5 часов назад
#inference-server
Open source проекты по теме «inference-server»
Отобранные репозитории GitHub по теме inference-server с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий