Servidor de inferencia autogestionado que sirve modelos de embeddings, reranking, extracción, OCR, guardrails y LLM desde un único clúster en tu propia nube.
3,4 mil322PythonApache-2.0Actualizado hace 12 horas
#inference-server
Proyectos open source sobre «inference-server»
Repositorios de GitHub seleccionados relacionados con inference-server, con resúmenes de IA y métricas clave.
Ordenar:Añadidos recientemente
1 repositorio