Repolode
Enviar
superlinked

superlinked/sie

Servidor de inferencia autogestionado que sirve modelos de embeddings, reranking, extracción, OCR, guardrails y LLM desde un único clúster en tu propia nube.

Alternativa open source a:Hugging Face Inference EndpointsOpenAI APICohere Rerank

Ver en GitHubSitio web
Estrellas
3,410
Forks
322
Issues abiertos
31
Último commit
hace 14 horas

¿Qué es?

SIE (Superlinked Inference Engine) es un servidor de inferencia de código abierto diseñado para ejecutar todos los modelos que necesita un agente detrás de una sola API. En lugar de ejecutar un servidor de modelos distinto para cada tarea, carga bajo demanda cualquiera de sus más de 100 modelos configurados y expulsa los que llevan más tiempo sin usarse cuando necesita memoria.

El servidor ofrece endpoints compatibles con OpenAI para embeddings, chat completions, completions y responses, e incluye un SDK de Python y otro de TypeScript. Entre las tareas compatibles se incluyen la búsqueda semántica (embeddings densos, dispersos y de interacción tardía, además de reranking), la conversión de documentos a Markdown, la clasificación zero-shot, la extracción de entidades y datos estructurados, las comprobaciones de seguridad de contenido, la traducción, la transcripción y la generación de descripciones o la detección de imágenes.

Para producción, el proyecto incluye una gateway con balanceo de carga y charts de Helm para Kubernetes, con autoescalado mediante KEDA y dashboards de Grafana. Las guías de integración abarcan LangChain, LlamaIndex, Haystack, DSPy, CrewAI, Chroma, Qdrant, Weaviate y LanceDB.

Funciones clave

  • 01Endpoints compatibles con OpenAI para embeddings, chat, completions y responses
  • 02Carga de muchos modelos bajo demanda, con expulsión LRU en un único servidor
  • 03Despliegue en Kubernetes con charts de Helm, autoescalado mediante KEDA y dashboards de Grafana
  • 04SDK de Python y TypeScript con un único cliente para codificación, puntuación y extracción
  • 05Modelos preconfigurados para búsqueda, OCR, clasificación, guardrails, traducción y transcripción

Casos de uso

  • Ejecutar modelos de embeddings y reranking para un pipeline de generación aumentada por recuperación en tu propia nube
  • Convertir PDF y documentos escaneados a Markdown antes de indexarlos
  • Extraer campos estructurados de tickets de soporte u otros textos libres según un esquema
  • Añadir comprobaciones de seguridad de contenido a una aplicación con LLM sin enviar datos a una API de terceros

Temas

#inference-server#embeddings#semantic-search#reranking#rag#kubernetes#openai-compatible#llm#bge#colbert

Preguntas frecuentes

¿Qué es sie?
Servidor de inferencia autogestionado que sirve modelos de embeddings, reranking, extracción, OCR, guardrails y LLM desde un único clúster en tu propia nube. SIE (Superlinked Inference Engine) es un servidor de inferencia de código abierto diseñado para ejecutar todos los modelos que necesita un agente detrás de una sola API. En lugar de ejecutar un servidor de modelos distinto para cada tarea, carga bajo demanda cualquiera de sus más de 100 modelos configurados y expulsa los que llevan más tiempo sin usarse cuando necesita memoria.
¿sie es gratuito? ¿Qué licencia tiene?
sie es open source bajo la licencia Apache-2.0. Revisa los términos de la licencia antes de usarlo en productos comerciales.
¿sie sigue mantenido?
Mantenimiento activo. El último commit de sie fue el 18 oct 2026.
¿Para qué puedo usar sie?
Ejecutar modelos de embeddings y reranking para un pipeline de generación aumentada por recuperación en tu propia nube Convertir PDF y documentos escaneados a Markdown antes de indexarlos Extraer campos estructurados de tickets de soporte u otros textos libres según un esquema Añadir comprobaciones de seguridad de contenido a una aplicación con LLM sin enviar datos a una API de terceros
¿Dónde consigo sie?
El código fuente y las instrucciones de instalación están en GitHub: https://github.com/superlinked/sie

Resumen generado por IA a partir del README del proyecto. Las estadísticas de GitHub se actualizan a diario.

Proyectos relacionados