开源 Python 网页爬虫，可将任意网站转换为适合 LLM 使用的干净 Markdown。
8.6万8915PythonApache-2.0更新于 4天前
superlinked/sie
可自托管的推理服务器，用一个集群统一提供嵌入、重排序、信息抽取、OCR 和生成等模型服务。
- Star
- 3,410
- Fork
- 322
- 未关闭 Issue
- 31
- 最近提交
- 10小时前
这是什么？
SIE（Superlinked Inference Engine）是一个开源推理服务器，目标是通过一套 API 运行智能体所需的全部模型。它不必为每个任务单独部署模型服务，而是按需加载其中 100 多个已配置的模型，内存不足时淘汰最近最少使用的模型。
服务兼容 OpenAI 接口，提供嵌入、对话补全、文本补全和 responses 等端点，并附带 Python 与 TypeScript SDK。支持的任务包括语义检索（稠密、稀疏及 late-interaction 嵌入加重排序）、文档转 Markdown、零样本分类、实体与结构化信息抽取、内容安全审核、翻译、语音转写，以及图像描述和目标检测。
面向生产环境，项目提供负载均衡网关以及 Kubernetes 的 Helm Chart，支持 KEDA 自动扩缩容（可缩容至零）和 Grafana 监控面板。集成指南涵盖 LangChain、LlamaIndex、Haystack、DSPy、CrewAI，以及 Chroma、Qdrant、Weaviate、LanceDB 等向量数据库。
核心功能
- 01兼容 OpenAI 的 embeddings、chat、completions 和 responses 接口
- 02单个服务按需加载多个模型，并使用 LRU 策略淘汰
- 03提供 Helm Chart 部署到 Kubernetes，支持 KEDA 自动扩缩容和 Grafana 面板
- 04Python 与 TypeScript SDK 统一封装向量编码、重排序和信息抽取
- 05内置搜索、OCR、分类、内容安全、翻译和语音转写等预配置模型
适用场景
- 在自有云环境中为检索增强生成（RAG）流程运行嵌入和重排序模型
- 在建立索引前将 PDF 和扫描件转换为 Markdown
- 依据 schema 从工单或其他自由文本中抽取结构化字段
- 在 LLM 应用中加入内容安全检测，避免数据发送至第三方 API
标签
常见问题
- sie 是什么？
- 可自托管的推理服务器，用一个集群统一提供嵌入、重排序、信息抽取、OCR 和生成等模型服务。 SIE（Superlinked Inference Engine）是一个开源推理服务器，目标是通过一套 API 运行智能体所需的全部模型。它不必为每个任务单独部署模型服务，而是按需加载其中 100 多个已配置的模型，内存不足时淘汰最近最少使用的模型。
- sie 可以免费使用吗？用的什么许可证？
- sie 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
- sie 还在维护吗？
- 活跃维护中。sie 最近一次提交是在 2026年10月18日。
- sie 适合用来做什么？
- 在自有云环境中为检索增强生成（RAG）流程运行嵌入和重排序模型 在建立索引前将 PDF 和扫描件转换为 Markdown 依据 schema 从工单或其他自由文本中抽取结构化字段 在 LLM 应用中加入内容安全检测，避免数据发送至第三方 API
- 在哪里获取 sie？
- 源代码和安装说明在 GitHub 上：https://github.com/superlinked/sie
概要由 AI 根据项目 README 生成；GitHub 数据每日更新。
相关项目
一体化 AI 应用，支持与文档对话、运行 AI Agent，优先本地部署并支持多用户。
6.7万7533JavaScriptMIT更新于 前天
开源自主研究智能体，可基于网页和本地文档进行深度研究，使用任意 LLM 服务并生成带引用的报告。
3万4288PythonApache-2.0更新于 8天前
开源中文书籍，围绕“Agent = LLM + 上下文 + 工具”讲解 AI Agent 的设计原理与工程实践，附带分章配套实验。
5.5万6256PythonApache-2.0更新于 11天前
基于 LLM 与图结构流水线的 Python 库，依据自然语言提示从网页和本地文档中提取结构化数据。
3.2万3367PythonMIT更新于 13天前
一个运行在自有设备上、通过 WhatsApp、Telegram、Slack、Discord 等聊天应用响应你的个人 AI 助手。
39.2万8.2万TypeScriptMIT更新于 10小时前