可自托管的推理服务器，用一个集群统一提供嵌入、重排序、信息抽取、OCR 和生成等模型服务。
3410322PythonApache-2.0更新于 6小时前
#inference-server
“inference-server” 相关开源项目
与 inference-server 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
#inference-server
与 inference-server 相关的精选 GitHub 开源仓库，附 AI 中文概要与关键数据。
可自托管的推理服务器，用一个集群统一提供嵌入、重排序、信息抽取、OCR 和生成等模型服务。