面向 Java 的开源 LLM 应用开发库,统一对接多家大模型与向量数据库,支持工具调用、智能体和 RAG。
ksylvest/omniai
统一的 Ruby API,用同一套接口调用 OpenAI、Anthropic、Google、Mistral、DeepSeek 等多家 AI 服务。
- Star
- 254
- Fork
- 15
- 未关闭 Issue
- 1
- 最近提交
- 8天前
这是什么?
OmniAI 是一个 Ruby 库,为多家 AI 服务提供统一的调用接口,支持 Anthropic、DeepSeek、Google、Mistral 和 OpenAI。每家服务商以独立 gem 发布,按需安装即可,切换服务商时只需更换客户端,业务调用代码基本不变。
它覆盖聊天(支持流式输出、多模态输入、工具调用,并可通过 schema 获取结构化输出)、文字转语音、语音转文字和向量嵌入。项目还提供用于快速测试的命令行工具,以及基于 stdio 运行的 MCP 服务器实现。
对于兼容 OpenAI 接口的服务(如 LocalAI、Ollama),可通过自定义 host 接入;同时支持日志与超时配置,并在服务商支持时提供扩展推理和 prompt 缓存选项。
核心功能
- 01用统一接口调用 OpenAI、Anthropic、Google、Mistral、DeepSeek 等服务商
- 02支持流式输出、系统与用户消息以及图片输入的聊天
- 03通过 Ruby 工具类实现工具调用,并可用 schema 获取结构化结果
- 04支持文字转语音、语音转文字和向量嵌入
- 05提供命令行工具以及基于 stdio 的 MCP 服务器
适用场景
- 在 Ruby 或 Rails 应用中调用大模型,同时避免绑定单一厂商
- 用相同代码对比不同服务商的回复
- 为 Ruby 服务添加语音转写或语音合成功能
- 将 Ruby 应用接入本地兼容 OpenAI 接口的模型服务
快速上手
- 1
安装主 omniai gem
gem install omniai - 2
安装提供商 gem,例如 OpenAI
gem install omniai-openai - 3
创建客户端并发送聊天请求
使用前须知
- 需要各个 AI 提供商的 API 密钥才能发起请求。
- 每个提供商都需要单独安装对应的 gem。
收录于专题
标签
常见问题
- omniai 是什么?
- 统一的 Ruby API,用同一套接口调用 OpenAI、Anthropic、Google、Mistral、DeepSeek 等多家 AI 服务。 OmniAI 是一个 Ruby 库,为多家 AI 服务提供统一的调用接口,支持 Anthropic、DeepSeek、Google、Mistral 和 OpenAI。每家服务商以独立 gem 发布,按需安装即可,切换服务商时只需更换客户端,业务调用代码基本不变。
- omniai 可以免费使用吗?用的什么许可证?
- omniai 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
- omniai 还在维护吗?
- 活跃维护中。omniai 最近一次提交是在 2026年10月30日。
- omniai 适合用来做什么?
- 在 Ruby 或 Rails 应用中调用大模型,同时避免绑定单一厂商 用相同代码对比不同服务商的回复 为 Ruby 服务添加语音转写或语音合成功能 将 Ruby 应用接入本地兼容 OpenAI 接口的模型服务
- omniai 怎么安装和运行?
- 安装主 omniai gem: gem install omniai 安装提供商 gem,例如 OpenAI: gem install omniai-openai 创建客户端并发送聊天请求
- 在哪里获取 omniai?
- 源代码和安装说明在 GitHub 上:https://github.com/ksylvest/omniai
概要由 AI 根据项目 README 生成;GitHub 数据每日更新。
相关项目
1.3万+37 本周2667JavaApache-2.0更新于 昨天
一个 Rust 库,用统一的 API 调用多家 AI 服务商,并尽量使用各家原生协议。
937+14 本周198RustApache-2.0维护活跃更新于 3天前
面向手机、可穿戴设备、机器人和微控制器的端侧小模型,支持工具调用、结构化抽取、向量嵌入和语音转文字。
12无许可证维护活跃更新于 前天
一个轻量级 Python 库,用统一的 OpenAI 风格接口调用多家大模型服务,并提供带工具和 MCP 支持的 Agents API。
1.6万+15 本周1738PythonMIT更新于 2个月前
基于 Java 的 HTTP 代理,为多种聊天补全与向量嵌入模型、助手及应用提供统一 API。
66244JavaApache-2.0更新于 昨天
一个 Java 库,用于调用 Ollama 服务器的 REST API,支持对话、生成、工具调用、向量嵌入和模型管理。
509+3 本周85JavaMIT更新于 13天前