Repolode
yomorun

yomorun/yomo

基于 Rust 的开源 LLM Function Calling 框架,用于部署无服务器 AI 工具与智能体,支持地理分布式边缘部署。

Star
1,930
Fork
150
未关闭 Issue
1
最近提交
前天

这是什么?

YoMo 是一个用于构建 AI 智能体的框架,让智能体调用 LLM 工具(函数或 skills)。开发者把工具逻辑写成无服务器函数,由 YoMo 负责部署、运行和管理,并通过兼容 OpenAI 接口的 chat completions 端点对外提供服务。典型配置中可以使用 Ollama 作为模型提供方,通过 CLI 启动服务并运行由 `yomo init` 生成的工具项目。

项目重点关注 AI 交互的响应延迟。组件之间的通信采用 TLS 1.3 加密,架构设计上支持把推理和工具部署到靠近终端用户的位置,而不是集中在单一数据中心。工具也可以绕过 LLM、直接通过 HTTP 调用。

仓库使用 Rust 编写,通过安装脚本提供 `yomo` 命令行工具。示例项目单独维护在 llm-function-calling-examples 仓库中。

核心功能

  • 01将 LLM 工具部署为无服务器函数并统一管理。
  • 02数据包采用 TLS 1.3 加密传输。
  • 03提供兼容 OpenAI 的 chat completions 接口。
  • 04支持使用 Ollama 作为本地 LLM 提供方。
  • 05可将推理与工具分布到地理上靠近用户的边缘节点。
  • 06提供 CLI,用于启动服务、生成项目和运行工具。

适用场景

  • 构建通过函数调用查询天气等外部 API 的聊天机器人。
  • 为多地区用户提供对延迟敏感的 AI 智能体服务。
  • 无需为每个工具单独管理服务器,即可打包和迭代 LLM 工具或 skills。

快速上手

  1. 1

    使用官方安装脚本安装 YoMo CLI

  2. 2

    为 Ollama 拉取 ornith 模型

    ollama pull ornith
  3. 3

    启动 YoMo 服务器

    yomo serve
  4. 4

    生成项目并运行 get-weather 工具

    yomo init

使用前须知

  • 快速开始需要本地 Ollama 大模型服务及已下载的模型。

收录于专题

标签

常见问题

yomo 是什么?
基于 Rust 的开源 LLM Function Calling 框架,用于部署无服务器 AI 工具与智能体,支持地理分布式边缘部署。 YoMo 是一个用于构建 AI 智能体的框架,让智能体调用 LLM 工具(函数或 skills)。开发者把工具逻辑写成无服务器函数,由 YoMo 负责部署、运行和管理,并通过兼容 OpenAI 接口的 chat completions 端点对外提供服务。典型配置中可以使用 Ollama 作为模型提供方,通过 CLI 启动服务并运行由 `yomo init` 生成的工具项目。
yomo 可以免费使用吗?用的什么许可证?
yomo 没有声明许可证。代码虽然公开,但没有许可证就没有明确的使用授权,正式使用前建议先联系作者。
yomo 还在维护吗?
活跃维护中。yomo 最近一次提交是在 2026年11月5日。
yomo 适合用来做什么?
构建通过函数调用查询天气等外部 API 的聊天机器人。 为多地区用户提供对延迟敏感的 AI 智能体服务。 无需为每个工具单独管理服务器,即可打包和迭代 LLM 工具或 skills。
yomo 怎么安装和运行?
使用官方安装脚本安装 YoMo CLI 为 Ollama 拉取 ornith 模型: ollama pull ornith 启动 YoMo 服务器: yomo serve 生成项目并运行 get-weather 工具: yomo init
在哪里获取 yomo?
源代码和安装说明在 GitHub 上:https://github.com/yomorun/yomo

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目