Repolode
提交项目
generative-computing

generative-computing/mellea

一个 Python 库，用于编写生成式程序，把带类型标注的 LLM 调用变成结构化、可测试的 AI 工作流。

在 GitHub 查看官网
Star
1,851
Fork
177
未关闭 Issue
161
最近提交
15小时前

这是什么？

Mellea 是一个 Python 库，用于让基于 LLM 的流程更加可预测。开发者不必手写提示词模板和输出解析器：用 Pydantic 定义返回类型、加上 @generative 装饰器的函数会直接变成结构化的 LLM 调用，函数的 docstring 即作为提示词。

除结构化输出外，可以为每次调用附加自然语言形式的需求，库会自动校验结果，不满足时进行重试。拒绝采样、多数投票等采样策略只需修改一个参数即可切换。后端支持 Ollama、OpenAI、HuggingFace、WatsonX、LiteLLM 和 Bedrock。

已有项目可以通过 mify 工具逐步接入，任何生成式程序也能作为 MCP 工具对外暴露。项目可通过 PyPI 安装，由 IBM Research 发起。

核心功能

  • 01将带类型标注的 Python 函数转为 LLM 调用，并由 Pydantic 约束输出结构。
  • 02为调用附加自然语言需求，不满足时自动重试。
  • 03通过一个参数切换拒绝采样、多数投票等采样策略。
  • 04支持 Ollama、OpenAI、HuggingFace、WatsonX、LiteLLM 和 Bedrock 后端。
  • 05可通过 mify 将现有代码逐步接入。
  • 06可将生成式程序暴露为 MCP 工具。

适用场景

  • 从非结构化文本中抽取结构化数据，如用户资料或字段信息。
  • 为生产流程中的 LLM 步骤增加输出校验和自动重试。
  • 将 LLM 函数封装为 MCP 工具，供智能体框架调用。
  • 在不修改应用代码的情况下比较不同采样策略对回答质量的影响。

快速上手

  1. 1

    使用 uv 安装库

    uv pip install mellea
  2. 2

    保存 README 示例并运行（需要正在运行的 LLM 后端，例如 Ollama）

使用前须知

  • 每次 LLM 调用都需要配置后端（如 Ollama、OpenAI 或 WatsonX），因此必须自行提供模型访问权限。

收录于专题

开源 AI Agent 框架与应用MCP Server 精选

标签

#llm#python#structured-output#generative-ai#agents#mcp#pydantic#generative-computing#llms

常见问题

mellea 是什么？
一个 Python 库，用于编写生成式程序，把带类型标注的 LLM 调用变成结构化、可测试的 AI 工作流。 Mellea 是一个 Python 库，用于让基于 LLM 的流程更加可预测。开发者不必手写提示词模板和输出解析器：用 Pydantic 定义返回类型、加上 @generative 装饰器的函数会直接变成结构化的 LLM 调用，函数的 docstring 即作为提示词。
mellea 可以免费使用吗？用的什么许可证？
mellea 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。
mellea 还在维护吗？
活跃维护中。mellea 最近一次提交是在 2026年11月6日。
mellea 适合用来做什么？
从非结构化文本中抽取结构化数据，如用户资料或字段信息。 为生产流程中的 LLM 步骤增加输出校验和自动重试。 将 LLM 函数封装为 MCP 工具，供智能体框架调用。 在不修改应用代码的情况下比较不同采样策略对回答质量的影响。
mellea 怎么安装和运行？
使用 uv 安装库: uv pip install mellea 保存 README 示例并运行（需要正在运行的 LLM 后端，例如 Ollama）
在哪里获取 mellea？
源代码和安装说明在 GitHub 上：https://github.com/generative-computing/mellea

概要由 AI 根据项目 README 生成；GitHub 数据每日更新。

相关项目