guardrails-ai/guardrails

这是什么？

核心功能

• 01输入和输出防护，按可配置的校验器检查 LLM 的输入与回复。
• 02Guardrails Hub 提供现成校验器，如正则匹配、竞品提及检测和有害语言检测。
• 03基于 Pydantic 模型从 LLM 生成结构化数据。
• 04根据模型能力，使用函数调用或在提示词中写入输出模式。
• 05提供独立服务模式，包含 REST API 和兼容 OpenAI 的接口。

适用场景

• 在聊天机器人把回复发给用户前过滤有害或偏题内容。
• 防止助手提及竞品或泄露受限信息。
• 让 LLM 输出固定的 JSON 结构，供下游代码直接使用。
• 在已有的 OpenAI 应用中加入校验层，无需改写客户端代码。

快速上手

1. 1

   安装 guardrails-ai 包

   pip install guardrails-ai
2. 2

   配置 Guardrails Hub CLI

   guardrails configure
3. 3

   从 Guardrails Hub 安装一个验证器

   pip install guardrails-ai-regex-match
4. 4

   按 README 示例使用已安装的验证器创建 Guard 并运行

使用前须知

• !Guardrails 将停止托管的远程推理服务，计划于 2026 年 8 月 25 日截止。
• !验证器正迁移为需要单独安装的 PyPI 包。

标签

常见问题

guardrails 是什么？

为大语言模型应用添加输入输出防护的 Python 框架，并可从 LLM 输出中生成经校验的结构化数据。 Guardrails 是一个用于提升 LLM 应用可靠性的 Python 框架。它通过输入和输出防护（Guard）检测、量化并缓解特定类型的风险，防护由若干校验器（validator）组合而成。校验器集中在 Guardrails Hub 中提供，每个都可以作为独立包用 pip 安装。

guardrails 可以免费使用吗？用的什么许可证？

guardrails 以 Apache-2.0 许可证开源。用于商业产品前，请先确认许可证条款。

guardrails 还在维护吗？

活跃维护中。guardrails 最近一次提交是在 2026年10月15日。

guardrails 适合用来做什么？

在聊天机器人把回复发给用户前过滤有害或偏题内容。 防止助手提及竞品或泄露受限信息。 让 LLM 输出固定的 JSON 结构，供下游代码直接使用。 在已有的 OpenAI 应用中加入校验层，无需改写客户端代码。

guardrails 怎么安装和运行？

安装 guardrails-ai 包: pip install guardrails-ai 配置 Guardrails Hub CLI: guardrails configure 从 Guardrails Hub 安装一个验证器: pip install guardrails-ai-regex-match 按 README 示例使用已安装的验证器创建 Guard 并运行

在哪里获取 guardrails？

源代码和安装说明在 GitHub 上：https://github.com/guardrails-ai/guardrails