
NVIDIA NeMo Guardrails 用应用规则约束 LLM 的输入和输出,并支持配置已有的内容审核组件。

| 功能 | 实际用法 |
|---|---|
| 输入检查 | 根据业务规则检测不适合进入模型的输入 |
| 输出验证 | 检查答案结构及内容要求 |
| 配置评估 | 用固定样本记录规则运行和复审结果 |
| 产品 | 适用情形 |
|---|---|
| NeMo Guardrails | 希望在 NVIDIA 支持的技术栈中管理模型流程 |
| Guardrails AI | 主要为数据类型和业务条件做校验 |
| LLM Guard | 偏向将输入输出扫描组件接入项目 |
官方 Python 包列明 Apache 2.0。部署和外部模型需要按实际服务查看费用。
为文档问答加入输出格式校验,在缺资料时返回人工检查标记。
应用规则、模型环境和部署权限需依组织要求设定。
模型源及使用成本单独核对。