AI交流(进群备注:NeMo-Guardrails)

NeMo-Guardrails是由NVIDIA提供的指南,旨在防止用户通过prompt越狱。该工具通过对用户输入和LLM输出的消息进行双重检查,确保AI系统的安全性和可靠性。
NeMo-Guardrails的特点:
- 1. 防止用户通过prompt越狱
- 2. 对用户输入和LLM输出的消息进行双重检查
NeMo-Guardrails的功能:
- 1. 用于保护AI产品免受用户通过特定prompt破解
- 2. 用于确保文档问答系统仅回复文档相关的问题
相关导航
暂无评论...