AI安全工具集

PurpleLlama是Meta推出的开源项目，旨在为生成式AI社区提供安全和责任开发工具。项目采用网络安全领域的'紫队'理念，结合攻击（红队）和防御（蓝队）视角，通过多维度工具和评估基准提升大型语言模型的安全性。初始版本聚焦网络安全和输入/输出防护，未来将持续扩展功能。