生成式AI安全性评估

微软通过红队测试对 100 多个生成式 AI 产品进行评估，提出了一个内部威胁模型本体论，以及学到的八个主要经验，旨在帮助识别和缓解潜在的安全风险。

Autoblocks AI是一个专为产品团队设计的AI评估平台，能够协助团队高效测试、改进和扩展AI产品，无需繁琐的调整，适应任何代码库或技术栈。它提供了全面的功能来提升产品开发生命周期，包括本地测试、监控、调试以及AI产品分析，确保产品在推出前始终处于最佳状态。

Lakera是一个专为保护组织免受生成AI应用相关威胁而设计的AI安全平台，提供多种产品，如Lakera Guard、Lakera Red和Lakera PII Detection，旨在增强AI系统的安全性。

Prompt Fuzzer是一个互动工具，旨在评估您的GenAI应用程序的系统提示在动态LLM攻击下的安全性。通过攻击模拟的结果，它提供安全评估，帮助您增强系统提示的安全性。

LangWatch通过用户反馈洞察，提升生成AI的可信度和相关性，旨在促进技术与非技术用户之间的无缝协作。

0dAI是一个由人工智能驱动的网络安全工具，提供先进的分析、主动防御和数字领导力，旨在帮助用户转变安全威胁，保障未来的安全。

Custom AI companion允许用户通过简单的几次点击，个性化定制自己的AI女友，包括外观、性格和兴趣，开启独特的虚拟浪漫体验。

OnePrompt是一个创新的聊天机器人应用程序，旨在优化AI聊天体验，提供多种功能以简化聊天过程并最大化其实用性。

PromptxAI Generative AI Playbook是一个资源库，帮助企业和个人利用生成式AI实现增长与创新。该项目提供了示例、框架和技术，帮助用户入门生成式AI。它包括内容生成、内容获取以及影响未来工作的趋势等热门示例，并提供了包含提示管理、LLM模型、内容增强等工具的扩展手册。此外，用户可以学习提示工程技术，以优化生成式AI应用程序的性能，如ChatGPT、DALL-E和Midjourney。手册还提供加速器笔记本和代码库，帮助用户开始使用生成式AI。

Neevt是一家专注于人工智能研究和部署的公司，旨在为全人类创造安全的通用人工智能。通过先进的技术和研究，Neevt希望推动AGI的发展，并确保其对社会的积极影响。

FlowTransformer 是一个针对基于流量的网络入侵检测系统的Transformer框架，能够高效地处理和分析多种网络流量类型，提供强大的特征表示能力，从而实现实时的网络安全监控与攻击检测。