有害内容识别

一个轻量级的LLM评估库，提供多种预设的AI评判模型。支持分类器(Classifier)和评分器(Grader)两大类评判方式，可用于评估AI回答的事实准确性、幻觉检测、有害内容识别、查询质量等多个维度。

SydeLabs是一个先进的AI工具，旨在加强AI系统的安全性和风险管理。该工具旨在预防漏洞，提供实时保护以防止潜在攻击，并确保遵循不断变化的监管标准。作为部署AI技术的组织的重要组成部分，SydeLabs有效解决安全问题，帮助企业安全高效地利用AI。

Aporia.com是一个集成的AI控制平台，提供实时的护航和安全解决方案，旨在降低AI风险，确保可靠和安全的AI响应，保护知识产权，并监控和优化AI模型的表现。

AI Undetect是一款革命性的工具，帮助用户生成能够绕过AI检测系统的AI写作内容，提供全面的解决方案以应对日益增长的未被检测内容需求。

AppSec Assistant 是一款利用人工智能为您的 Jira Cloud 工单生成安全建议的工具，帮助您和您的组织实现真正的设计安全流程。它能够在不增加人手的情况下扩展您的应用安全程序，缓解安全瓶颈问题。

Align API 是一个即插即用的护栏工具，能够在AI应用中主动识别不适宜的提示，防止在推理前发送不当内容，从而节省不必要的成本，保护品牌，避免在OpenAI、Apple或Google上被封禁。

Checkstep是一个AI驱动的内容审核平台，旨在帮助用户扫描、审核和遵守内容合规性，适用于多种行业和应用场景。

Awesome MCP Servers 是一个精心整理的 Model Context Protocol (MCP) 服务器资源列表，旨在让 AI 模型能够安全地与本地和远程资源交互，扩展 AI 能力范围。该列表涵盖了文件系统、版本控制、数据库、搜索引擎等 20 多个领域，包含官方和社区实现的各种 MCP 服务器，提供丰富的选择。此外，还收录了支持 MCP 的客户端列表和实用工具，简化安装配置过程，详细标注每个服务器的实现类型，包括官方实现和多种替代实现。

该项目旨在研究大模型是否具备自省能力，通过实验验证模型是否能够利用自身内部状态来预测自身行为，从而深入理解模型的认知过程。

Neevt是一家专注于人工智能研究和部署的公司，旨在为全人类创造安全的通用人工智能。通过先进的技术和研究，Neevt希望推动AGI的发展，并确保其对社会的积极影响。