ArtPrompt-基于ASCII艺术的越狱攻击工具

集合了基于大型语言模型（LLM）评估方法的综合调研项目，旨在为开发者、研究者和实践者提供如何有效利用LLM作为评估工具的资源。

用于强化 GenAI 应用的开源工具，旨在帮助开发人员检测和防御针对其应用的 LLM 攻击，包括一个 Playground 聊天界面，用于帮助用户迭代地提高其系统提示的安全性，支持 20 种不同的 LLM 提供商和 20 种动态 LLM 攻击模拟。

关于大型语言模型（LLM）在网络安全领域应用的全面综述项目，旨在探索LLM如何助力网络安全，包括构建网络安全领域的LLM、LLM在网络安全中的潜在应用，以及面临的挑战和未来研究方向，为相关研究人员和从业者提供宝贵资源和洞见。

ZeroTrusted.ai在网络安全领域处于前沿，提供了一种革命性的方法来保护身份和数据，特别是在大型语言模型(LLMs)时代。通过其LLM防火墙，ZeroTrusted.ai旨在降低意外数据暴露和不道德AI提供商或恶意实体利用的风险，确保用户在数字交互中拥有隐私、安全和可靠性。

AgentBench是一个多维演进基准，评估语言模型作为Agent的能力，包含8个不同环境，专注于LLM在多轮开放式生成场景中的推理和决策能力。

由LLM驱动的自主Agent集合，涵盖任务解决、多智能体协作、社会模拟等项目，提供框架、基准评估和相关资源，推动AI代理技术的发展

首款利用大型语言模型（LLM）进行零样本漏洞发现的工具，能自动分析代码，检测远程可利用的安全漏洞，帮助开发者及时发现和修复潜在的安全隐患。

Orquesta是一个实时协作和无代码平台，利用大语言模型(LLM)能力，帮助企业集成和运营其产品。该平台集中管理提示、简化实验、收集反馈，并实时洞察性能和成本，兼容所有主要的LLM供应商，确保LLM操作的透明性和可扩展性，最终缩短客户发布周期并降低实验和生产环境的成本。

Rebuff是一个还处于原型阶段的新型语言模型提示防注入系统，具有四层防护机制，包括启发式过滤、基于LLM的检测、向量数据库和Canary tokens。

Anvilogic是一个前沿的网络安全平台，旨在彻底改变企业处理威胁检测和响应的方式。它突破了传统SIEM的局限，支持多数据平台整合，能够与现有的数据湖（如Splunk、Azure和Snowflake）无缝集成，让用户在不更换现有系统的情况下管理安全数据。

writing-helper 是一款开源的 AI 写作助手，支持通过输入主题、关键词和字数控制来生成符合要求的文章。用户可以选择不同的 AI 模型，自定义写作风格提示词，并实时预览和编辑生成的文章内容，满足多种写作需求。

InstantlyFree 是一个利用人工智能简化获取免费赠品的工具。用户只需输入个人信息，便能轻松获得各种赠品，体验到高效便捷的服务。

上海人工智能实验室开源的PDF文档提取工具，能够将PDF转化为机器可读格式（如markdown、json），方便地抽取为任意格式。

INSINTO 是一个通过最新的语言数据和趋势，提供87%准确率和实时分析的AI语言分析工具，旨在帮助个人抵御在线危害。它可以独立识别和解决有害内容，确保平台安全和合规。

ai-hedge-fund 是一个基于人工智能的对冲基金交易系统，采用多代理协作架构进行交易决策。系统集成了市场数据收集、量化分析、风险管理、投资组合管理等功能，支持多种技术指标分析（如MACD、RSI等）和自动化交易决策。此外，系统具备回测功能，能够输出详细的决策推理过程，适用于教育、研究和模拟交易场景。