garak开源项目 – 模块化的LLM漏洞扫描工具

garak是一个用于检测不良提示响应的模块化工具，专注于LLM漏洞扫描，支持多种生成模型，旨在提升安全性和响应质量。
garak的特点:
1. 模块化工具
2. 支持多种生成模型
3. 用于LLM漏洞扫描
4. 安全探测工具

garak的功能:
1. 检测LLM模型的不良提示响应
2. 进行安全漏洞扫描
3. 集成到现有的生成模型工作流中
4. 定制化扫描以适应不同的应用场景

相关导航

CodeRabbit官网 – 智能化代码审查平台

CodeRabbit是一个创新的AI驱动平台，旨在改进代码审查的方式。通过自动化审查，提升代码质量，同时显著减少繁琐的手动代码审查所需的时间和精力。该平台提供逐行反馈，建议改进和修正，增强代码的效率和稳健性。

K8sGPT官网 – 智能Kubernetes集群管理工具

K8sGPT是一款创新的AI工具，专门用于扫描Kubernetes集群、诊断和处理问题，利用简单的英语进行交流。它独特地结合了SRE（网站可靠性工程）专业知识，简化了识别集群中关键问题的过程，并将复杂信号转化为易于理解的建议，是负载健康分析、快速问题处理和深入AI分析的重要资产。

HateHoundAPI官网 – 快速、免费的AI毒性内容检测器

HateHoundAPI是一个强大的工具，能够快速识别和过滤网页应用中的毒性内容。它采用先进的AI技术，帮助开发者轻松维护在线环境的健康与安全。

PromptxAI Generative AI Playbook and App官网 – 助力企业与个人的生成式AI资源

PromptxAI Generative AI Playbook是一个资源库，帮助企业和个人利用生成式AI实现增长与创新。该项目提供了示例、框架和技术，帮助用户入门生成式AI。它包括内容生成、内容获取以及影响未来工作的趋势等热门示例，并提供了包含提示管理、LLM模型、内容增强等工具的扩展手册。此外，用户可以学习提示工程技术，以优化生成式AI应用程序的性能，如ChatGPT、DALL-E和Midjourney。手册还提供加速器笔记本和代码库，帮助用户开始使用生成式AI。

Foundations of Large Language Models-概述大型语言模型的基本概念

本书旨在概述大型语言模型的基本概念并介绍相关技术，重点在于大型语言模型的基础方面，而不是全面覆盖所有前沿方法。

generative-models开源项目 – 多种生成模型的PyTorch实现

该项目提供了多种生成模型的PyTorch实现，包括VAE、BIRVAE、NSGAN、MMGAN、WGAN、WGANGP、LSGAN、DRAGAN、BEGAN、RaGAN、InfoGAN、fGAN和FisherGAN等。代码带有详细注释，易于理解，并包含交互式可视化工具，帮助用户更好地理解和解释不同生成模型的行为。

Implicit Nonlinear Diffusion Model开源项目 – 最大似然训练的隐式非线性扩散模型

隐式非线性扩散模型的最大似然训练，旨在通过学习复杂数据分布来提升生成模型的性能。

Awesome-Physics-aware-Generation开源项目 – 物理感知生成技术集合

关于物理感知生成技术的集合，旨在通过结合物理定律和生成模型，推动科学研究和未来技术发展

SemanticStyleGAN开源项目 – 可控图像合成与编辑

SemanticStyleGAN是一个用于可控图像合成和编辑的生成模型，它学习组合生成先验，从而实现对图像风格的精确控制。

Awesome-Human-Centric-Foundation-Models – 人类中心基础模型资源库

这是一个专注于人类中心基础模型（HcFM）的GitHub项目，旨在为人类感知、生成和Agent建模提供强大的模型支持。项目涵盖了四大类模型，包括感知、生成、统一建模和Agent建模，并收录了超过30篇前沿学术论文，为研究者提供了丰富的资源。此外，项目还提供了详细的分类和项目链接，方便用户快速上手和应用。

Planify官网 – 终极旅行助手

Planify是一款智能旅行规划应用，只需告诉我们目的地和停留时间，其余的交给我们来处理。

cisip-FIRe开源项目 – 促进图像检索研究的开源项目

Fast Image Retrieval (FIRe) 是一个开源项目，旨在促进图像检索研究，提供高效的图像搜索和特征提取功能。

Fast Neural Style开源项目 – 快速图像风格转换

Fast Neural Style是由Facebook AI Research（FAIR）开发的一款图像风格转换模型，能够将任意图像转化为指定艺术风格的图像。通过深度卷积神经网络（CNN）和风格迁移技术，Fast Neural Style能够将普通图像快速转换成类似梵高、毕加索等大师的画作风格。该模型优化了风格转换的速度和质量，适用于艺术创作、社交平台内容生成、图像编辑等领域。

Awesome-System2-Reasoning-LLM开源项目 – 追踪LLM推理能力进展的开源仓库

这是一个公开的GitHub仓库，专注于收集和研究大型语言模型（LLM）在推理能力上的进展，特别是从快速直觉性思维（System 1）到缓慢、有理性的思维（System 2）的过渡。该仓库包含一份调查论文，探讨了推理LLM的发展、基础技术、基准数据集以及未来的发展方向。

go-profiler-notes开源项目 – 繁忙开发者的Go性能分析指南

这是一本全面介绍Go应用程序性能分析、追踪和可观察性的指南，涵盖了多种工具和技术，提供实际示例和最佳实践，重点关注可观察性和监控解决方案。