garak开源项目 – LLM漏洞扫描工具

garak 是一款用于扫描大型语言模型（LLM）漏洞的开源工具，旨在发现 LLM 中的安全漏洞和弱点。它通过静态、动态和自适应探测技术，全面评估 LLM 的安全性，探测生成式 AI 模型的幻觉、数据泄露、提示注入、错误信息生成、毒性生成、越狱等弱点。garak 支持多种 LLM，包括 Hugging Face、Replicate、OpenAI、litellm 等，适用于安全研究人员、模型开发人员和用户识别和缓解 LLM 中的安全风险。

garak的特点:

1. 支持多种 LLM 漏洞探测，包括提示注入、对抗性生成、文本分类等
2. 提供用户友好的界面，带有进度条和详细结果
3. 结合静态、动态和自适应探测技术，全面评估 LLM 安全性
4. 支持多种 LLM 接口，如 Hugging Face、OpenAI、Replicate 等
5. 开源且免费，易于安装和使用

garak的功能:

1. 用于评估 LLM 的安全性和鲁棒性，检测潜在的漏洞和攻击媒介
2. 改进 LLM 模型的设计和开发，研究 LLM 行为
3. 通过命令行工具进行 LLM 漏洞扫描，支持自定义探测和检测器
4. 支持多种 LLM 接口，如 Hugging Face、OpenAI、Replicate 等
5. 提供详细的日志和报告，便于分析和调试

相关导航

Inductive Moment Matching (IMM)开源 – 高效稳定的图像生成模型

Inductive Moment Matching (IMM) 是一种新型生成模型，能够在单阶段从零开始训练，实现高效且稳定的样本生成。它利用随机插值器和时间相关的边缘分布，学习一个单步采样器，将分布从时间 t 转换到 s < t。通过最小化不同起始时间导出的时间 s 分布之间的最大平均差异 (MMD)，IMM 保证分布级别的收敛性。在图像生成任务上，IMM 取得了最先进的性能，例如在 ImageNet-256x256 上仅需 8 步推理，FID 达到 1.99。

Perplexica开源项目 – 一款基于AI的搜索引擎

Perplexica是一个由AI驱动的搜索引擎，是Perplexity AI的开源替代品，利用先进的机器学习算法理解用户查询，从网络中寻找答案，同时保护用户隐私。

Open-R1-Multimodel开源项目 – 多模态强化学习模型

Open-R1-Multimodel是基于Huggingface的Open-R1和deepseek-ai/DeepSeek-R1实现的多模式R1模型。它集成了Qwen2-VL系列、Aria-MoE等VLM transformers，并开源了首批8k专注于数学推理的多模态强化学习训练示例。数据由GPT4o创建，具有推理路径和可验证答案，基于Math360K和Geo170K数据集。

nagireo/sex开源项目 – 一个探索nagi和reo关系的开源项目

一个开源项目，旨在通过novelty方法验证nagi和reo的关系，并提供相关实验数据和视频，供研究者进一步探索。

llm-coder开源项目 – 本地AI生成网站代码

llm-coder是一款完全在本地运行的AI工具，旨在通过文字描述或拖拽图片的方式快速生成HTML和CSS代码。它无需API密钥或外部服务器支持，采用Apache-2.0开源许可，用户可以自由修改和分发代码，适合在本地环境中进行网站开发。

Showllable开源项目 – 简化机器学习模型展示与分享

Showllable 是一个开源项目，旨在提供一个简化的方式来展示和分享机器学习模型。它支持多种模型格式，提供用户友好的界面，允许实时预览和分享功能，集成常用的可视化工具，并支持跨平台使用。

Cline开源项目 – 一款强大的AI编程助手

Cline是一款开源的VSCode扩展工具，旨在帮助开发者在VSCode中便捷地使用AI编程助手，能够与最新的deepseek API搭配使用，显著提升开发效率，减少编码错误。它支持创建和编辑文件，能够理解大型项目，执行终端命令，并兼容任何OpenAI的API，如OpenRouter、Claude、DeepSeek等。

Wise Pizza开源项目 – 多维数据异常发现与可视化

Wise Pizza 是一个用于在多维数据中自动发现并可视化最有趣数据切片的库，帮助识别异常细分段，并了解数据中的子细分段及两个时间段或数据集之间的差异。

air-pi-play开源项目 – 使用 Raspberry Pi 实现 AirPlay 屏幕镜像

air-pi-play 是一个利用 Raspberry Pi 作为 AirPlay 服务器的项目，可以在电视、显示器和投影仪上实现屏幕镜像，提供简单的设置和良好的兼容性。

创建百万参数级语言模型助手开源项目 – 构建简化版大型语言模型

从零开始构建具有LLaMA 1架构的2.3M参数大型语言模型（LLM），无需高端GPU，采用简化数据集和基础PyTorch实现。该项目旨在使更多开发者能够在资源有限的情况下，轻松构建和训练自己的语言模型，适用于研究和开发用途。

HOVER开源项目 – 为机器人提供灵活的运动控制解决方案

HOVER为机器人运动控制提供高效、灵活的神经网络解决方案，基于强化学习技术，能够实现复杂动作的精准控制，支持多种机器人模型，适配性强，并提供详细的训练和测试流程，易于上手。

Adapter-BERT开源项目 – 高效微调BERT模型

Adapter-BERT是一个开源项目，专注于在BERT模型中应用Adapter Tuning技术，以实现参数高效的模型微调。该项目提供了相关代码和资源，帮助研究者和开发者在不完全微调整个模型的情况下，通过调整少量参数来适应新任务。该方法能够在多个任务之间共享大量参数，同时保持与完全微调相当的性能。

Potpie开源项目 – 代码库专属AI助手平台

Potpie 是一个开源平台，旨在创建针对特定代码库的自定义 AI 代理。这些代理可以自动执行代码分析、测试和开发任务，提高开发人员的生产力和效率。通过构建代码的全面知识图谱，Potpie 的助手可以理解复杂的关系，并协助从调试到特性开发的所有环节。

cdebug开源项目 – 容器调试的万能工具

cdebug 是一个专为容器调试设计的万能工具包，支持多种容器运行时，提供丰富的调试工具，易于集成到现有工作流，并且支持多种操作系统。它轻量级且高效，能够帮助开发者快速诊断和解决容器中的问题。

NewsGPT官网 – 智能新闻聚合与对话

NewsGPT是一个结合了大型语言模型（LLM）功能的新闻聚合器，旨在为用户提供来自可靠新闻来源的每日推荐和量身定制的新闻内容。该项目不仅支持用户与任何给定的新闻文章进行对话，还完全开源，展示了如何将RAG（Retrieval-Augmented Generation）技术与推荐系统结合的实际应用。

暂无评论

暂无评论...