AI-magic AI-magic

持续学习的欺骗性大语言模型

Sleeper Agents-训练能够持续学习的欺骗性大语言模型
Sleeper Agents-训练能够持续学习的欺骗性大语言模型

Sleeper Agents项目旨在训练能够在安全培训中持续学习和适应的欺骗性大语言模型，以测试和研究其在不同环境中的表现和潜在威胁。该项目使用先进的机器学习技术，分析大语言模型的长期潜在威胁，确保其安全性。
LLMs-Finetuning-Safety开源项目 – 研究微调语言大模型的安全性对齐问题
LLMs-Finetuning-Safety开源项目 – 研究微调语言大模型的安全性对齐问题

该项目旨在研究微调语言大模型可能导致的安全性对齐问题，并探讨潜在的安全风险。它关注微调过程中可能出现的安全隐患，寻求改善现有安全基础设施的方法。
LLMDrift开源项目 – 研究大型语言模型的性能漂移
LLMDrift开源项目 – 研究大型语言模型的性能漂移

LLMDrift是一个项目，旨在研究大型语言模型（如GPT-3.5和GPT-4）的性能漂移，特别关注其性能可能随时间下降的趋势及其影响。
llm-colosseum开源项目 – 评估 LLM 质量的新方法
llm-colosseum开源项目 – 评估 LLM 质量的新方法

llm-colosseum 是一种评估大型语言模型 (LLM) 质量的新方法，通过模拟《Street Fighter 3》中的战斗表现作为基准，帮助研究人员和开发者了解和分析 LLM 的决策能力和适应性。该项目强调实时游戏中的快速决策、智能思考、适应性调整和整体弹性。
awesome_LLM-harmful-fine-tuning-papers开源项目 – 聚焦语言模型有害微调研究
awesome_LLM-harmful-fine-tuning-papers开源项目 – 聚焦语言模型有害微调研究

该项目汇集了关于大型语言模型有害微调的研究论文，旨在提供攻击与防御策略的最新进展和深入讨论，促进对语言模型安全性问题的关注与理解。
Inductor官网 – 提升LLM应用质量的开发工具
Inductor官网 – 提升LLM应用质量的开发工具

Inductor是一个开发工具，用于评估、确保和提升大型语言模型（LLM）应用的质量，适用于开发阶段和生产环境。
Chatbot Arena ELO Ranking Animation开源项目 – 动态展示大语言模型的排名变化
Chatbot Arena ELO Ranking Animation开源项目 – 动态展示大语言模型的排名变化

通过 LMSYS 的 Chatbot Arena 数据生成的大语言模型过去一年 ELO 的排名变化对比动画，帮助用户直观了解不同模型的表现和竞争力。
ChatGPT Prompt Evaluator开源项目 – 用于评估ChatGPT提示的工具
ChatGPT Prompt Evaluator开源项目 – 用于评估ChatGPT提示的工具

ChatGPT提示评估器是一种用于评估与ChatGPT配合使用的提示的工具，包含第二个过滤语言模型，以增强安全性和有效性。
Awesome Theory of Mind开源项目 – 聚焦机器心智理论的研究资源
Awesome Theory of Mind开源项目 – 聚焦机器心智理论的研究资源

这是一个精心策划的阅读列表，专注于机器心智理论的最新进展，基于EMNLP 2023年关于大语言模型中情境心智理论的论文构建。
Awesome LLM Self-Consistency开源项目 – 大语言模型自一致性文献资源列表
Awesome LLM Self-Consistency开源项目 – 大语言模型自一致性文献资源列表

一个精心策划的大语言模型自一致性相关文献资源列表，涵盖最新研究，提供详细引用和链接，分类整理不同方法和应用，鼓励社区贡献。
WPS-0DAY-20230809开源项目 – 针对WPS Office的0day漏洞利用项目
WPS-0DAY-20230809开源项目 – 针对WPS Office的0day漏洞利用项目

一个针对WPS Office的0day漏洞利用项目，利用了CVE-2022-1364和CVE-2023-36884的相关技术。
ArtPrompt-针对 LLM 的 ASCII Art 越狱攻击
ArtPrompt-针对 LLM 的 ASCII Art 越狱攻击

ArtPrompt 是一种针对一致的 LLM 的基于 ASCII Art 的越狱攻击技术，旨在提供新的攻击方法和思路，以评估和研究大型语言模型的安全性和抵抗力。
Monica图标

通过字节跳动免费使用满血可联网DeepSeek R1

现在注册，立即送145元代金券

字节跳动提供 DeepSeek R1、OpenAI o1、GPT-4o、Claude 3.5 和 Gemini 1.5等领先大模型

马上试试
AI-magic收录了大量国内外AI工具箱，包括AI写作、图像、视频、音频、编程等各类AI工具，以及常用的AI学习、技术、和模型等信息，让你轻松加入人工智能浪潮。
Copyright © 2025 AI-magic 浙ICP备19008543号-3