Sleeper Agents-训练能够持续学习的欺骗性大语言模型

该项目旨在研究微调语言大模型可能导致的安全性对齐问题，并探讨潜在的安全风险。它关注微调过程中可能出现的安全隐患，寻求改善现有安全基础设施的方法。

LLMDrift是一个项目，旨在研究大型语言模型（如GPT-3.5和GPT-4）的性能漂移，特别关注其性能可能随时间下降的趋势及其影响。

llm-colosseum 是一种评估大型语言模型 (LLM) 质量的新方法，通过模拟《Street Fighter 3》中的战斗表现作为基准，帮助研究人员和开发者了解和分析 LLM 的决策能力和适应性。该项目强调实时游戏中的快速决策、智能思考、适应性调整和整体弹性。

该项目汇集了关于大型语言模型有害微调的研究论文，旨在提供攻击与防御策略的最新进展和深入讨论，促进对语言模型安全性问题的关注与理解。

Inductor是一个开发工具，用于评估、确保和提升大型语言模型（LLM）应用的质量，适用于开发阶段和生产环境。

通过 LMSYS 的 Chatbot Arena 数据生成的大语言模型过去一年 ELO 的排名变化对比动画，帮助用户直观了解不同模型的表现和竞争力。

ChatGPT提示评估器是一种用于评估与ChatGPT配合使用的提示的工具，包含第二个过滤语言模型，以增强安全性和有效性。

这是一个精心策划的阅读列表，专注于机器心智理论的最新进展，基于EMNLP 2023年关于大语言模型中情境心智理论的论文构建。

一个精心策划的大语言模型自一致性相关文献资源列表，涵盖最新研究，提供详细引用和链接，分类整理不同方法和应用，鼓励社区贡献。

一个针对WPS Office的0day漏洞利用项目，利用了CVE-2022-1364和CVE-2023-36884的相关技术。

ArtPrompt 是一种针对一致的 LLM 的基于 ASCII Art 的越狱攻击技术，旨在提供新的攻击方法和思路，以评估和研究大型语言模型的安全性和抵抗力。

llm-attacks是一个针对对齐语言模型的通用可迁移对抗攻击工具，旨在通过附加对抗性后缀诱导模型产生不良内容。该项目支持多种语言模型的攻击，结合贪心和基于梯度的离散优化，能够自动生成对抗性后缀，以评估模型的鲁棒性和安全性。

Larry the Elf是一个基于人工智能的礼物推荐平台，帮助用户为朋友或家人寻找完美的礼物。只需访问我们的网站，选择您购物对象的类别，我们的先进算法将根据他们的兴趣和偏好提供个性化的礼物建议。

Rizz Lines Generator 是一个创意工具，能够将你的想法转化为独特的撩妹台词和表情包。它将你的思维转化为迷人、机智的撩妹句子，帮助你在社交场合中保持幽默和魅力。

BLAHVO ! 是首款由多个人工智能和一位小秃顶人类共同创作的现实生活卡牌游戏，结合了丰富的创意和互动体验。