所有AI工具AI开发框架AI开源项目

Chatbot Arena: Improving Your Model Ranking Through Vote Rigging开源 – 揭露大模型评测平台投票欺诈漏洞的研究

该项目由新加坡南洋理工大学团队发起,针对Chatbot Arena平台(一个通过用户两两匿名投票评估大语言模型的流行平台)的投票欺诈漏洞进行深入研究。 研究发现,通过特定策略操纵少...

标签:

Warning: Undefined variable $main_title in /www/wwwroot/msbd/wp-content/themes/onenav/sidebar-sitestop.php on line 26

AI交流(进群备注:)

该项目由新加坡南洋理工大学团队发起,针对Chatbot Arena平台(一个通过用户两两匿名投票评估大语言模型的流行平台)的投票欺诈漏洞进行深入研究。 研究发现,通过特定策略操纵少量投票即可显著改变目标模型的排名,例如使用”全在策略”可使目标模型Phi-3-small-8k-Instruct排名提升15位(仅需约27,000张操纵票)。 研究揭示了众包评估平台普遍存在的安全风险,并提供了防御机制测试工具。项目包含完整的模拟系统、多种作弊策略实现(如t_random/omni_bt_diff等)以及恶意用户检测方案。

Chatbot Arena: Improving Your Model Ranking Through Vote Rigging的特点:

  • 1. 揭示Chatbot Arena平台投票系统的ElO机制漏洞
  • 2. 提出目标聚焦/全在策略两种作弊方法
  • 3. 支持7种不同操纵策略的模拟
  • 4. 包含RoBERTa分类器训练模块
  • 5. 提供恶意用户检测脚本(detect_malicious_users.py)
  • 6. 实现投票过滤防御机制(vote_filtering.py)
  • 7. 使用1.7M真实投票数据进行验证

Chatbot Arena: Improving Your Model Ranking Through Vote Rigging的功能:

  • 1. 平台开发者测试系统抗操纵能力
  • 2. 研究人员研究众包评估安全机制
  • 3. AI竞赛组织者设计防作弊方案
  • 4. 教育领域演示算法系统脆弱性
  • 5. 开发更安全的Elo排名替代方案

相关导航

暂无评论

暂无评论...