AI-magic AI-magic AI-magic AI-magic
  • 热门推荐
  • AI工具导航
    • AI工具
    • AI对话工具
    • AI写作工具
    • AI提示工具
    • AI办公工具
    • AI图像工具
    • AI音频工具
    • AI视频工具
    • AI设计工具
    • AI编程工具
    • AI学习网站
    • AI开发框架
    • AI其他工具
  • 开源导航
    • AI开源项目
    • 开源项目
  • 工具站导航
  • AI教程
  • AI百科
  • AI书籍
  • AI资源
  • AI快讯
  • 网站提交
AI-magic AI-magic
  • 首页
  • 黑洞
  • 导航主题
  • 图标

    Elo机制安全测试

    Chatbot Arena: Improving Your Model Ranking Through Vote Rigging开源 – 揭露大模型评测平台投票欺诈漏洞的研究
    Chatbot Arena: Improving Your Model Ranking Through Vote Rigging开源 – 揭露大模型评测平台投票欺诈漏洞的研究

    该项目由新加坡南洋理工大学团队发起,针对Chatbot Arena平台(一个通过用户两两匿名投票评估大语言模型的流行平台)的投票欺诈漏洞进行深入研究。 研究发现,通过特定策略操纵少量投票即可显著改变目标模型的排名,例如使用"全在策略"可使目标模型Phi-3-small-8k-Instruct排名提升15位(仅需约27,000张操纵票)。 研究揭示了众包评估平台普遍存在的安全风险,并提供了防御机制测试工具。项目包含完整的模拟系统、多种作弊策略实现(如t_random/omni_bt_diff等)以及恶意用户检测方案。

    0
    Elo机制安全测试大模型评测平台漏洞研究投票欺诈检测工具
    AI-magic AI-magic
    AI-magic收录了大量国内外AI工具箱,包括AI写作、图像、视频、音频、编程等各类AI工具,以及常用的AI学习、技术、和模型等信息,让你轻松加入人工智能浪潮。
    Copyright © 2025 AI-magic 浙ICP备19008543号-3 
    反馈
    让我们一起共建文明社区!您的反馈至关重要!