全球Deepfake攻防挑战赛：AI向善的科技之战

Deepfake技术的挑战与风险

Deepfake技术，即通过深度学习模型生成逼真的虚假内容，近年来在全球范围内引发了广泛关注。尤其是在韩国，近期曝出的Deepfake女性受害事件，被认为是采用新犯罪手段的“N号房”案件重现。这一事件不仅让人工智能的应用与安全再次受到广泛关注，也凸显了Deepfake技术带来的社会风险。

中科院VisionRush团队的开源行动

中科院女工程师张欣怡宣布其团队将参加外滩大会AI创新赛·全球Deepfake攻防挑战赛的AI模型向全球开源。张欣怡所在的中科院自动化所VisionRush团队已将参赛模型分享至Github，希望通过开源降低技术使用门槛，守护真实世界。张欣怡在微博中表示：“这个世界有黑暗，也有照亮黑暗的光。如果一个人的火把太小，我们就把火把传给世界的每一个人。”

外滩大会的科技智能创新大赛

外滩大会首次增设“科技智能创新大赛”，其中Deepfake大赛针对“AI换脸”欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、越南等26个国家和地区。Deepfake攻防赛由中国工程院院士王耀南担任专家委员会名誉主席，蚂蚁数科ZOLOZ和天玑实验室作为大赛出题方，赛题包含图像和音视频两大主流的Deepfake研究方向，是CV(即计算机视觉)领域最权威赛事之一。

技术发展与安全挑战

随着生成式AI技术的发展，Deepfake的门槛越来越低，如今仅凭一张照片，便可以低成本炮制大量肉眼难辨真伪的图片和视频。据不完全统计，仅在2022年，我国AI诈骗案件就达到了50万件，涉及金额超过100亿元。因此，如何确保我们的安全、防止AI技术的滥用，或者及时识别出Deepfake的诡计，变得迫在眉睫。

推动AI向善的初心

外滩大会AI创新赛·全球Deepfake攻防挑战赛的目的不仅是唤起社会对AI安全的关注，更是为了吸引更多的投入，并培养实战型人才，使识别虚假内容的对抗技术能够跟上生成式AI的步伐，将AI技术纳入道德的框架内。推动AI健康发展，不是少数人的任务。在AI广泛应用于各个领域的情况下，社会需要更丰富、更多元化的实战型人才梯队。

结语

全球Deepfake攻防挑战赛不仅是一场技术的较量，更是一场关于AI向善的科技之战。通过开源和技术创新，我们有望在未来的AI时代中，守护真实世界，推动AI技术的健康发展。