#
随着人工智能技术的快速发展，AI换脸（Deepfake）技术逐渐成为网络欺诈和虚假信息传播的新工具。近期，中科院女工程师张欣怡宣布其团队将参加外滩大会AI创新赛·全球Deepfake攻防挑战赛的AI模型向全球开源，以对抗“AI换脸”等风险欺诈。这一举措引发了广泛关注，标志着全球范围内对AI技术滥用的反击战正式打响。
Deepfake技术的威胁
Deepfake技术通过深度学习模型生成逼真的虚假内容，能够将图片或视频中某人的面部特征与其他人的图像或视频进行融合，从而创造出以假乱真的虚假视频或照片。这种技术的门槛越来越低，仅凭一张照片，便可以低成本炮制大量肉眼难辨真伪的图片和视频。近年来，Deepfake技术被广泛应用于网络欺诈、虚假信息传播等领域，给个人和社会带来了巨大的安全威胁。
例如，韩国近期曝出的Deepfake女性受害事件，被认为是采用新犯罪手段的“N号房”案件重现。犯罪分子通过Deepfake技术将女性照片“换脸”，捏造并不存在的“事实”诬陷女性，受害者陷入自证陷阱，难以证明视频中的“我不是我”。这一事件引发了全球对AI技术滥用的广泛关注。
中科院VisionRush团队的开源模型
张欣怡所在的中科院自动化所VisionRush团队，由7名师生组成，平均年龄仅25岁。在本次比赛中，他们利用赛方提供的超150万数据，训练出了根据视频轨道来识别是否为生成式AI伪造视频的AI模型。这一模型能有效地帮助Deepfake的受害者们证明“我不是我”这个难题。
张欣怡在微博中表示：“这个世界有黑暗，也有照亮黑暗的光。如果一个人的火把太小，我们就把火把传给世界的每一个人。”团队决定将参赛模型分享至技术社区Github，希望通过开源的方式，降低该技术的使用门槛，守护真实世界。
外滩大会Deepfake攻防挑战赛
外滩大会首次增设“科技智能创新大赛”，其中Deepfake大赛针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、越南等26个国家和地区。
Deepfake攻防赛由中国工程院院士王耀南担任专家委员会名誉主席，蚂蚁数科ZOLOZ和天玑实验室作为大赛出题方，赛题包含图像和音视频两大主流的Deepfake研究方向，是CV（即计算机视觉）领域最权威赛事之一。数据集由公开数据和伪造数据组成，其中，伪造图片数据涵盖了现实场景中超50种生成方式，伪造音视频中则纳入了超100种组合攻击方式，训练数据集总量超过100万。
技术对抗的挑战与未来
尽管Deepfake技术的威胁日益严重，但技术对抗的挑战也不容小觑。生成式AI技术的发展速度远超对抗技术的进步，伪造和鉴伪的资源投入不平衡是一大挑战。中科院自动化所副研究员王博表示：“现在互联网中的伪造数据爆发式增长，很难对全网数据进行审查，伪造和鉴伪的资源投入不平衡也是一大挑战。”
然而，推动AI向善的初心并未改变。外滩大会Deepfake攻防挑战赛的目的不仅是唤起社会对AI安全的关注，更是吸引更多的投入，并培养实战型人才，使识别虚假内容的对抗技术能够跟上生成式AI的步伐，将AI技术纳入道德的框架内。
结语
AI技术的发展为人类带来了巨大的便利，但也伴随着潜在的风险。Deepfake技术的滥用不仅威胁个人隐私，还可能引发社会信任危机。中科院VisionRush团队的开源模型和外滩大会Deepfake攻防挑战赛的举办，标志着全球范围内对AI技术滥用的反击战正式打响。我们期待更多的技术人才投身这一领域，共同守护真实世界，推动AI技术向善发展。
相关文章
