#
随着人工智能技术的迅猛发展，Deepfake（深度伪造）技术逐渐成为网络欺诈和虚假信息传播的主要工具。近期，中科院女工程师张欣怡宣布其团队将参加外滩大会AI创新赛·全球Deepfake攻防挑战赛的AI模型向全球开源，以对抗“AI换脸”等风险欺诈。这一举措引发了广泛关注，标志着AI技术在对抗虚假信息领域的重大突破。
Deepfake技术的威胁
Deepfake技术通过深度学习模型将图片或视频叠加到原始图片或视频上，借助神经网络技术，对大量数据进行学习后，生成逼真的虚假内容。这种技术不仅被用于娱乐和艺术创作，更被不法分子利用进行网络欺诈、虚假信息传播等犯罪活动。近期，韩国曝出的Deepfake女性受害事件，被认为是采用新犯罪手段的“N号房”案件重现，再次引发了公众对AI技术安全性的担忧。
VisionRush团队的开源行动
张欣怡所在的中科院自动化所VisionRush团队，在比赛结束后已将参赛模型分享至技术社区Github，希望通过开源的方式，降低该技术的使用门槛，守护真实世界。团队队长王博表示，生成式技术发展迅速，各种深度合成工具门槛越来越低，专业防御难度很大。通过开源，团队希望吸引更多技术人才投身这一领域，共同应对Deepfake技术的挑战。
外滩大会的Deepfake攻防挑战赛
外滩大会首次增设“科技智能创新大赛”，其中Deepfake大赛针对“AI换脸”欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、越南等26个国家和地区。Deepfake攻防赛由中国工程院院士王耀南担任专家委员会名誉主席，蚂蚁数科ZOLOZ和天玑实验室作为大赛出题方，赛题包含图像和音视频两大主流的Deepfake研究方向，是CV(即计算机视觉)领域最权威赛事之一。
未来展望
Deepfake技术的滥用已成为全球性问题，如何有效防范和打击这一技术带来的风险，是当前亟待解决的难题。通过开源模型和全球性的技术竞赛，我们不仅可以提高公众对Deepfake技术的警觉性，还能吸引更多技术人才投身这一领域，共同推动AI技术向善发展。未来，随着技术的不断进步和法律法规的完善，我们有理由相信，Deepfake技术带来的挑战将得到有效应对，网络空间将更加安全可信。
在这场AI技术对抗虚假信息的未来之战中，每一个技术人才的参与都至关重要。让我们携手共进，共同守护真实世界，推动AI技术健康发展。
相关文章
