泰勒·斯威夫特事件：AI造假问题的引爆点
近期，知名歌星泰勒·斯威夫特的AI不雅照在网上疯传，这一事件不仅对她的个人形象造成了严重影响，也将AI造假问题推向了风口浪尖。令人意外的是，美国现行的联邦法律中竟然没有相关条文能够阻止创建或分享此类未经同意的“深度造假图像”。这一事件引发了全球范围内对生成式AI技术滥用的深刻反思。
全球AI立法进展：中美欧的探索与挑战
为应对生成式AI带来的挑战，美国、欧洲和中国都在积极推动相关立法。美国议员正在推进《防止亲密图像深度造假法案》，并提出了《禁止人工智能假冒复制品和未经授权的复制（禁止人工智能欺诈）议案》。然而，大部分提案尚未通过，仍停留在纸面阶段。2023年10月，拜登签署了首份行政命令，要求科技行业制定安全保障标准并引入新的消费者保护措施。
欧洲在立法方面进展更快。2022年12月，欧盟委员会、欧洲理事会和欧洲议会就“AI协调规则提案”达成协议，正式出台《人工智能法案》。中国则在2023年8月由网信办等7部门联合发布了《生成式人工智能服务管理暂行办法》，通过制度完善来规范AI的应用。
深度造假的根源：人而非技术
深度造假并非AI技术的产物，而是被不法分子利用的工具。在AI出现之前，图片编辑技术（如PS抠图换脸）早已存在，但当时的门槛较高，只有专业制图师才能完成。如今，生成式AI大大降低了造假门槛，让普通人也能轻松实现深度造假。因此，深度造假的真正罪魁不是AI，而是人。
应对深度造假：技术手段与立法监管并重
如何有效应对深度造假问题？有人认为可以通过限制生成式AI的技术发展来解决，但这无疑是“因噎废食”。生成式AI是技术演化的必然趋势，限制技术发展并非解决之道。真正的关键在于管住人，而不是限制技术。
在技术层面，生成式AI本身可以成为打击深度造假的利器。例如，AI可以识别“深度造假”图片，通过像素点级别的微小差异“一眼看穿”伪造内容。此外，AI还可以高效删除侵权图片，结合算法溯源和删除机制，大幅提高治理效率。
在立法层面，应针对利用生成式AI从事不法行为的人，而非工具本身。例如，要求AI生成内容时加入水印标签，注明来源出处；对互联网上的深度造假图片进行算法检索和删除；对已确定的侵权图片进行算法溯源并全网清理。
发展生成式AI技术：打击深度造假的最佳手段
生成式AI不仅提高了内容创作的生产力，也为监管提供了技术支撑。正如“打败魔法的一定只会是魔法”，发展生成式AI技术才是打击“深度造假”的最佳手段。通过让正义力量掌握更多AI技术，可以对不法分子形成技术压制，从而有效遏制深度造假行为。
生成式AI的治理需要技术手段与立法监管并重，同时以发展的态度对待技术，防止其落入居心不良者手中。只有如此，才能在享受技术红利的同时，有效应对其带来的挑战。
相关文章
