在2024年1月7日，西藏日喀则市定日县发生6.8级地震，一张令人揪心的照片在社交媒体上迅速传播。照片中，一个头戴彩色毛线帽的孩童被压在废墟下，稚嫩的面庞满是尘土，一双黑亮的眼睛望向远方。这张照片被一些自媒体账号配上“日喀则地震”相关标签迅速传播，引发了公众的广泛关注和讨论。然而，几天后，“地震废墟中小孩图片是AI生成”的话题登上网络热搜，揭示了这张照片实际上是AI生成的作品。
AI技术的滥用与网络谣言的新特征
清华大学新闻与传播学院副教授陆洪磊指出，在AI技术的加持下，网络谣言已呈现出一些新特征。传统谣言传播具有模糊性和隐晦性，但伴随技术发展，AI使得谣言越来越清晰、逼真，一些专业人士需要进行专门的事实核查来确认真伪，普通公众更是难辨真假。陆洪磊强调，谣言制造者已形成“工业化造谣”模式，需通过平台、有关部门与公众协同构建防御体系。
法律与技术手段的双重干预
北京师范大学法学院院长、教授梁迎修指出，法律是治理网络谣言的有效手段，我国法律为网络谣言治理提供了充分依据。刑法中有编造传播虚假恐怖信息罪、侮辱罪、诽谤罪等罪名；民法典对谣言侵权责任有详细规定；治安管理处罚法规定对网络谣言传播的行政制裁措施；网络安全法等互联网专门法律条款，明确了公民和平台在维护网络安全、打击网络谣言方面的责任。梁迎修表示，生成式AI技术加剧了谣言的欺骗性，权利受损的个体维权需投入大量时间与经济资源，维权成本很高，治理谣言还需要法律与技术的双重干预。
平台治理与公众教育
今日头条生态治理运营负责人韩雨桐介绍，对于虚假谣言，今日头条建立起三大核心治理能力，包括谣言库、权威信源库以及专业审核团队，并于2024年在发文下方增加权威媒体报道来源标签，在保障资讯真实性的基础上，为用户提供更多客观视角。针对近年来快速发展的AI技术和涌现的低质内容，平台在鼓励用户使用AI提效的基础上，保护原创空间，迅速升级、迭代AI模型的识别能力，加大AI内容的审核力度。
陆洪磊建议平台建立谣言知识库，对虚假内容实施前置拦截，以AI技术识别AI谣言，着重强化机器识别模型训练，对多次违规账号予以严惩，并对AI生成内容进行明确标注；建立跨平台线索互通机制，推动相关法律细则落地实施。同时，他建议平台开展辟谣教育，致力于提升公众数字免疫力，倡导网民践行“三秒原则”，即在转发信息前，花三秒时间仔细思考其来源与逻辑合理性。
结语
AI技术的滥用对社会信任和救援工作带来了严重的负面影响。面对这一挑战，我们需要加强法律和技术手段来遏制AI造假行为，同时提高公众的网络信息素养，共同构建一个清朗健康的网络空间。
相关文章
