【地评线】听·见︱网络谣言，不能插上AI之翼|AI_新浪财经

你的声音，我们愿意听见；

你的关切，我们一同看见。

图片来源：视觉中国

公安部门又打假了。

近日，一则“有顶流明星在澳门输了10亿”的信息在网上掀起惊涛骇浪。“顶流”“澳门”“10亿”等炸裂字眼迅速引发网友讨论和猜测，短短72小时内，该话题点击量就破亿。不过，所谓的“惊天大瓜”最终被证实为虚假信息。经公安网安部门查明，该谣言是某网民为博取流量、谋取非法利益，使用AI技术输入社会热点词制作而成，严重扰乱公共秩序。目前，公安机关已根据相关法律法规，对该网民处以行政拘留8日的处罚。

实际上，这已经不是第一起用AI技术生成的假消息了。从诈骗老年人钱财的“假靳东”，到用换脸技术冒充张文宏直播带货，再到更多网络上“有凭有据”“有图有真相”的内部消息。越来越频繁的网络谣言提醒着人们，在人工智能时代下，AI的技术赋能很可能成为虚假信息的帮凶。在更为复杂的技术语境下去治理谣言，也成为摆在明面上的事。

不可否认，AI凭借强大的信息处理能力在工作生活上给人们带来了便利，但也正是这种技术处理太过于迅速，且能根据部分关键词或指令就生成一份看起来“逻辑自洽”的谣言，一旦被有心人利用，很可能引发社会层面的信任动荡。从以往多个类似事件中不难发现，被造谣的公众人物通常选择发布官方声明或者直接报案以证清白，但海量怀疑和审视的目光一旦落在他们身上，事情真相反而会被边缘化，新一轮的脑补和猜想影响社会大众对他们的评价，进而损害公众人物的职业生涯。

AI加持下，网络谣言不光生成速度快，溯源难度也非比寻常。在越来越多由算法构建的网络环境里，谣言可以更精准地投放到特定受众跟前，再通过网络四散开来。等大部分人反应过来时，已经很难找到谣言传播的源头，辟谣成本和难度大增，正应了那句“造谣一张嘴，辟谣跑断腿”。

数字时代，AI谣言的生成与治理，说到底是一个技术伦理的事情。早在AI大规模贴近现实生活之前，技术被创造出来的终极目标是不损害人的生存与健康，促进人类社会沿着合乎伦理和道德的方向可持续发展。可以说，当前我们知晓的许多应用在不同场景的人工智能技术都秉持了这一理念，但随着AI技术的普及与应用领域的拓宽，有一部分人为了个人利益或特定目的，利用技术制造谣言，让网民陷入信任危机中，危害社会公共秩序。不得不强调的一点是，除了造谣内容触及公众核心利益或是引发社会巨大关注，其实还有大量网络谣言没有浮出水面，这些失实内容掺杂在各种信息里，就像一颗颗定时炸弹，在日复一日的信息篡改中造成危害。

那么，想要从根本上化解AI造假的乱象，最有效的方法还是技术把关，从源头遏制AI谣言的生成和传播。近年来，《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》都对AI生成内容作出了强制标记的要求，帮助受众更加直白清晰地分辨内容真假。不过，此要求主要针对发布在平台上的AI短视频，至于以图文为传播形式的AI内容，有关部门不妨也尽快跟进并实施类似的监管措施。

再来，政策出台的意义在于执行，大模型工具企业和网络平台作为技术的开发者与主要传播载体，也应承担起相应的社会责任。例如，如何更直观地标记AI生成内容？如何从技术层面建立防火墙，防止部分用户以改变画幅的形式抹去AI标记？又或者，当未经证实的内容经过举报达到一定阈值，平台方能否自动启动事实核查程序并限制传播？以上问题还需要大模型工具企业和网络平台，继续依照实际情况不断探索和思考。

回过头来看，“有顶流明星在澳门输了10亿”的AI谣言在警方的严打下落幕了，这一场闹剧势必会警醒更多人冷静看待网络信息，仔细分辨网络内容。但不管怎么样，我们不需要因此对技术产生恐惧，毕竟，比谣言更可怕的，是对真相的集体冷漠；比技术更强大的，是永不停歇的求真意识。

【责任编辑：许哲玮】