每一次“信息事故”其实都是一次提醒，一次查漏补缺的契机
1月7日9时5分，西藏定日县发生6.8级地震，灾情牵动人心，许多网友在社交平台上为受灾群众祈福。与此同时，社交平台上一个戴帽子的小孩被压在倒塌建筑物下的图片受到关注，被平台多个账号发布，并和本次地震关联，引发网友关注和转发。但据媒体报道，经查证，上述图片由AI创作，原始作者在2024年11月18日发布了相同画面的短视频，并声明是AI生成。
↑在某短视频平台上，有不少账号发布，有些甚至获得好几万的转评赞。梳理这件事的来龙去脉，可以发现，这又是一起“盗用”、拼接而成的虚假新闻照片。只是，还不知道是无意之失还是故意为之。根据目前的信息，还未显现第一个把这张照片和日喀则地震关联在一起的账号是谁，但每一个轻信并转发的人都不无辜。
这类谣言其实在近些年并不罕见。在人人都可以发布信息的时代，信息传播不仅碎片化，也很容易失真。就此次情况而言，突发事故和灾情警情信息发布是十分严肃的，类似“小孩被压废墟”的信息，往往会吸引大众的注意力，甚至影响救援力量对灾情的判断和救助，危害不容小觑。
我国治安管理处罚法规定，散布谣言、谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的，处五日以上十日以下拘留，并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。接下来需要追查的是，到底是哪些账号在传播这样的虚假信息，进而依法依规对其作出处理。
这场“乌龙新闻”被打假的同时，也促使我们更进一步地反思AI技术的使用。按理说，原作者在去年11月发布相同画面的短视频，并注明由AI生成，尽到了自己的义务，如果当时的使用并不违规，就无可厚非。那么，该对这场虚假传播负责的，主要是后来的“嫁接”者。当“一人生成，多人使用”的情况出现，追究和认定责任将会变得更加复杂。
可以预见的是，未来由AI生成的虚拟内容将会越来越多，鉴于AI几乎无上限的“生产力”，虚拟内容将大量占领网络空间，和真实的信息并列、交互乃至混合。我们该如何应对这一局面？
有网友说，这张“小孩被压废墟”的照片其实很容易辨别，比如六根手指、画面光滑、光影错位等。但是我们不能指望每一位网友都足够细心，而且AI技术会越来越进步，生成的内容会越来越逼真。因此，我们必须要做好“AI完全能够以假乱真”的心理准备。事实上，这张图片被很多人信而转发，就是例证。
为了避免虚拟内容破坏信息生态，扰乱正常的社会秩序，或许可以有两大方向性的改良。一是通过技术手段，为AI生成内容打上不可磨灭的印记，或者让受众拥有查验其虚实与否的“开关”；二是建立和完善相关法律法规，包括AI软件的开发、使用等，要有全过程的规则及其细则。
AI时代已经来临。人类在创造AI的同时，人类社会也将被AI技术深刻影响乃至重塑，这期间的磨合过程将是相当漫长甚至曲折的。而每一次“信息事故”其实都是一次提醒，一次查漏补缺的契机。经验要总结，教训要吸取，我们才能在“AI化”的道路上走得更加坦然。
红星新闻特约评论员 李哲
编辑 汪垠涛
红星评论投稿邮箱：hxpl2020@qq.com
