恶意造谣、激情发言、通过AI技术进行诈骗等行为是国家相关部门打击网暴的重点。6月9日，最高人民法院等三部门依法起草了《关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）》（以下简称《征求意见稿》）。
与传统违法犯罪不同，网络暴力往往针对素不相识的陌生人实施，被害人在确认侵害人、收集证据等方面存在现实困难，维权成本极高。为有效维护公民人格权益和正常网络秩序，最高人民法院、最高人民检察院、公安部6月9日公开的《征求意见稿》从准确使用法律、畅通诉讼程序、完善综合治理措施等方面入手，依法严惩网络暴力违法犯罪。
5种行为应当从重处罚
根据《征求意见稿》，要准确把握侮辱罪、诽谤罪的公诉条件，实施网络侮辱、诽谤行为，具有下列情形之一的，应当认定为刑法第二百四十六条第二款规定的“严重危害社会秩序”：（1）造成被害人精神失常、自杀等严重后果，影响恶劣的；（2）随意以普通公众为侵害对象，相关信息在网络上大范围传播，引发大量低俗、恶意评论，严重破坏网络秩序，影响公众安全感的；（3）侮辱、诽谤多人，造成恶劣社会影响的；（4）多次散布诽谤、侮辱信息，或者组织、指使人员大量散布诽谤、侮辱信息，造成恶劣社会影响的；（5）其他严重危害社会秩序的情形。
而针对未成年人、残疾人实施的，利用“深度合成”技术发布违法或者不良信息等5种行为应当从重处罚。从网络平台到监管部门，再到网络安全企业正在建筑一道数字护栏。
《征求意见稿》提出，要依法严惩网络暴力违法犯罪。实施网络暴力违法犯罪，具有下列情形之一的，应当从重处罚：（1）针对未成年人、残疾人实施的；（2）组织“水军”“打手”实施的；（3）编造“涉性”话题侵害他人人格尊严的；（4）利用“深度合成”技术发布违法或者不良信息，违背公序良俗、伦理道德的；（5）网络服务提供者发起、组织的。
近年来，国家对未成年人的网络保护持续完善。最新版《中华人民共和国未成年人保护法》就用了整整一章，详细划定了信息处理者、网络服务提供者等应遵守的行为红线。第七十七条明确，任何组织或者个人不得通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害形象等网络欺凌行为。
遭受网络欺凌的未成年人及其父母或者其他监护人有权通知网络服务提供者采取删除、屏蔽、断开链接等措施。网络服务提供者接到通知后，应当及时采取必要的措施制止网络欺凌行为，防止信息扩散。
2月，一则因发布未成年人信息，一天挣了700多元的博文引发广泛关注，该博主不光晒出收益，甚至声称“多骂点，给我赚点广告共享”。在微博将此账号设置为禁言状态前，该博主发布的网暴未成年人的视频，是当时刷屏的某中学一高三学生演讲的片段，视频下有极个别网友对演讲女生恶意评论。
“深度合成”信息诈骗引关注
利用“深度合成”技术发布违法或者不良信息，违背公序良俗、伦理道德的行为，也在近期频繁登上社交平台热搜。最有代表性的一条是包头警方发布的一起利用AI实施电信诈骗的案例。
福州市某科技公司法人代表郭先生在接到“好友”微信视频电话后，考虑到关系好又是真人视频通话，在10分钟内直接向对方账户汇款430万元。随后才意识到自己遭遇了“高端”骗局，“好友”是骗子通过AI换脸技术佯装而成的。
根据《互联网信息服务深度合成管理规定》，深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。
除了监管部门重拳惩治，网络平台和网络安全企业也通过自己的方式，避免深度合成技术被不当使用或滥用。5月《抖音关于人工智能生成内容的平台规范暨行业倡议》提到，平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。
奇安信集团董事长齐向东提到深度技术造成的网络安全风险时向北京商报记者表示：“AI给数字世界带来的新的安全威胁有两方面，第一是可以以假乱真，第二是能够帮助黑客提高他们的攻击水平，但我相信网络安全技术产品的创新，一定能解决AI带来的额外法律问题和风险。网络安全技术是一个伴成型的技术，一定是先有数字化技术创新，再有安全技术的创新，这是矛和盾的关系，没有一个特殊的矛出现，就不会出现一种特殊材料构成的盾。”
“虚假使用深度合成技术，可能引发谣言泛滥等问题，过度使用可能引起道德伦理问题，恶意滥用造成的影响更恶劣”，在比达分析师李锦清看来，目前监管部门已完善了新技术相关的法律条款，新技术带来的网络暴力、网络安全等问题将被更好地依法治理。
北京商报记者 魏蔚
