“深度伪造”犯罪已经引起了韩国女性恐慌。
据《韩民族日报》报道，8月26日，韩国女性民友会发布题为《群体性暴力参与者达到22万人，社会崩溃要被放任到何时》的报告，指出在“电报”群组中，只需上传熟人照片，付费后5秒钟内就能生成裸体合成图。令人震惊的是，这个聊天群的参与人数高达22.7万。
据韩国媒体监管机构提供的数据，今年截至7月份，已有6000多名韩国人要求删除未经其同意制作的虚假色情图片，这一数量已接近去年全年的约7000名。
女性公众人物更是成为严重受害人群。《华尔街日报》援引身份盗用防范公司Security Hero 2023年的一份报告称，在网上发布的深度伪造色情视频中，韩国女歌手和女演员约占其中人物的一半。
“希望从噩梦中醒来”
小宋是来自韩国京畿道的一名17 岁的高中生。过去她曾和其他同龄女孩一样，在社交媒体上发布自己和朋友们跟着流行音乐跳舞的照片和短视频。
然而，某一次她在Instagram上收到一条匿名消息，阴魂不散般让她困扰至今。
据《韩国先驱报》报道，小宋讲道她这段经历：“放学后，我打开手机，发现一个不明账号给我发了消息，内容是‘你的父母和朋友了解你生活的这一面吗？’”
小宋查看信息时，她震惊地发现了自己的色情露骨照片，然而这些照片并非她本人，而是经过数字技术深度伪造的，并且几乎无法与真实图像区分开来。
小宋说：“第一次看到这些照片时，我又惊又怕。尽管我知道它们是假的，是人工生成的，但它们看起来太像真的了。我多么希望我只是做了一场噩梦，并且我最终能从梦中醒来。”
然而，小宋仍不停收到类似的骚扰消息。有留言求证小宋是否真的是性爱照片的主角，有的留言则露骨的要求小宋“陪玩”、“解闷”。
小宋补充道：“一开始我还试图解释图片的主角不是我，我甚至请求他们中的一些人帮助我，因为我认为这些骚扰者里至少能有一个好心人。但我发现我的回复似乎只会让他们更兴奋。他们继续给我发骚扰信息，并提出更无理的要求。”
最早曝光这起丑闻的网友Queenarchive1在8 月 24 日收到一名用户提供的关于Telegram上广泛传播深度伪造色情内容的线索，她采取果断行动，在X上公布了这一信息，并寻求受害者和目击者的进一步线索。
她在接受《朝鲜日报》采访时说，“事件最初焦点主要集中在仁荷大学的案件上，此后收到大量线索后发现，首尔、水原、大田、上京府和富川也发现了类似的群组。在一个拥有1932 名成员的 “羞辱室 ”里，还有针对表亲、妈妈、熟人、姐姐妹妹的分室。”
她认为，“非自愿独身（Incel）文化起了重要作用。一些男性从侮辱他们在现实生活中无法接触到的女性中获得快感，他们往往没有意识到自己行为的犯罪性质。”
日益加重的恐惧
收到骚扰的小宋只是越来越多受害者大军中的一员，而这些受害者很多尚未成年。
根据韩国妇女人权研究所的数据显示，从2018年4月到本月，共有2154人因深伪色情内容向该研究所的网上性虐待受害者咨询中心（Advocacy Center for Online Sexual Abuse Victims）寻求帮助。
数据显示，2024年，共781人因深伪色情内容求助该咨询中心，其中未成年人288人，占比为36.9%。
近年来，因深伪造而寻求帮助的未成年人数量也呈指数级增长，从2022年的64人增加到今年截至本月的288人。
由于公众对利用人工智能技术犯罪的恐惧与日俱增，韩国教育部在周三时表态，将采取坚定的立场打击校园深伪色情犯罪。高中阶段的犯罪者可能会被退学，这是教育部针对参与校园霸凌的高中生的九级处罚制度中的最高级别。对于小学或初中的义务教育阶段犯罪者，韩教育部可对施暴者采取转学措施，这也是韩国在该教育阶段的最高等级处罚。
截至本周二，全韩各教育部门共接到196起深伪性犯罪报案，其中186起案件涉及学生。这186名受害学生包括8名小学生、100名初中生和78 高中生。教育部表示，在这196起案件中，有179起交由警方处理。
韩教育部还决定从周二起成立一个紧急工作组，以应对深伪性犯罪。新成立的工作组将每周调查涉及深伪犯罪的案件，处理受害者提交的报告，为受害者提供心理辅导。同时，工作组将在各学校开展教育活动，提升师生对此类犯罪的警觉度，并加强数字伦理和数字问责建设。
法律的缺失
近年来，深度伪造技术取得了长足进步，普通用户在人工智能工具的帮助下也能轻松制作深度伪造作品。
然而，韩国尚未有法律制度识别、过滤和惩罚错误使用人工智能技术的人。
根据韩国《关于性暴力犯罪处罚的特例法》，编辑、合成或处理深伪色情内容的人将被处以最高五年的监禁或最高5000万韩元（约合26.55万人民币）的罚款。以牟利为目的传播色情内容者，最高可被判处七年监禁，但目前还没有任何法律对下载或观看深度伪造色情内容的人进行惩罚。
人权律师闵高恩对《韩国先驱报》说：“目前，法律已对观看未经同意拍摄的色情露骨视频的行为进行处罚，但对深度伪造的色情视频却没有法律规定。诚然，随着技术的发展，人们很难对于照片或者视频是否为深度伪造进行区分。然而，法律仍然存在漏洞，因目前尚未将深度伪造出来的色情影图像资料等同于非法拍摄的图片或视频。因此，即使一个人因制作深伪色情作品而面临指控，检方也必须证明其制作目的是为了传播。若没有任何证据表明被指控者有明确的传播意图，那么嫌疑人很容易钻法律的漏洞。”
韩国国会女性家庭委员会委员长，人民力量党议员李仁善本周二表示，委员会将“进一步加强”法律制度，以防止深度伪造技术被滥用，重点是弥补《关于性暴力犯罪处罚的特例法》中的漏洞。
李仁善说：“女性家庭委员会将不再忽视深伪性犯罪的严重情况。通过加强和修订相关法律，我们将努力保护女性和未成年人（免受数字性犯罪的侵害）。”
截至本周三，国会议员已提交了多达八项立法议案，要求在使用人工智能生成照片或视频时强制设置水印等具体标识，确保人工智能技术运用过程中的安全性和可靠性。
由于韩国第21届国会的任期已于今年5月29日结束，大部分议案在被自动废止后又重新提交。
然而，这些法案也有局限性，因为深度伪造的影图资料通常是用开源人工智能模型生成的，这让外界很难锁定深伪影像的制作者以及制作采用的具体人工智能模型或算法。此外，开源人工智能模型还可以进行个性化定制，从而让制作者更容易规避深伪检测。
闵高恩说：“无论如何，现在我们都应该制定相关法律来打击利用深度伪造技术进行的性犯罪，因为法律已经跟不上当前的技术进步。”
自我中心主义？
白石大学警察管理系的犯罪心理学教授金相均（音译）对《韩国先驱报》说：“这些犯罪者的动机是渴望对那些看起来比他们‘弱小’的人施加优越感。这些人通常被认为有支配、操纵和控制那些他们认为容易对付的人的欲望，以感受他们凌驾于受害者之上的权力快感。”
金教授补充道：“通常情况下，大多数人都会通过正常的社交活动来克服自身产生的优越感。而像那些最近参与在电报（Telegram）上创造和传播深伪性露骨内容的犯罪者，很可能是那些在现实生活中难以克服这种欲望的人，因为他们难以进行健康的人际互动。”
根据对制作和传播深伪技术色情内容的未成年人的心理状态分析，韩国又石大学警察行政系教授裴相勋（音译）提出了“青春期自我中心主义”这一社会认知现象。具体来说，处于青春期的青少年认为他人一直在关注或评价自己，因此他们拥有炫耀自己的长处、技能和优越感的欲望。
裴教授对《韩国先驱报》说：“最近深伪性犯罪的未成年人很可能认为他们的行为只不过是偏离了社会规范。对他们来说，这种犯罪只是一种游戏形式。通过尝试如此大胆的事情，他们会觉得自己比同龄人更优秀。”
法律心理学家李秀静（音译）也表达了类似观点：作案者很可能并不认为他们的行为是犯罪。他们认为这更像是一种 “刺激的体验”。
李秀静补充道：“问题在于，该类犯罪者并没有意识到他们实施的行为可能会对他人造成伤害。他们认为上述行为只是满足自己好奇心和兴趣的另一种方式。因此，必须采取适当的教育方法，帮助更多人认识到这是一种犯罪，而非某种形式的娱乐"。
文章参考：
https://m.koreaherald.com/view.php?ud=20240828050636
https://www.chosun.com/english/national-en/2024/08/29/YCKX5P5YHFDEFFVOTWDCKNSH3U/
http://china.hani.co.kr/arti/politics/14413.html
https://www.wsj.com/world/asia/anyone-can-be-a-victim-sprawling-ai-fake-nudes-crisis-hits-south-korea-eec02232
