30多位英国女政客假图流传色情网站,AI监管仍存漏洞

30多位英国女政客假图流传色情网站,AI监管仍存漏洞
2024年07月02日 18:34 澎湃新闻

人工智能带来的负面影响已延烧至英国政坛。

据英国媒体7月1日报道,近日在一个色情网站上,出现了30多位英国女性政客的400张经过深度伪造或数字处理的照片。

在这些图片中,一些只是通过粗糙的PS技术处理而成,譬如将女性政客的头移植于另一人的裸体上;而一些图像则疑似使用了更复杂的AI深度伪造。仅在过去3个月,该网站就有超过1260万访问量,其中部分图片仅单张便已获数十万浏览量。

这批深度伪造受害者包括英国工党副领袖安吉拉·雷纳(Angela Rayner)、教育部长吉莉安·基根(Gillian Keegan)、保守党下议院领袖彭妮·莫当特(Penny Mordaunt)、前内政大臣普里蒂·帕特尔(Priti Patel)和工党后座议员斯特拉·克雷西(Stella Creasy)。几位女性政客已计划报警应对。

女性成深度伪造更大受害者

前保守党议员德恩纳·戴维森(Dehenna Davison)告诉英国第四频道新闻(Channel 4 News),她很惊奇人们会花时间针对像她这样的女性。她补充说,深度伪造的滥用是迫在眉睫的重大问题,并呼吁世界各国政府迅速建立适当的AI监管框架。

深度伪造(Deepfake),是指使用AI软件通过“换脸”、语音模拟、视频生成等方式,对既有图像、声音、视频进行篡改、伪造。

女性政客并非首次在竞选活动中受深度伪造所害。早在2022年,北爱尔兰民主统一党(Democratic Unionist Party)女议员黛安·福赛斯(Diane Forsyth)被伪造成色情表演者出现在网络上,北爱尔兰警察局随即开展调查。英国选举委员会主席约翰·普林格(John Pullinger)在今年1月指出,女性议员在选举中越来越可能成为AI深度伪造色情图像的受害者,这些举动意在破坏女性政客的选举活动,击垮她们的尊严与职业操守。

除用于色情,深度伪造也用于制造虚假信息以损害媒体、政治人物的公信力。2023年10月,《福布斯》报道了一个粉丝数量众多的TikTok帐户,该帐户创建和传播了由AI生成的关于几位美国著名记者的假新闻片段,其中包括哥伦比亚广播公司(CBS)新闻主播安妮-玛丽·格林(Anne-Marie Green)讨论校园枪击案的深度伪造视频。

南非广播公司(SABC)于2023年11月被迫澄清,网上流传的该媒体女主播邦吉韦·兹瓦内(Bongiwe Zwane)和弗朗西斯·赫德(Francis Herd)宣传欺诈性投资项目的视频是伪造的。根据网络法律专家克莱尔·麦格林(Clare McGlyn)教授的说法,深度伪造被用来对付女性公众人物,将其严肃性消解至最低,进而损害相应人物、机构的名誉。

不仅如此,这类产品也会刺痛女性受害者的羞耻心与不安全感。第四频道在与受到侵扰的英国女性政客联系后,大多数受害者不愿意公开谈论此事,所幸,仍有一些活跃于公众视野的女性愿意站出来反抗深度伪造滥用带来的“性剥削”。

英国的相关法律

深度伪造滥用的背后,是法律监管、技术反制措施与深度伪造技术快速扩散之间的脱节。诸如OpenAI、谷歌这样的科技巨头,目前对于遍布网络的深度伪造也无法有效反制。OpenAI在担忧大模型滥用之余,呼吁美国政府完善监管措施。

事实上,英国已开始相应的监管立法尝试。该国今年1月出台《在线安全法》,将未经同意分享深度伪造的色情图像定义为非法行为,但并未涉及深度伪造的产品开发本身,在搜索引擎或社交平台,深度伪造的产物仍随处可见。今年4月,英国政府宣布计划填补这一漏洞,并禁止在英格兰和威尔士制造深度伪造色情内容。但随着首相苏纳克决定提前举行大选并解散议会,拟议的法律被搁置。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部