Heygen换脸技术滥用:“俄罗斯美女骗局”坑惨大批中国人

Heygen换脸技术滥用:“俄罗斯美女骗局”坑惨大批中国人
2024年04月09日 11:09 鸣金网

【导语】2024年,一家名为Heygen的AI深度伪造公司的AI换脸技术,卷入了一场波及中美两国的数据安全危机、跨国肖像侵权风暴,以及利用“俄罗斯美女”账号实施的新型诈骗活动中。该公司通过非法获取并滥用用户肖像和声音数据,引发了对数据安全、伦理道德以及法律责任的广泛关注和质疑。

乌克兰知名网红Olga Loiek控诉肖像和声音被heygen盗用

Heygen利用其AI换脸技术,精心编织了一场欺骗性的网络狂欢。平台上的用户被诱导创建了一系列假冒的“俄罗斯美女”博主账号,其中不乏未经许可擅自盗用乌克兰知名网红Olga Loiek的肖像和声音,通过虚构动人异国情缘,吸引大批粉丝的关注。这些假账号以深情纽带为饵,实则推广各类商品,对个人肖像权和人格尊严造成了严重侵犯。

更令人震惊的是,Heygen的中国子公司诗云科技,在决议解散并计划注销期间,被曝光疑似携带大量中国公民肖像数据转移至美国,这无疑触犯了我国的数据安全法规,大大提升了个人信息泄露的风险,一时间舆论哗然,公众对数据安全的焦虑情绪迅速升级。

诗云科技因决议解散

在中美科技博弈的大背景下,Heygen在接受巨额风投之后,选择了注销中国主体并转战美国市场,这种商业策略使其在数据出境、规避监管及承担法律责任等方面陷入了重重争议。这一系列动作在关键时期被认为是消极应对,对其行业形象和社会声誉造成了不可忽视的损害。

Heygen所推动的AI换脸技术已从创新工具沦为了诈骗活动的帮凶。犯罪分子借助该技术伪造“俄罗斯美女”形象,以情感欺诈的方式锁定中国中老年网民群体,诱导购买商品,造成经济损失,同时也瓦解了社会的信任基石。

此外,Heygen的技术被滥用于构建虚拟“俄罗斯美女”,针对特定年龄层消费者进行情感操控和消费误导,不仅侵犯了消费者的合法权益,也加重了中老年用户的经济压力和心理负担,暴露了企业经营伦理的严重失范。

HeygenAI批量伪造大量俄罗斯美女

受害人:AI换脸背后的隐私梦魇

多名Heygen用户反映,他们最初出于好奇在该公司的介绍引导下AI换脸产品,当了解到自己的肖像可能被非法采集并用于未知用途时,纷纷表示震惊与愤怒。其中一名用户在接受采访时痛斥:“谁能想到我们的自拍照竟会遭到如此恶意滥用?”而对于乌克兰网红Olga Loiek而言,她的经历更为悲惨:“我的形象和声音被盗用,变成了欺骗粉丝的工具,对我的名誉造成了不可逆的损害。”

平台回应:直面AI换脸侵权挑战

面对此次事件,部分社交平台迅速做出回应,承诺将进一步强化内容审核机制,严禁类似侵权内容的存在。“我们坚决抵制任何形式的肖像侵权行为,现已采取措施移除违规内容。”某主流短视频平台负责人表示。同时,这也揭示了当前技术手段在应对AI换脸造假方面的局限性,各平台纷纷呼吁业界加强技术研发,以应对愈发复杂隐蔽的网络诈骗手段。

专家律师解析:heygen案例的警示

网络安全与人工智能伦理学专家张教授就此事件发表了看法:“Heygen案例警示我们,AI技术的应用必须严格遵循法律和伦理准则,脱离监管和道德制约的技术与商业行为,必将导致不可预见的社会危机。”

上海正策律师事务所的董毅智律师指出,《中华人民共和国民法典》对公民的肖像权有明确保护,Heygen的行为已触及法律高压线。他强调:“AI换脸技术的滥用不仅侵犯了受害者的肖像权,更是对数据安全与隐私保护法律底线的挑衅。执法部门应加大对类似侵权行为的打击力度,敦促企业履行数据合规义务,切实尊重和保护用户的权益。”

针对Heygen注销中国主体并转向美国市场的举动,有业内观察家推测,此举可能是为了规避更严格的监管政策。然而,无论企业身处何地,都无法逃避应有的法律责任和社会监督。众多专家倡议,全球各国政府和国际组织应通力合作,共同构建适应AI技术发展的全球性法规,杜绝此类侵权行为在全球范围内的蔓延。

综合来看,Heygen滥用AI换脸技术的丑闻揭示出科技伦理、数据安全、法律监管等方面的深层次问题。要真正实现网络空间的公正与和谐,捍卫公民合法权益不受侵犯,需各方共同努力,从制度建设、技术创新、法治保障和公众教育等多维度着手,形成有效的防护屏障。Heygen的案例尤其凸显出,企业在追求技术创新的同时,必须坚守法律与伦理底线,确保技术发展服务于社会正义和公共利益。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部