9秒钟被骗245万元、10分钟被骗430万元......近期警方密集发布AI诈骗案例。安徽、上海、福建等地均受害者收到“亲友”的视频通话，以各种理由要求转账。然而，视频通话竟是诈骗分子利用AI合成的视频，受害者因视频“确认”对方身份被骗。
网络上有人感叹，生成式AI技术最先落地应用的场景竟是电信诈骗。记者采访熟悉电信诈骗案件的律师了解到，电信网络诈骗基本上都具有非常完整的上下游犯罪链条，而在涉及AI诈骗的案件中，若存在AI侵权情况，技术平台也有可能要承担行政责任。律师建议，技术平台可以在公安机关的指导下，成立反诈部门，共同防范这类AI诈骗的发生。
多地警方密集发布AI诈骗案情
近日，安徽警方发布了4月发生在安庆经开区的一起AI诈骗案件。4月27日，何先生的微信“好友”突然向其发起视频通话，电话接通后，何先生看到“好友”正在一间会议室内，就在他准备进一步询问时，“好友”直接挂断了电话，并表示在会议中有重要事情交代，需要何先生添加QQ沟通。
随后，“好友”在QQ上告诉何先生，目前有一个项目招标需要周转资金，希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”，“我就没多想，就转账了”，基于对“熟人”的信任，何先生没有犹豫，立刻让家人将245万元转到对方指定的账号上，直到事后拨打对方电话才得知被骗。
经安庆经开公安分局全力追查，5月22日，民警将先行追回的132万元被骗款返还给何先生。目前，该案件正在进一步侦办中。
5月24日，上海市公安局浦东分局孙桥派出所也发布一起及时得到拦截的AI诈骗案件。前不久，当事人钱某上班期间，接到其嫂子视频电话，视频中称其购买的机票定金已付，还有49800元尾款尚未付清，让钱某帮忙转账支付。
钱某转账前，民警接到其同事报警赶到现场。民警通过查看相关聊天记录，结合日常诈骗分子常用话语进行分析，觉得事情另有蹊跷。经询问当事人视频时对方表情及神态不是很自然，且视频时间较短，简单交流后便让其进行转账付款。现场民警要求当事人与其嫂子取得联系，经确认其嫂子未与其视频聊天，也未要求其帮忙购买机票。
此前，在内蒙古包头警方发布的典型案例中，来自福建的当事人郭先生损失惨重。郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生拨打好友电话才得知被骗。
合力打击“AI换脸”诈骗
诈骗分子之所以能够进行AI换脸、合成声音，就在于他们掌握了一定的受骗人信息，比如受骗人的照片、视频、语音等。上海德禾翰通律师事务所律师郑晨接受记者采访表示，目前个人信息泄露的风险较高，渠道也非常多样化。举例来说，目前很多门禁都是人脸识别，这些供应商都存在信息泄露风险，而信息泄露的渠道往往难以溯源。
还有分析称，受骗人对外公开的社交帐号如微博上，只要不是博主主动设置自己发布的内容仅在一定范围内可见，那么理论上任何人都是可以搜索查看，甚至还可以看到博主和好友的互动。另外，受骗人的个人信息可能被有意泄露甚至售卖。
郑晨分析说，不论是AI诈骗还是传统的电信网络诈骗，基本上都具有非常完整的上下游犯罪链条。“上游平台主要负责筛选群体、做技术维护、提供财务支持；中游负责具体实施诈骗行为，主要是训练话术，也就是普通人会接触到的打电话、发短信的行为人；下游主要负责洗钱，将诈骗犯罪所得进行转化。”
值得注意的是，在生成式AI技术浪潮席卷全球的过程中，主流监管框架认为技术提供方、服务方应承担主要风险防范责任。郑晨认为，AI诈骗中利用AI技术实施的违法犯罪行为，技术平台方在不具有主观故意的情况下可以阻却刑事责任。不过，在利用AI实施的侵权行为中，若平台方存在过错，可能会因违反相关规定而承担行政责任。
“我建议技术平台可以在公安机关的指导下，成立反诈部门，共同防范这类AI诈骗的发生。”郑晨说。
“AI诈骗是近期刚刚出现的诈骗新形式，虽然目前国内还是以传统电信网络诈骗如以固定话术发短信、打电话和加微信等为主，但不排除AI诈骗今后在国内也会逐渐增多。尤其是这种诈骗的成功率会有所提高，对于普通人来说防范难度更大。”郑晨提醒说。
近期多地警方也发布提示，针对花样翻新的智能AI诈骗，公众要提高防范意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助。如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。
责编：孟 妹 校对：孙洁华图编：周 洋
