最近小红书的热度不减。从1月13日起，大量定位在美国的用户涌入小红书平台，并且发帖自称“TikTok难民”。
1月16日，锦观实验室记者注意到，疑似大名鼎鼎的美国好莱坞影星布拉德·皮特也在小红书开设了账号，并发布多个视频。
该账号IP定位为美国，其中一条以“I’m on red note, feel free to connect”为题的置顶帖子中写道：
“嘿，我是 Red Note 应用上的布拉德·皮特！没什么大不了的，只是来这里交流和玩乐。让我们继续享受美好时光——期待看到这一切！”
大量网友进行围观并留言，锦观实验室记者尝试联系小红书团队询问这些海外名人账号是否经过审核，但截至记者发稿，并未获得正式回应。
“小红书的社区属性决定，在这个平台虚假内容不受用户欢迎，这是平台一以贯之的重点治理方向。”据一位业内人士称，通过对站内这些用户及账号的观察，绝大多数都是海外用户自发、真实地分享自己的生活或者跟其他网友互动。
该业内人士还指出，对于内容平台而言，使用产品的用户均需要遵守国家相关法律法规及政策，目前各主要内容平台都建立了较为完善的内容审核机制，小红书平台针对个别“虚假账号”，也将加大治理力度。
AI合成照片与视频
法国女子被“假皮特”骗走600多万元
实际上，人工智能的发展，让新一类利用AI进行深度伪造的“名人诈骗”案件更加难以提防。近日，法国主要电视台TF1频道就报道了该国女子安妮被冒充演员布拉德·皮特的骗子利用AI合成照片与视频，骗走了83万欧元（约合626万人民币）的故事。
安妮的噩梦开始于2023年2月，那时她与一位富有的企业家保持婚姻关系。
有人通过Instagram联系她，自称是布拉德·皮特的母亲简·埃塔，她告诉安妮，她的儿子“需要一个像她这样的女人”。
第二天，有人冒充皮特联系安妮，这让她有些警觉。“但作为一个不太熟悉社交媒体的人，我真不知道自己遭遇了什么。”她说。
交往中，“布拉德·皮特”说想给她送些奢侈品，但因与演员安吉丽娜·朱莉离婚期间银行账户被冻结，无法支付关税，于是安妮给骗子转了9000欧元。
“我就像个傻瓜，一次次上当……每次我怀疑他，他都能消除我的疑虑。”安妮说。
很快，假布拉德·皮特告诉安妮他需要很多钱支付肾癌治疗费用，还给她发了多张用人工智能生成的布拉德·皮特卧病在床的照片。“我在网上查了那些照片，但没找到，所以我就以为那些自拍照是专门拍给我看的。”安妮说。
在此期间，安妮与她的丈夫离婚了，她获得了77.5万欧元的赔偿金。这笔钱很快全都被骗子骗走了。
“我告诉自己，也许我是在挽救一个人的生命。”安妮说，她自己也刚从癌症中康复。
安妮的女儿现年22岁，她告诉法记者，自己一直试图劝母亲“理智行事”，但母亲太过于兴奋。“看到她如此天真，我感到很痛心。”她说。
当八卦杂志上开始出现布拉德·皮特与新女友的合照，安妮才起了疑心。这时，骗子们又给她发了一份假的新闻报道，由人工智能生成的主播谈论着皮特与“一位特别的人的独家恋情……这个人名叫安妮”。
这段视频让安妮暂时得到了安慰。后来，在诈骗分子冒充“联邦调查局特别探员”试图从安妮那里骗走更多钱款之后，安妮选择报警。目前，警方正就此展开调查。
“骗子利用粉丝与名人之间的紧密联系行骗，这太糟糕了。”布拉德·皮特的一位发言人回应称。他表示，人们不该回应那些主动联系自己的网络信息，“尤其是那些没有社交媒体账号的演员。”
“我只是被耍了，我承认这一点，这也是我站出来的原因，因为我不是唯一一个。”在接受YouTube采访时，安妮回应自己并非“疯子或傻瓜”，也曾多次怀疑自己是否在与真正的布拉德·皮特交往，但最终还是落入了骗子精心设计的圈套。
前一段时间，张文宏医生又上热搜了，但不是因为问诊治疗，而是有人用他的脸进行卖货。
其实，不只是张文宏医生许多名人、明星都成为AI换脸的热门，对象包括，雷军、马斯克、巴菲特。
前有“靳东”向你告白示爱，后有“马云”开班教你投资，目的只有一个——骗钱。
骗子“换脸”冒充马云，诱惑老人投资
“同志，能不能帮我下载一个QQ软件？我得用QQ参加投资培训。”11月6日上午，住在北京市丰台区方庄街道的一位老奶奶来到居委会求助。社区服务站副站长赵静得知老人要参加投资培训，立刻警觉起来，详细询问老人事情经过。老奶奶说，“是马云的徒弟让我下载QQ，我还跟马云连线通过话呢”。说到这，赵静确认这就是一起网络诈骗事件，第一时间就联系了社区民警王兵。
5分钟后，社区民警王兵赶到现场，很快还原了事实真相：骗子前期通过给老人充话费的方式博取好感，又在社交平台用AI换脸成马云，视频连线获取信任。骗子自称是“马云的徒弟”，正在做扶贫项目，有可观的分红。此次让老人下载QQ软件是为了手把手给老人培训，最终目的是骗取老人钱财。
社区民警和社区服务站工作人员耐心规劝，现场让老人视频连线对方，当面与诈骗分子对话。诈骗分子磕磕绊绊地说自己是卖保健品的，更不认识马云，没聊几句就慌张下线。王兵将视频对话全程录像，采集了诈骗分子头像信息，以备后续侦破案件，并且帮助老奶奶拉黑了诈骗分子电话和账号。
王兵向老人强调，这是诈骗分子的惯用伎俩，强调务必不要给陌生人转账，更不要听信陌生人的话下载任何软件小程序等。老奶奶幡然醒悟：“多亏了你们，不然我的养老钱保不住了。”
AI骗局高发，泰国总理也差点上当！学会三招，识别AI“换脸换声”
泰国总理佩通坦15日对媒体透露，自己也曾遭遇诈骗，对方利用人工智能技术（AI）模拟东盟某国领导人的声音，并以“国家”名义诱骗其捐款，自己险些上当。她以此提醒公众对电信诈骗提高警惕。
佩通坦当天接受媒体采访时回忆说，对方用AI技术模拟东盟某国领导人的声音，通过音频称希望合作。“对方声音太像了，也非常清晰，我以前听过这个声音。”她告诉记者。
佩通坦说，诈骗分子后来要求她捐款，并称“泰国是东盟唯一没有捐款的国家”，这引起她的警惕和怀疑。随后，当对方发来一个不属于其所称国家的银行账户后，她才真正意识到这是个骗局。
佩通坦已责令副总理兼数字经济与社会部长巴瑟处理此案，她同时提醒民众对电信诈骗提高警惕。
近几年，AI作为一种新技术，面世以来即被应用到多个领域，但也出现了不少利用AI进行违法犯罪的案例，包括仿冒名人、造谣、换脸诈骗、窃取隐私等。
巴菲特：AI生成图片真假难辨让我紧张
去年5月，沃伦·巴菲特在伯克希尔·哈撒韦股东大会上表示：“我对AI人工智能一无所知，但不意味着这个技术不重要。AI发展让我有些紧张，生成式AI会让我突然出现在一张图片上，这真假难辨。欺诈在美国一直出现，AI当然也有机会去做好事，我觉得AI有很大做好事、坏事的潜力，只能让它自然而然在未来发生。”
同年10月23日，巴菲特旗下伯克希尔·哈撒韦公司在官网罕见发表声明，强调公司董事长巴菲特不会在社交媒体上推荐任何投资产品和政治候选人。
来源：伯克希尔官网这份声明中提到，现在人们越来越多地使用社交媒体，关于巴菲特代言投资产品以及他支持政治候选人的欺诈性声明层出不穷。“巴菲特目前并未、将来也不会代言投资产品、以及代言或支持政治候选人。”此次促使巴菲特发表声明的直接原因，在于他看到了Meta旗下的Instagram平台上有虚假的政治支持信息。
马斯克成AI诈骗案中最常见代言人
Sensity是检测深度伪造视频的公司，该机构发布的数据显示，深度造假广告常常使用巴菲特这样的著名投资者和亚马逊创始人杰夫·贝索斯（Jeff Bezos）等商界大佬这样的形象。Sensity数据显示，在2000多起深度伪造案件中，埃隆·马斯克（Elon Musk）的形象出现在了近四分之一的案件中，成为AI诈骗案中最常见的代言人之一。
去年8月，马斯克因AI伪造技术卷入了一场诈骗事件。82岁的退休老人史蒂夫·比彻姆（Steve Beauchamp）在网上看到了一段声称由马斯克亲自承诺收益的投资视频，随后他联系了视频背后的推销公司，并投资了超过69万美元。随后，这些钱就落入了诈骗犯之手。
据悉，这些诈骗者篡改了一段马斯克的真实采访，利用AI技术替换了他的声音，并微调了他的口型，以匹配他们为这个数字人编写的新剧本。对于一般观众来说，这种操作几乎察觉不出。
安全公司McAfee公布的一份榜单中，列举了被冒用最多的10个美国名人，包括斯嘉丽·约翰逊、凯莉詹纳、泰勒·斯威夫特和汤姆·汉克斯等。知名女歌手泰勒（Taylor Swift）可能是最开始让大众认识到深度伪造的名人，去年1月，大量由AI生成的泰勒不雅照在各大社交平台疯转，浏览量过千万，引发公众关注。
学会三招识别AI“换脸换声”
我们可以要求对方在视频对话的时候，在脸部面前，通过挥手的方式去识别实时伪造的视频。在挥手的过程中会造成面部的数据干扰，他所伪造的人脸会产生一定的抖动或者闪现，或是一些其他异常的情况。
在点对点的沟通过程中，可以问一些只有对方知道的问题，验证对方的真实性。
还可以让对方通过按鼻子按脸的方式，观察其面部变化，真人的鼻子按下去是会变形，但AI生成的鼻子并不会，同样脸部也是一样的。
值得注意的是，以上鉴别方式都是基于现有算法的局限性。未来随着AI技术的发展，“动起来”“挥手”“比数字”等有可能难不倒新技术，“数字人”同样能顺利完成以上动作，从而更加具备迷惑性。所以，防范AI诈骗，还是要从自己出发，做好信息保护，提高警惕。
例如，不要泄露个人信息，尤其要注意图像、声音、指纹等生物信息的保护。“AI换脸”的数据基础是被模仿人的照片、视频等，个人公开在外的照片、视频越多，意味着AI算法参考的数据越多，生成的“数字人”会更真实。
同时，在涉及资金交易等场景下，需要多留心眼，不轻易相信视频、声音。很多时候，传统的识别方式要比技术识别更有效。
抖音：有海外IP不代表是海外注册用户，已处置万余仿冒账号
在TikTok“不卖就禁”法案即将迎来最终结果之际，大量海外用户来到了小红书平台注册账号，这也成为近期社交平台上热议的话题。与此同时，有网友注意到，最近抖音平台上也出现了部分海外用户，疑似抖音开放国际注册。
对于这一消息，《每日经济新闻》记者1月16日从一位知情人士处了解到，抖音没有在非中国的应用商店上架，抖音按照《网络安全法》和《互联网用户账号信息管理规定》要求，在用户注册时落实真实身份信息认证义务，且审核按照统一标准不区分发布者。
1月16日，抖音集团副总裁李亮在个人微博，对抖音上出现大量海外IP用户的现象进行了回复：“有海外IP不代表是海外注册用户。”
李亮表示，平台注意到，此次有很多人浑水摸鱼，搬运视频仿冒外国用户，“尤其是一些黑产团伙想借机涨粉养号”。据称，这些账号鉴别起来有一定难度，对此，抖音正在积极治理，目前已经处置了1万多个仿冒外国用户的账号。
（齐鲁晚报·齐鲁壹点编辑 袁野 综合锦观新闻、方庄生活、宜春公安、天津日报、广州互联网法院、羊城派、每日经济新闻、央视新闻、第一财经、中国消费者报等）
