2024.12.12
本文字数：870，阅读时长大约2分钟据新闻透视，最近有网友反映：家中老人在网络卖货视频中，看到了张文宏医生在卖一种蛋白棒，老人信以为真，不仅下单还转发多个群聊。经核实，该视频是利用AI技术合成的。张文宏明确表示，已向平台方投诉，希望网络平台和相关部门加强监管。
发布AI视频的帐号名叫“般画234”，视频中，只见张文宏医生正襟危坐，反复介绍一种产品，声音听起来也很像本人。
昨天，记者在微信视频号平台查询到该帐号，但假张文宏的视频已不可见，商品橱窗内是某蛋白棒的售卖链接，页面显示已出售1200多件。
今天，该帐号已搜索不到。
据上海交通大学计算机科学与工程系特聘教授俞凯介绍，从技术角度来说，目前用语音合技术来模仿他人声音并且对上口型生成视频的技术已经非常成熟，甚至仅用一张照片就能生成此类视频。对普通人来说，用照片生成的视频很容易辨别，但如果被制作视频的对象有大量公开资料的话，生成的视频无法做到实时互动，但单向播放足以以假乱真。
记者就此事联系到张文宏医生，他表示：这样的卖货帐号不止一个，且一直在变，多次向平台投诉但屡禁不绝。事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这个事情后立即投诉过那个AI合成的视频，但是他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。
除了向平台方投诉，张文宏称也曾考虑过报警，但对方看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？！所以我认为，他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。”
今天，上海市消保委也对该事件严厉发声，表示未经当事人授权的AI合成带货行为已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。
