作者:小岩
编辑:彩云
近日,著名音乐人包小柏用AI技术“复活”了已经去世的女儿,惹得全网热议。因病去世了几年的女儿忽然获得了“数字生命”,鲜活的存在于电脑里,她不仅可以唱歌,还能与家人进行对话。这样的状况与《流浪地球2》中的情景几乎毫无二致。也正因此,这条新闻无论是在技术层面,还是从情感层面,都给了大家极大的触动。
当然,因此而引起的评论也呈现出了两极化的趋势。有人认为,让亲人的音容笑貌得以延续,这恰恰是AI存在的伟大意义。也有人对“数字生命”持保留态度,生老病死是生命的普遍规律,很无奈,但没有人可以阻止。通过技术不断的“复原”逝者,只会是自欺欺人,给在世的亲人带来更大的痛苦。
关于道德与伦理方面的争论还没有一个确定的结果,可科技发展的车轮却如此迅速,全然没有要停下来的意思。
上海00后小伙用AIA技术“复活”奶奶:只是希望用AI技术弥补遗憾。
用AI技术“复活”亲人的,远不止包小柏一个人。
就在最近,上海的00后视觉设计师,B站UP主吴伍六用AI技术生成了去世奶奶的虚拟数字人,并和自己开展了对话。这段视频在B站上引发了网友的广泛关注。
吴伍六在接受媒体采访时表示,之所以用AI“复活”奶奶,是因为自己不能接受奶奶的突然离去。吴伍六平时从事AI工作,就想到了用AI技术“复活”奶奶。他导入了奶奶生前的照片,制作出了奶奶的动态头像,又将奶奶生前的通话音频导入AI,训练AI模拟出奶奶的声音和语气。他这么做的初衷只是希望用AI技术弥补与奶奶没有好好告别的遗憾,并希望大家珍惜当下,现实的陪伴永远是最重要的。
值得一提的是,吴伍六还在视频中分享了整个“AI奶奶”的制作流程,主要就是使用了最近大火的AI绘图网站Midjourney以及AI语言模型ChatGPT等。其中的语音素材,源自吴伍六和奶奶连续两年的手机通话录音,他以此为数据训练AI模拟出奶奶的声音和语气。照片则是从殡仪馆要来的,上传到Midjourney进行优化,制作出了奶奶的动态头像,然后在ChatGPT中输入关于奶奶的信息,从而生成虚拟数字人。
打破真实和虚拟的边界,用AI“复活”亲人极有可能成为未来的热门赛道。
如果说博主吴伍六用AI“复活”奶奶是为了寄托自己对逝去亲人的思念,那么有些人则是因此窥见了商机,纯纯打起了生意经。
电商平台上就存在不少做AI“复活”生意的商家。在某电商平台,AI“复活”的商品标价从几元,几十元,到上百元乃至数千元不等。有的商家甚至挂出了“只需要52.1元,就能还原逝去亲人的容貌并和ta聊天”的噱头。
譬如一位网友认为自己最大的遗憾就是身在异乡,没能见到父亲的最后一面。他在办完父亲的身后事后,还是会止不住的思念父亲,会把自己关在房间里一遍又一遍的翻看自己和父亲的聊天记录。直到某一天,他在短视频平台上刷到有商家提供AI“复活”亲人的服务,他感觉自己好像是抓住了救命稻草,赶紧支付了200多元并提供了父亲生前的录音和照片。随后,网友收到了一段短视频。视频里,父亲微笑着对他说着话,视频只有短短几十秒的时间。
想必大家都能意识到,说是用AI“复活”逝者,其实生成的内容与逝者本身一点关系都没有。商家只是利用AI技术,将逝去亲人的文字描述,图片,视频和声音资料输入AI算法模型,从而模拟生成一个数字形象,这个形象具备了逝者的某些典型特质(性格,声音,容貌等),仅此而已。
就连“AI奶奶”的博主吴伍六都说,“这件事的本质就是要求AI当演员,去扮演一个人,如今的AI可以很好的去模仿一个人的相貌和声音,但就目前的科学水平而言,它无法模仿一个人的灵魂”。很多想AI“复活”亲人的网友,也不过是想谋求一个心理安慰。
全新技术引发争议:缅怀固然重要,保护隐私谨防被骗也是要紧事。
一直以来,针对AI应用,特别是“AI复活” 应用的争论就从未停止。即便现在,“AI复活”的技术已经突飞猛进,形成了井喷式的发展,也依然无法帮助其在伦理,道德以及法律方面找到一个足够有力的支撑点。
一方面,“AI复活”这件事对于社会伦理和社会道德产生了不小的冲击。很多人认为人死不能复生,一味的沉湎于过去,只会让自己更加痛苦。更重要的是,那个克隆出来的,所谓的“亲人”与逝者是毫无关系的。
另一方面,尽管目前还没有明确的法律法规对于“AI复活”的行为进行明确规范,但制作方在利用数字技术行“复活”时,是需要承担一些法律责任的,诸如“制作出来的形象与实际偏差太大”“侵害逝者名誉权,肖像权”等相关权益。
2023年7月,中国颁布了《生成式人工智能服务管理暂行办法》,要求研发方要在生成式AI技术研发过程中进行数据标注的,提供者应当制定符合本办法要求的清晰,具体,可操作的标注规则;开展数据标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训,提升守法意识,监督指导标注人员规范开展标注工作。诚然,这个法规可以对当下兴起的“AI复活”技术起到一定的监管和威慑作用,但它毕竟不是专门监管“AI复活”的具体法案,无法做到面面俱到,百分百贴合。毕竟,立法都是略微滞后的,特别是在新技术领域。
不可否认,科技是把双刃剑,AI也不例外。我们可以利用飞速发展的AI技术实现一系列的革新和突破,诸如人脸识别,语音识别,提高安防效果等。而备受关注的“AI复活”,还能够弥补一些人没能“好好和亲人告个别”的遗憾。但是,一旦这些技术被坏人利用,就可能成为滋生诈骗,邪恶,丑陋的温床。
历史的每一次巨大革新和变革,总会伴随着对于社会规则,道德和伦理方面的挑战。在不久的未来,如何去把握科技伦理与社会发展的边界,在加速发展和审慎规范之间找到平衡点,这将会成为全人类关注的焦点。
4000520066 欢迎批评指正
All Rights Reserved 新浪公司 版权所有