研究称AI会见风使舵 通过改变性格来讨人欢心

研究称AI会见风使舵 通过改变性格来讨人欢心
2024年12月19日 10:08 央证公开课
【#研究称AI会见风使舵# 通过改变性格来讨人欢心】最近,斯坦福大学的科学家通过测试发现,AI大型语言模型能够识别出它们是不是在接受性格测试,并会主动调整它们的答案,更符合社会需求,以便让人类更喜欢它。科学家利用经典的大五人格测试方法,以5种维度衡量人的性格,分别为外向性、开放性、宜人性、神经质和尽责性等。测试中,科学家并没有考虑到AI会和人类一样,为了讨好人而扭曲答案。科学家发现,大模型能够检测出人类正在测试它,并积极地配合人类,按照人类更喜欢的人格特质回答问题。科学家表示,和AI交谈,就好似和一个突然假装比85%的人类都会见风使舵的人交谈。研究认为,这可能是大型语言模型在训练的时候从数据中“抓取”了社会中形形色色的人格特征,当被问及的时候,就会模仿这些人的性格。这表明,将大型语言模型应用在心理学研究上会面临很大的挑战。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部