心智计算论坛第7期:“从交叉科学视角探索Theory of Mind”成功举办

心智计算论坛第7期:“从交叉科学视角探索Theory of Mind”成功举办
2022年12月28日 18:59 中国人工智能学会CAAI

2022年12月22日下午14:00-16:00,由中国人工智能学会(CAAI)主办,中国人工智能学会心智计算专委会、神经现实协办的心智计算论坛第7期“从交叉科学的视角探索Theory of Mind”在线上成功举办。论坛围绕Theory of Mind从心理学、认知科学、人工智能、神经科学等多学科视角研讨其内涵及其对人工智能的启示与意义。各平台累计观看量2000+人次。

“心智计算论坛 (The Mind Computation Forum)” 是中国人工智能学会心智计算专委会的系列论坛,邀请心智计算相关学科的学者就心智计算研究进行演讲、研讨,促进学科发展与跨学科的学术交流与合作。本次心智计算论坛由中国人工智能学会心智计算专委会主任、中国科学院自动化研究所曾毅研究员主持,邀请了北京大学苏彦捷教授为演讲嘉宾,上海交通大学秦裕林教授为特邀嘉宾,以及中国科学院自动化研究所赵宇轩副研究员、鲁恩萌研究工程师、博士生赵卓雅、中国科学院神经科学研究所博士生刘博奕为青年互动嘉宾,从交叉科学的视角共论Theory of Mind。

12月22日下午,CAAI心智计算专委会主任曾毅研究员为本次心智计算论坛开场主持。曾毅研究员在发言中表示,CAAI心智计算专委会以多学科交叉的方式融合来自人工智能、认知科学、脑与神经科学、演化生物学、人类学等学科的研究方法与学者的贡献,对生物智能和心智活动的机制机理进行多视角、多尺度系统性的探索,重点研究心智的计算理论体系、心智建模、生物与人工意识、学习与记忆机制、常识构建与理解、社会认知等的科学原理和关键技术,并研发受脑与心智启发的人工智能。

曾毅研究员介绍本次心智计算论坛的主题是“从交叉科学的视角探索Theory of Mind”。心智计算在心理学、认知科学、人工智能领域都有着广泛的研究,虽然不同学科对心智计算的研究视角不同,但目的都是在于对心智的自然机理、本质的挖掘,以及启发计算机制的探索。本次论坛集结了多个领域的资深研究人员、青年学者来从多个学科的角度探讨Theory of Mind。曾毅研究员希望此次论坛中,来自心理学、认知科学、人工智能、神经科学等多学科视角的学者研讨Theory of Mind能够对其内涵及其对人工智能的启示与意义进行讨论、思想碰撞与相互启发与借鉴。

曾毅研究员作开场主持

北京大学苏彦捷教授作题为《从演化和发展的视角看心理理论》的学术报告。苏彦捷教授认为应当将Theory of Mind译为“心理理论”,首先介绍了心理理论的概念渊源,从演化视角分享动物心理理论能力的研究,从发展视角分享儿童心理理论的研究,概述了很多经典的心理理论研究的实验范式。苏彦捷教授认为,心理理论通过对心理状态的理解来解释和预测个体的行为,这项能力在生活中十分常见。而不同年龄阶段的心理理论能力有所不同,通过不同阶段的实验范式可以测量心理理论的能力,探测儿童心理理论能力的发展程度。苏彦捷教授还分享了国内外关于儿童获得和发展心理理论能力的时间节点的相关研究,揭示了社会交往环境、文化交流对于儿童发展心理理论能力的潜在影响,不同国家的儿童在心理理论能力上的发展过程有人类的共性也有文化特异性。

苏彦捷教授作演讲

中国科学院自动化研究所类脑认知智能研究组赵宇轩副研究员、博士生赵卓雅从人工智能的视角分享了类脑人工智能建模的Theory of Mind研究。他们的研究认为Theory of Mind应被译为“心理揣测”,主要是Theory of Mind的核心是基于自身经验对他人心理活动的揣测。赵宇轩副研究员首先汇总了基于贝叶斯、深度学习、脑启发的心理揣测计算模型,紧接着介绍具备生物合理性的类脑自我感知模型,以及在其基础上进一步发展的类脑心理揣测脉冲神经网络模型。这两套模型受脑自我感知和心理揣测的神经环路启发,建模了多脑区、多环路协同的类脑脉冲神经网络模型,并应用于经典的心理揣测实验范式。这两项研究均是基于类脑认知智能引擎(“智脉”BrainCog)实现的全脉冲神经网络模型,集成了多尺度的神经可塑性实现结构、机理类脑的自我感知及心理揣测模型。最后,赵宇轩副研究员还总结了在心理揣测方面未来开展的研究的思考,包括对心理揣测神经及计算机制的探索、对心理揣测的应用及意义的挖掘、以及不断丰富和优化以类脑认知智能引擎BrainCog为核心的心理揣测模型。

赵宇轩副研究员作演讲

中国科学院自动化研究所博士生赵卓雅分享了利用类脑心理揣测模型帮助他人或其他智能体规避安全风险的研究。基于多脑区协同的心理揣测脉冲神经网络模型能够推断自身与他人或其他智能体观测的不同,进而预测到他人或其他智能体未来可能存在的潜在风险,并在必要时暂缓执行自身行为而采取行动帮助他人或其他智能体规避安全风险。

博士生赵卓雅作演讲

上海交通大学秦裕林教授从认知科学的视角分享了对心理揣测的思考。他首先对CAAI心智计算专委会的正式成立表示热烈地祝贺,回顾了认知科学、心理学和人工智能中对心智研究的历史,特别是认知体系结构的发展,以表达当代人工智能研究重视发展心智计算的必要性。紧接着秦裕林教授深入介绍Theory of Mind的定义,以及常见的中文翻译,他及合作者通过深入研究Theory的意义内涵,指出“Theory”不只有“理论”这一个意义,还有“揣测、推测”的深层含义,他特别列举了他与长期合作者美国科学院院士卡内基梅隆大学心理学系主任John Anderson研讨此问题时的一些细节,指出心理学中Theory of Mind是对他人心理活动的揣测,而他们共同的研究An Integrated Theory of the Mind则是对心智提出的整体信息加工理论,两者是有明显区别的。因此“Theory of Mind”应该译为“心理揣测”。

秦裕林教授作演讲

在互动研讨环节,中国科学院神经科学研究所博士生刘博奕强调他认为社会性动物均具备Theory of Mind能力,例如大鼠的合作行为中表现出丰富的Theory of Mind,包括共情能力、学会合作、互利共惠的行为等。此外,刘博奕认为现有的对Theory of Mind的计算建模偏向于认知性(如赵宇轩副研究员构建的类脑心理揣测模型),建议将认知与情绪的Theory of Mind融合在一起,在具备感知本体及他人情绪的基础上结合认知逻辑来发展Theory of Mind的计算建模。

博士生刘博奕发言

赵宇轩副研究员就博士生刘博奕的问题和建议发表了自己的观点和思考。赵宇轩副研究员介绍到,类脑心理揣测模型是基于全脉冲神经网络实现的,不是通过深度学习来实现的,相较于深度学习模型的生物合理性更强,采用的是类脑的脉冲时序依赖可塑性来学习和优化,有助于揭示心理揣测的神经机理。一般认为Theory of Mind与Cognitive Empathy(认知共情)对应,而Emotional Empathy(情感共情)是共情(Empathy)的一部分,却不是Theory of Mind的一部分。曾毅研究员介绍到,未来的心智计算论坛将专门针对情感共情开展研讨。

中国科学院自动化研究所鲁恩萌研究工程师从人工智能的视角对如何评估智能体是否具有mind提出了自己的困惑。即智能体具有哪些能力可以说其有mind?是否存在完整的关于mind的范畴来帮助人工智能学者去发展具有mind的智能机器人?

鲁恩萌研究工程师发言

苏彦捷教授针对鲁恩萌老师的问题进行了解答。苏彦捷教授认为,在不同的情景下mind的层次是不同的,mind通常被认为是内部的心理,看不到的非外显的行为都可以称为mind。普遍考虑的mind包括信念、意图等,而广义来看知识状态、情绪、愿望、态度也都可以表征mind。

鲁恩萌深入地提问如果机器人具备某些心理揣测的功能,例如可以揣测他人的目标等,但是通过被训练所具备地部分看起来属于Theory of Mind的技能,能否说明智能体真的具备了Theory of Mind能力呢?

苏彦捷教授认为从心理学角度来说,表现出某种能力不代表本质和机理是一样的。例如通过镜像测试的大鼠也不能说就具有自我觉知,即使表现一致,但是其机制、过程与真正的自我觉知的原理是有很大不同的。苏彦捷教授也表示,以更加包容的态度去对待人工智能模拟Theory of Mind的研究,如果智能体能够表现出类人的Theory of Mind的能力,这样对于发展具备Theory of Mind的智能体也是很大的进步。

秦裕林教授从认知科学的角度发表了自己对mind的概念理解,首先回顾了早期思想认为mind就是对信息的处理与加工,而随着神经科学的发展,逐渐发现人脑的mind具有人脑思维的特点,目前计算机的信息加工过程与人脑还是有很大的差异。研讨环节还对观众们提出的问题进行了解答:

Q1:Theory of Mind和IQ、推理有什么区别?

A1:苏彦捷教授回答到,IQ是对智力的测量,和心理理论能力肯定是不一样的。心理理论广义上来说可以归为智力的一部分,是处理社会世界的一项能力。推理能力总的来说一定会运用到心理理论能力在递归的推理中,但不同于纯逻辑的推理,Theory of Mind不一定是逻辑上可以计算的,而是自然而然在生活中发展而来的理解和预测能力。曾毅研究员针对Theory of Mind是否可以计算分享了自己的见解。

曾毅研究员借鉴Herbert Simon的思想认为绝大多数的心理活动是可以计算的,都是信息加工的过程。此外他特别引用了康奈尔大学心理学教授Shimon Edelman关于”Computing the Mind”的观点“I am my mind, and I live in my Brain”。曾毅研究员指出Mind是否可以计算是一个开放问题,我们应当不断探索Mind中哪些部分是可以计算,哪些是未知怎么计算甚至是不可计算的。

Q2:心智模型中旁观者一定会回答正确答案?会不会产生谎言或旁观者视角的非全局性,以干扰其他的机器人。

A2:曾毅研究员认为通过心理揣测去干扰他人这是完全可以发生的,但是对他人的揣测这个认知未必是正确的,主观的揣测和判断就是会产生误差或不恰当的行为影响到其他智能体。

苏彦捷教授认为机器人能够产生谎言来干扰他人那就太类人了,相当于运用心理揣测的能力去做坏事儿。

曾毅研究员针对机器人恶用心理揣测能力发表了自己的观点,例如近期人工智能被用于在外交类游戏中欺骗和拉帮结伙。正如很多哲学家关注的人工智能学习到人类恶的一面这会非常危险的,这些是发展人工智能必须要考虑的伦理道德问题。

鲁恩萌研究工程师深入地发表了自己的见解,即是否应该赋予机器人心理揣测能力,以及赋予机器多大程度的心理揣测能力呢?心理揣测可以帮助消除社会交往中的误会,形成沟通的桥梁,人机之间的心理揣测可以帮助机器更好的理解人类的需求,形成价值对齐,构造可信任的机器智能体。但若是赋予机器过强的心理揣测能力,那么是否人会更难读懂和控制机器,机器也会掩饰、撒谎、欺骗和操纵人类,人工智能的飞速发展无法回避这些问题。

苏彦捷教授认为人工智能领域研究模拟人类心理理论的智能体,可以附加约束来抑制其向恶发展。心理理论能力是可以向善或向恶发展和运用的,也可以与其他的认知功能模块统筹协同,可以通过人为约束使其朝着道德、善意的一面发展。

秦裕林教授认为采用人工智能伦理与治理去限制人工智能向错误的方向迈进是十分重要的,发展理解人类帮助人类的向善的智能体是必要的。他对曾毅研究员团队开展类脑人工智能的道德模型的研究,基于心里揣测帮助其他智能体避免风险等研究表示了积极的赞赏。应在较早的阶段就介入人工智能的伦理治理,这样能够保证在一条安全的道路上发展。

博士生刘博奕建议用情绪来限制伦理,用情绪去帮助理解他人。情绪是自动计算的本能的反应,情绪可以帮助理解对方的想法。曾毅研究员引用了图灵奖获得者Marvin Minsky的观点“问题不是人工智能是否能够具有情感,而是如果没有情感,怎能称为其是真正意义的人工智能”,并对博士生刘博奕对情感的理解及其在人工智能中的作用表达了赞同和肯定。

最后,曾毅研究员对此次心智计算论坛进行了总结,多学科交叉的探讨使得Theory of Mind的概念、内涵更加清晰。各位专家学者们都从自己的领域分享了新颖的观点、相关进展,多位学者之间的研讨展现出不同学科之间已经开始了不同程度的互相借鉴,这是非常可贵的,对于发展Theory of Mind交叉学科很有启发。此次论坛多位资深学者、青年研究人员和观众之间展开了丰富的思想交流、深入的互动讨论、实质的问题研讨,营造了良好的学术交流氛围。

本文由CAAI心智计算专委会供稿

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部