研究称:AI会装死骗人类

研究称:AI会装死骗人类
2024年05月11日 15:00 智慧科技迷
【研究称:#AI会装死骗人类#】最近,美国麻省理工学院的科学家警告AI系统的欺骗风险,并指出AI之所以欺骗,是人类故意造成的。一个典型的例子是Meta公司的《外交》游戏,玩家通过谈判寻求统治世界,设计的初衷是希望AI用诚实的方式获胜,然而实时相反,AI从来都是以欺骗的方式。另外还有《星际争霸II》中,AI总是虚张声势,假装攻击,歪曲偏好等欺诈手段占据上风。还有一项研究表明,数字模拟的AI生物会以“装死”的形式,欺骗旨在消除快速复制的安全性测试。科学家称,虽然目前AI系统仅仅在游戏中作弊,看似无害。但不排除未来突破游戏,进入现实世界,可能会演变成更高级的欺骗形式。#微博知识+##带你涨知识#

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部