人工智能技术快速发展，给经济社会发展带来巨大红利，同时也存在诸多风险挑战。
7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议大会（下称“大会”）即将召开。今年的主题是“以共商促共享，以善治促善智”。
与往年不同，今年大会将同期召开人工智能全球治理高级别会议。全球人工智能技术的快速发展对经济社会发展和人类文明进步产生了深远影响，也带来了风险和复杂挑战。“前沿人工智能安全与治理论坛”“国际AI安全前沿技术论坛”等垂直细分议题的分论坛也将陆续登场。
大会从最初聚焦科技进步和产业繁荣，逐渐演进为涵盖发展、安全、治理的综合性议题。
AI治理需要全球共识
近年来，人工智能技术快速发展，给经济社会发展带来巨大红利，同时也存在诸多风险挑战。人工智能全球治理已成为世界各国共同面临的重大课题。
去年10月，中国国家主席习近平宣布提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述人工智能治理的中国方案，就各方普遍关切的问题提出建设性解决思路，为相关国际讨论和规则制定提供了蓝本，得到国际社会的高度评价。
就在7月1日，第78届联合国大会以协商一致方式通过了中国主提的“加强人工智能能力建设国际合作”决议，140多个国家参加联署。在7月2日外交部例行记者会上，外交部发言人毛宁表示，这充分反映了各国在加强人工智能能力建设方面的广泛共识，彰显了各国通过团结合作加强能力建设、弥合智能鸿沟的政治意愿。
目前，美国已联署该决议。毛宁表示，中方赞赏包括美国在内会员国积极参与“加强人工智能能力建设国际合作”联大决议草案磋商，并支持该决议达成协商一致。中方愿同美方一道，落实两国元首旧金山会晤共识，加强两国人工智能领域多双边对话合作，促进全人类共享智能红利。
中国主张，人工智能全球治理应该坚持广泛参与、协商一致原则，在充分尊重各国政策和实践差异性的基础上，推动形成广泛国际共识。毛宁表示，决议坚持以人为本、智能向善、造福人类的原则，聚焦能力建设主题，强调增强发展中国家在人工智能全球治理的代表性和发言权，倡导营造公平、非歧视的商业环境，支持联合国发挥中心作用，鼓励通过国际合作和实际行动切实帮助发展中国家开展能力建设，实现人工智能的健康和可持续发展。
AI治理影响技术安全发展
人工智能安全治理是目前海内外企业关注的重点。
DeepMind前沿安全与治理小组的艾伦·德福表示，AI技术的发展是全球性的，没有任何一个国家可以独自应对所有的挑战。需要在全球范围内建立合作伙伴关系，共同制定和实施规范和标准，以确保AI技术的发展能够造福全人类，而不是成为威胁。这不仅仅是一个技术问题，更是一个社会问题，需要各国政府、企业和学术界的共同努力。
加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）此前提及OpenAI CEO萨姆·奥尔特曼（Sam Altman）表示将研究如何创建AGI并保证它的安全，但罗素认为这个观点说反了——一旦制造出 AGI，就没有另一个十年的时间来研究如何让它变得安全。
北京智源人工智能研究院理事长黄铁军认为，目前AI安全已进入风险很突出的阶段。应对AI安全风险，需要对AGI水平和能力进行分级。面壁智能CEO李大海认为，现阶段安全主要聚焦在基础安全与内容安全两个方向上，现在的大模型本质上是只读的，权重是固定的，推理不会影响权重。未来当用户将模型部署到机器人等终端上，模型能够去动态更新自己的权重后，安全问题将变成一个非常重要的问题。
瑞莱智慧CEO田天对第一财经记者表示，AI治理与AI技术发展所处阶段有关，目前海外头部机构与专家关注超级智能安全问题的会议也很多，是一个全球关注的议题。行业相信，在Scaling Law（规模定律）下，短时间内达到强大的AI技术是有可能的。
为加快构建满足人工智能产业高质量发展的标准体系，工信部等四部门日前联合印发《国家人工智能产业综合标准化体系建设指南（2024版）》（下称《指南》）。根据《指南》，人工智能标准体系结构包括基础共性、基础支撑、关键技术、智能产品与服务、赋能新型工业化、行业应用、安全/治理等7个部分。
在治理标准上，《指南》提出要结合人工智能治理实际需求，规范人工智能的技术研发和运营服务等要求，包括人工智能鲁棒性、可靠性、可追溯性的技术要求与评测方法，人工智能治理支撑技术；规范人工智能全生命周期的伦理治理要求，包括人工智能伦理风险评估，人工智能的公平性、可解释性等伦理治理技术要求与评测方法，人工智能伦理审查等标准。
在田天看来，目前国内在安全领域所关注的内容更多聚焦在可信的安全问题，以及如何防范滥用方面。随着中国人工智能的快速发展，很快国内也会更多参与海外在AI安全方面的探讨。
清华大学人工智能国际治理研究院副院长梁正在提到中国参与全球人工智能治理体系构建时表示：“中国作为人工智能发展的重要力量，在参与全球人工智能治理体系构建、推动人工智能国际治理合作上，始终主张各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。”
第一财经记者宁佳彦对本文亦有贡献
