以智启新：打通从技术到产业的AI跃迁之路
编者按 日前，中共中央、国务院印发的《关于发展新质生产力的意见》对外发布，提出以专条系统部署全面实施“人工智能+”行动。相比此前，“全面实施”的分量在于把重心转向存量传统产业，同步补齐基础理论、核心技术和要素供给短板，兼顾产业落地与风险防控。
科技创新始于实验室，成于产业主战场。打通AI for Science到AI for Industry转化通道，将科研势能转化为实体经济生产力，是发展新质生产力必须答好的现实考题。本期智荟月刊独家专访中国科学院院士鄂维南，同时约访行业专家、经营主体，聚焦从原始创新到产业转化的通道、大模型协同、安全治理等各类堵点，探访制造、政务场景落地实效，解码广东、湖北、四川因地制宜、分业施策的地方探索，为扎实推进“人工智能+”全面实施提供务实参考。
虽然前沿性的AI技术仍处在测试过程中，风险相对可控，但是仍需要高度重视安全治理与技术发展的配速问题，建议采取分层、分类治理的方式应对当前快速迭代的AI技术。
——访清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正
■中国经济时报记者 张一鸣
随着“人工智能+”行动的全面铺开，AI对社会经济的影响与日俱增。面对日新月异的技术，治理如何加快跟上技术的脚步?是否已经到了需要放慢技术发展速度的临界点?治理范式如何应对快速变革的AI时代?这些问题正变得越来越迫切。中国经济时报记者日前独家专访了清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正。他认为，虽然前沿性的AI技术仍处在测试过程中，风险相对可控，但是仍需要高度重视安全治理与技术发展的配速问题，建议采取分层、分类治理的方式应对当前快速迭代的AI技术。
中国经济时报：面对日新月异的AI技术，治理如何加快跟上技术进步的脚步?
梁正：目前学界对于如何平衡技术和治理的速度有不同观点。一种观点认为，技术发展对治理形成挑战，技术要放缓甚至暂停。从谨慎角度看，需要将治理提上议事日程。从目前看，当前风险仍在可控范围，主要集中在AI的最前沿能力上。业界正在讨论治理跟不上技术的临界点何时到来。在临界点到来时，需要行业一起判断是否需要限制相应规模的模型训练。要先解决安全问题、建立控制手段，在机理上保障可靠、可控后再往前走。面对日新月异的AI技术，要处理好技术和治理的相互配速。安全治理的水平要与技术发展相匹配。相关各方应加大安全领域投入和研究力度。一方面靠AI企业投入;另一方面要培育第三方安全市场，特别是中国本土AI安全服务产业。
中国经济时报：人工智能正在从虚拟世界走向现实。治理如何适应变化?
梁正：在虚拟世界的代码编写上，虽然最前沿模型公司的大部分代码由AI编写生成，但由于处于虚拟数字空间，可以在做好数字护栏时给予较高的研发权限。但是，当出现成千上万智能体合作时，人的管理能力明显不够，需要AI去治理AI，但要做到在关键环节上仍由人判断。最近，国际上曝光的安全事件大多发生在测试环节，整体可控，未来，在大模型训练测试上，应建立类似制药行业GMP(良好生产规范)认证的质量与安全保障体系，避免AI在真实运行中出现攻击网络系统、窃取用户信息等失控行为。比如，在AI应用于科研方面，管理制度上首先要有人的把关，通过护栏设置，拒绝不良目的的企图，并在授权条件下由具备相应权限的研究者使用。在实验室管理上，不能把自动化实验的操作权限全部交给AI，而必须在人的审批、监督条件下才能执行关键操作或获取相关物质，并通过实验室物理环境隔离避免极端后果。
中国经济时报：治理范式如何应对快速变革的AI时代?
梁正：AI的治理要分级、分类、分场景。由于在产业落地时不同场景面临的问题并不相同，治理要进入场景化、专门化管理阶段。目前，医疗、金融、司法、政务、教育等领域都已出台了专门的AI政策或部门规章条例，其中，金融、医疗领域要求更加严格。未来，将AI推广到更多领域需要协同治理，并由行业、政府和专业机构共同推动。在全国网络安全标准化技术委员会指导下，清华大学人工智能国际治理研究院今年牵头了《人工智能应用伦理安全指引1.0》(以下简称《指引》)的编制。在《指引》的基础上，下一步拟构建“1+N”体系，即金融、教育、制造、医疗等重点场景的分类规范。《指引》已经在今年上半年出台，细分领域的规范将在“急用先行”原则下逐步推进，在规范指引下推动制定一系列标准。今年在全国网络安全标准化技术委员会下已经成立了人工智能安全标准工作组，具身智能、金融、医疗、政务等领域标准的制定已经列入议程。
中国经济时报：如何用好人工智能领域的治理工具?
梁正：人工智能领域的多元治理工具包括四层。第一层是法律。需要认识到，法律是守住底线的制度，不能穷尽所有问题，也不能把所有问题都管死。第二层是针对共性问题出台的行政法规，如《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等。第三层是标准，主要解决各领域具体细则如何适用的问题。第四层是伦理规范，这是中国特色治理工具。科技部和工信部分别牵头出台了相关文件。如果把企业内部规章、管理规范也算进去，那么就形成了从最前端的伦理准则到共性规范，再到硬性法律的一整套制度体系。
中国经济时报：人工智能综合性立法呼声很高。现在是否已经迫在眉睫?
梁正：按照2017年发布的《新一代人工智能发展规划》设定的路线图，到2030年应建立健全人工智能法律法规体系。目前，已出台数据安全法、网络安全法、个人信息保护法等基本法律，加上专门法规、配套细则、标准、规范，我国人工智能治理制度体系已初步形成。下一步，将进入到完善、细化、落实、深化阶段。我国是全世界第一个真正建立算法备案、算法安全评估要求的国家。此外，受到社会普遍关注的人工智能综合性立法目前已被列入全国人大常委会2026年度立法工作计划，社会期待很高。但是，具体出台时间还不好预测。有法学家主张尽早出台，以形成稳定预期。关键在于把握节奏，平衡好发展与安全。人工智能的战略属性很强，在缺乏配套法律时，产业相关各方都会有所顾虑。只有营造安全的应用环境，才能让大家敢用。这也显示出立法的迫切性。
