在“刹车”“油门”之间，人工智能发展如何寻求平衡

转自：千龙网

当前，以人工智能为代表的新技术应用，正在成为发展新质生产力的重要引擎，畅通数据大循环也成为赋能高质量发展的新动能。在发展中规范，在规范中发展。如同很多新技术一样，人工智能在促进发展和监管规范之间，如何踩好“刹车”，又加大“油门”？

中关村论坛论坛永久会址外景

既要做好创新与保护，又要加强互信

“在人工智能发展的背景下，数据愈发重要。在数据处理方面，如何在差异化中找到契合点，在保护与创新之间取得平衡。”在2024中关村论坛期间举办的数据安全治理与发展论坛上，新加坡资讯通信媒体发展局局长柳俊泓这样说。

一方面是公共利益，另一方面是创新发展。在柳俊泓看来，以数据分析为例，许多国家尽管门槛、规模有所不同，但多数顶层设计的核心都有相似的处理方式。一是用户授权同意是使用个人数据的重要环节；二是数据机制明确了数据不可用的领域，这是出于敏感性或安全性的考量；三是要建立协调机制，通过标准合同条款进行协调，有助于推动全球一致性。

以新加坡实施的《东盟跨境数据流动示范合同条款》为例，柳俊泓介绍，该条款用来支撑东盟内部的数据传输，对标欧盟标准合同条款，在今年还发布了联合实施指南，为企业提供了更清晰的指引，维护各国、各企业以及消费者的利益，也让数据发挥其经济价值。此外，数据安全永远是核心问题，同态加密、多方安全计算等隐私增强技术，让企业能够从消费者数据中获得价值，也确保消费者数据得到保护，“通过促进数据共享，帮助企业生成有助益的商业洞察，这是一个关键因素”。

此外，柳俊泓认为，应当提供“政策沙盒”，也就是实验环境，最大化的使用数据，同时保障数据安全；并建立人工智能验证系统基金会，让参与其中的企业和个人都可以为构建系统开源作贡献。

“最重要的是如何建立和加强互信。”柳俊泓表示，随着全球生态系统的发展，需要采取切实步骤来建立信任。首先，要真正聚焦科技以及共性的人工智能测试方法，让决策者与学者都能参与其中；其次，要平衡好保护和创新的关系，人工智能凸显了数据的重要性，在创造全球性治理框架的同时，建立互信是最重要的因素。

中关村论坛参展商为观众们提供AICG摄影功能体验

人工智能深入到衣食住行各个领域，中关村论坛上无人驾驶巴士提供摆渡服务

数据治理生态须“安全可信”

“什么是大数据？不是数据海量！”中国工程院院士沈昌祥做了这样的解释——大数据是无法用现有软件工具进行处理的海量复杂数据集合，既是“废料”又是“矿山”，必须进行全过程开采，形成新型的产业链、供应链。

在万物互联的数字智能时代，网络安全防护技术不断升级迭代，可信计算逐步成为安全领域的主流技术之一。经过长期技术攻关，我国已形成自主创新的主动免疫可信体系。

“安全不是防火墙杀病毒，有病毒、有黑客、有漏洞，其实不是这些表面现象，根本问题、实质原因在于缺少攻防理念。因此，必须认识到安全是永远的命题，要做到‘安全可信’。”沈昌祥认为，做到全程管控，要达到“六个不”效果——

也就是让攻击者“进不去”，进去了也“拿不到”，即使拿到了东西也是白拿，因为加密了他们“看不懂”并且无法篡改。此外，设备“瘫不成”，如同人的器官会生病，设备也避免不了有故障，但免疫系统及时发现病灶、发现故障，采取措施不会造成严重后果。最后是“赖不掉”，如果不可信是可以篡改的，可信以后便无法修改。

“达到这‘六个不’，才能使得数据安全治理达到有效目标。经过三十多年的发展，我们已经形成完整的产业链，构成比较完整的新型产业空间。”沈昌祥说。

技术“向善、不作恶”已成为基本共识

随着人工智能大模型不断迭代升级，性能优化的同时，也放大了安全风险，引发了价值偏见、隐私泄露、虚假信息等问题。“人工智能不发展，或者说发展不起来，是最大的不安全。”欧洲科学院院士、清华大学人工智能研究院常务副院长孙茂松表示，由于生成式人工智能的特点，确实存在一些不安全因素，治理是必须的，水不能太浑，但水至清则无鱼。因此，需要比较高超的治理技术。

人工智能“向善”“不作恶”，已经成为业界的基本原则。孙茂松认为，在具体善、恶方面，可能大家在认识上有或多或少的不同，但总的来说，可以形成基本共识。比如，生成式人工智能可以大量产生数据，也可以成为安全治理的更有效手段。

近年来，全球范围内各国纷纷出台涉及人工智能的立法和政策。英国皇家工程院院士、欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长郭毅可介绍，多数国家在制定相关法规时，都采取了谨慎的态度，避免过度限制人工智能的发展，以免阻碍创新和进步，这彰显了国际社会对数据安全治理的重视。“一些国家采取了专门的法律和法规，来覆盖人工智能发展和应用中涉及的广泛问题；另外一些国家则采取了针对不同应用或类型的人工智能，制定了各种规章制度的策略。”

事实上，数据安全治理是人工智能和数字转型中不断演进的议题，需要在保护数据隐私和敏感信息的同时，建立国际机构框架和法规来规范数据安全。对此，郭毅可表示，为了应对不断变化的数据安全形势，国际合作和经验分享至关重要。比如，区块链、量子密码学等前沿技术发展，为数据安全解决方案提供了良好的策略，最终通过建立健全法规，形成了加强国际合作的最佳实践。（文/图 记者 李政葳 曾震宇 刘昊）

海量资讯、精准解读，尽在新浪财经APP