“当前，全球正处于第四次工业革命的关键期，人工智能、区块链、物联网等前沿技术的融合应用，促使人类社会进入以数据为关键要素的数字经济时代，这虽然极大地提升了社会生产效率和生活便捷度，也为数字安全带来前所未有的挑战。”中国工程院院士邬江兴近日在2024第十二届西湖论剑·数字安全大会上作主题演讲时这样表示。
用户数据泄露、伪造人脸识别、金融诈骗、恶意攻击……近年来，随着各行各业数字化转型升级和人工智能等技术快速发展，数字化安全风险迭生。网络安全威胁已经从“信息域”扩大到“数据域+物理域+认知域”，数字经济时代，社会的数字化转型面临着系统性风险隐患。
“当今网络安全防御呈现出一种‘打鼹鼠’的游戏，按下葫芦浮起瓢，冒出一个鼹鼠就打一下。”邬江兴表示，网络安全目前存在制造商缺乏认真对待网络安全问题的动机和激励机制；存在习以为常的“偏差正常化”状况，默认所有软件都肯定会带有必须通过补丁修复的缺陷等问题。他建议，网络安全要从用户侧向设计制造侧转移，要将网络安全融入数字产品的设计与制造中。
邬江兴提醒，尽管基于设计与默认安全可能会增加产品的开发成本，但可极大改善客户安全，从长远看可降低制造侧用户与修补的成本，以及最终用户的全生命周期使用成本。
“平衡网络安全与责任也要从数字产业源头技术抓起。”作为一名从事网络信息安全的科技工作者，中国工程院院士吴世忠更关注的是人工智能的安全性。
吴世忠介绍，网络安全大致分为三个阶段，前20年左右是IT驱动阶段，万物互联追求的是规模，安全的重点是边界繁复；后10年是DT驱动的时代，追求数据的流动。“今天是AI驱动的新阶段，面对的是一个全新的对象，这个对象在国际上有一个新的词，叫Homo Technologicus（科技智人）。从网络信息安全来讲，它和过去都不一样了，过去网络固定、数据流动，现在它可能会‘活’起来。”
人工智能给人类带来了无限的发展新可能，也带来了不少近忧和远虑。在吴世忠看来，机器智能作为灵动因素，改变了安全的内涵和外延。“当下，AI已经深度融入千行百业、千家万户，我们必须严防AI可能会带来的全新风险挑战。”
科技创新永无止境，人工智能方兴未艾，安全风险如影相随。“以安全保发展，对我们科技界、学术界、产业界而言，既责无旁贷，又大有可为。”吴世忠表示，在关键技术“卡脖子”方面，需要更加自立、自强；在基础设施领域需要实现可管可控；在技术应用方面需要提供更多安全便捷的手段；在社会发展上，需要让人工智能变得可靠或可信。
“为人工智能的推广应用或健康发展创造一个更加安全、坚韧、可信的发展生态，既是社会期盼，又是产业追求。”吴世忠认为，要做到确保人工智能自身或人工智能服务的安全可靠，需要强化基础设施的安全保障，推广负责、安全、向上的人工智能应用，构建一个高度、弹性或韧性的新型的安全保障体系。
拥抱人工智能是大势所趋，但吴世忠提醒说，“安全这根线，任何时候都不能松懈！”
记者：李敏杰
文字编辑：吕婉莹
新媒体编辑：孙柏月（实习）
审核：周佳佳
