当前，以人工智能、大数据、云计算、5G等为代表的新一代信息通信技术发展日新月异，深刻改变各行各业的发展方式，尤其是生成式人工智能正在引发新一轮智能化浪潮，为经济注入强劲发展动能，但与此同时，也带来了数据泄露、虚假信息、算法歧视等网络和信息安全新挑战、新问题。

人工智能安全成为备受关注的热点。4月28日，中共中央政治局会议提出，要重视通用人工智能发展，营造创新生态，重视防范风险；7月24日，中共中央政治局会议再次提出“促进人工智能安全发展”；《生成式人工智能服务管理暂行办法》将于8月15日开始实施；日前召开的第十一届互联网安全大会（ISC 2023）将主题定为“安全即服务，开启人工智能时代数字安全新范式”。

新机遇带来新挑战

近年来，中国网络安全产业综合实力显著增强。数据显示，2022年中国网络安全产业规模近2200亿元，截至2022年底，中国已有21家网络安全企业上市，传统安全企业、互联网企业纷纷布局数据安全赛道。网络安全技术体系持续完备，零信任、以太坊等信息安全技术逐步成熟落地。隐私计算、图片加密等领域布局加快，网络安全与人工智能、云计算、区块链、工业互联网融合发展加速。

但随着新技术的发展，新型威胁也在不断升级，网络勒索、钓鱼攻击、数据窃取等重大安全事件频发。根据IBM日前发布的报告，数据泄露的平均成本在2023年达到历史新高，为445万美元，这比2022年的435万美元增加了2.3％。全面加强网络安全保障体系和能力建设已经成为应对新形势、新挑战的必然之举。

中国工程院院士邬江兴介绍，AI应用系统中，内生安全个性和共性问题往往是交织叠加存在的，既有漏洞、后门引起的问题，又有黑盒效应引起的问题，交织叠加使得AI应用系统的安全问题变得极其复杂，给安全使用和维护带来了前所未有的挑战。

“推动人工智能产业快速发展，必须把保障数据安全放在突出位置。”十三届全国政协经济委员会副主任苏波在ISC 2023开幕致辞中表示，要加快人工智能数据资源建设，创新人工智能技术手段，完善人工智能数据安全监管体系。

中国工程院院士邬贺铨表示，数字化将逐渐走向智能化高峰，这将开启人工智能时代，但数字安全永远是魔高一尺，道高一丈，也在不断地发展演进，传统安全防护的手段急需升级。

新挑战呼唤新打法

“随着安全挑战的不断升级，传统安全方案已经难以应对数字时代的新挑战。”360集团创始人周鸿祎表示，企业实现体系化安全运营存在缺平台、缺探针、缺数据、缺专家等问题。

推动人工智能产业快速发展，必须要把数据安全放在突出位置。在苏波看来，要创新人工智能技术手段，用技术进步解决安全风险难题，加强人工智能数据安全保护基础理论研究和技术研发，发展负责任、可信任、能受控的通用人工智能。

实际上，人工智能时代的安全问题，一方面是人工智能应用场景下的数据安全风险防范，另一方面是将人工智能技术应用在数据安全治理与网络攻防对抗中。“人工智能等数字技术的应用本身既是安全防御的重点、手段，也是保障的有力手段。”邬贺铨表示，数字安全已经成为数字经济发展的焦点，需要融合大数据、人工智能、互联网等技术，提升保障能力。

“创新是网络安全保障能力提升的根本动力。”工业和信息化部网络安全管理局局长隋静表示，要围绕5G、工业互联网、车联网等重点领域开展关键技术攻关，加快强化安全风险感知、监测预警、实时阻断、追踪溯源等核心能力；前瞻布局人工智能与网络安全技术融合创新，提高产业链、供应链韧性和安全水平。

对于技术创新，中国互联网协会理事长尚冰表示，互联网龙头企业要积极开展原创性、引领性、基础性安全技术攻关，延伸技术领域，拓展产品服务范围，完善产品矩阵，以创新技术和产品切入细分领域，推动产品服务和行业发展紧密结合。

维护网络安全是全社会的共同责任，需要各方共同参与，也需要多措并举。苏波表示，要加快明确人工智能数据安全法律制定，通过检测验证提升人工智能产品的安全性和成熟度，降低人工智能数据安全风险。

“要摒弃硬件式、碎片化、弱协同的传统安全防护手段，向云化、服务化的理念升级。”邬贺铨表示，数字安全企业需要建立体系化的安全运营服务框架，面向各行各业输出数字安全能力，帮助企业构建安全防御体系，保护数据安全与商业秘密。