暂无
ChatGPT掀起的人工智能热潮仍在继续,在数字中国建设峰会期间,奇安信集团董事长齐向东对TechWeb表示,ChatGPT是人工智能技术的代表性应用,它依托大数据给社会生产生活带来了很多便利,但同时也给数据安全带来了全新的安全挑战。主要有三个挑战:
一是降低了网络犯罪门槛,加剧了数据遭遇外部攻击的风险。过去,高水平的黑客只是一小部分,人工智能技术能让黑客的水平跃升,相当于给了普通人一本“武林秘籍”,让不懂代码、不懂技术的普通人,也能成为黑客。恶意攻击代码和钓鱼攻击变得“唾手可得”,加大了数据安全风险。
二是增加了数据泄露途径,会让数据在使用中“被动”泄露。人工智能工具是一件趁手的办公利器,能极大提升工作效率。但当员工使用ChatGPT类工具,向这些工具“投喂”数据时,就造成了企业敏感信息、商业机密和其他数据泄露风险。有安全公司调查,2.3%的员工会将公司机密数据粘贴到ChatGPT中,企业平均每周向ChatGPT泄露机密材料达数百次。
三是信息识别成为难题,深度伪造攻击逐渐流行。利用人工智能技术,犯罪分子不仅可以编写出更贴近受害人的工作环境的钓鱼邮件,提高网络犯罪的得手率。还能通过伪造信息和声音对公众进行误导,一张伪造的图片、一段伪造的视频,都可能引起轩然大波,对数据安全造成巨大威胁。
齐向东指出,奇安信是网络安全领军企业,在数据安全防护领域实现领跑,目前已经开始深入布局人工智能模型安全。我们基于海量知识和大数据,在深度伪造、深度鉴伪等技术方面取得了重大突破,能准确识别多种AI伪造技术生成的虚假图片和视频。未来,奇安信会继续开展技术攻关,进一步发挥安全防护专长,维护好人工智能时代的数据安全。