2019盘点 | 人为智能与网络安全的碰撞擦出了什么新火花

颁布功夫 2020-01-10

转瞬间，我们就踏入一个

数字都成双成对的2020年


在从前的功夫里

人为智能技术获得了长足发展

不休刷新人们的认知

引发人们对它更多的进展


让我们一路回首2019

看一看

人为智能与网络安全的碰撞

擦出了什么新的火花呢


RSAC 2019


人为智能技术从“宣传噱头”逐步转向现实利用


每年召开的RSA大会被看作是网络安全业界的风向标，好多新的技术与理念诞生于此。


在2019年的RSA大会上，参展的736家厂商中有124家的宣传主题中蕴含人为智能/机械学习关键词，这讲了然人为智能技术在网络安全领域持续得到普遍关注与认同。


然而，当我们深刻观察比力近两年参展商所进行的宣传时，会发现一些变动，最重要的一点是人工智能技术从作为“宣传噱头”逐步转向现实利用。具体差距如下表所示：


OG东方厅·(中国大陆)

2018年与2019年RSA大会参展商对人为智能技术宣传的对比


从这些差距能够看出，对于人为智能技术，网络安全业界“默默”下来了，不再追求所谓最新、、最酷的算法，而是将其真正转化为产品的能力，关注若何能在现实环境当选择适当合理的规划使其充分阐扬作用。


OG东方厅作为国内网络安全行业的领航者，始终朝着这一指标致力。在2019年，我们持续致力于将有关钻研工作成就转化为现实产品能力，在威胁检测、、用户行为画像、、威胁谍报等方面都已经获得了内容性进展。


Gartner 新兴技术成熟度曲线


可诠释人为智能崛起突破人为智能技术的“黑盒”利用模式


2019年8月，Gartner颁布了新一年度的新兴技术成熟度曲线。一如从前两年，人为智能技术持续占据了“残山剩水”。在曲线上总计29项技术中与人为智能直接有关的达到15项，这再次印证了人为智能技术的持续高速发展以及它所受到的高度关注与进展。在这些技术中，有的是一连上一年仍在曲线上，如自动驾驶、、知识图谱等，也有好多是新出现的，就好比我们下面要会商的可诠释人为智能（Explainable AI，简称XAI）技术。


OG东方厅·(中国大陆)


2019年Gartner新兴技术成熟度曲线（人为智能有关技术用红色下划线标示）


可诠释人为智能这一钻研领域早在2014年就被正式提出，它的重要指标是将人为智能技术的“黑盒”利用模式突破，让人们能够理解人为智能做出的决策。人为智能“黑盒”利用的问题在网络安全领域尤为重要，由于它不仅给了局的正确性认定带来了难题，并且会造成难以深刻分析、、无法追踪溯源的情况，甚至会导致人们对于人为智能技术的不信赖。因而，在网络安全领域选取可诠释人为智能步骤，将有助于解决上述问题，使得基于人为智能构建的网络安全利用更容易被人们所接受。


OG东方厅·(中国大陆)

人为智能“黑盒”利用在网络安全领域中存在的问题


OG东方厅对于前瞻性技术一向对峙积极索求的态度，在2019年我们尝试将可诠释人为智能的步骤利用于之前基于深度学习算法所构建的网络安全威胁检测模型，获得初步成就，可能用可视化的步骤直观标示出对算法模型所做出的决策产生重要影响的原始输入数据中的关键部门（即更可能蕴含有安全威胁的部门）。


Gartner颁布2020十大战术性技术趋向

占有三维寓意的人为智能安全位列其中


2019年10月，Gartner颁布了2020十大战术性技术趋向，其中“AI Security”（人为智能安全）位列其中。但是，这里的人为智能安全不仅是指将人为智能技术用于网络安全防御，而是给出了它的三维寓意，即珍视AI赋能的系统、、利用AI来提升安全防御以及对AI的恶意使用。


OG东方厅·(中国大陆)

Gartner颁布的2020十大战术性技术趋向


● 珍视AI赋能的系统


珍视AI赋能的系统重要是关注人为智能自身的安全问题。日前，一条关于一家美国AI公司使用3D打印的面具破解蕴含支付宝、、微信支付等人脸鉴别系统的新闻刷爆了各大媒体，这正是AI赋能的系统遭逢攻击的典型案例。此外，AI赋能的系统还会受到训练数据投毒、、模型窃取、、匹敌样本等多种类型的攻击。将来，随着AI的日益宽泛利用，这方面的问题将会越来越多地呈此刻人们刻下。因而，当我们选取AI赋能网络安全防御系统时，也应关注其自身的安全问题。


● 利用AI来提升安全防御


利用AI来提升安全防御是网络安全领域最早关注的方面。Gartner在汇报中指出不能仅依附机械学习作为安全解决规划中的单一防御技术，基于机械学习的安全工具也不是为了齐全取代现有工具而设计的。这通知我们不应过度神话机械学习等AI技术在网络安全利用中的能力，而应维持理性态度，分析选择适合的利用场景，使其阐扬最大价值。


● 对AI的恶意使用


对AI的恶意使用也是近年来时常被提及的话题，一个广为人知的实例是DeepFakes的恶意使用。DeepFakes是一款AI换脸工具，可将图片或视频中的人换脸，恶意使用则蕴含伪造图片或视频用于诓骗、、传布虚伪新闻、、制作色情内容等。在网络安全领域，AI也可被利用来辅助攻击，例如Cyxtera公司演示了一个基于机械学习的垂钓攻击天生器，能够自动机关出能骗过检测系统的有效垂钓链接及邮件。另一个驰名案例是利用了强化学习算法A3C的自动渗入测试工具Deep Exploit，可实现肯定水平上的自主学习天生缝隙利用载荷。借助AI能使得攻击越发自动化和难以防御，将来很有可能出现AI之间的攻防匹敌。


个性动图宰割线


随着人为智能与网络安全的深刻融合，越来越得到业界的关注与认可。将来，OG东方厅将持续基于AI的恶意代码鉴别与威胁检测、、用户实体行为分析、、安全知识图谱等钻研堆集的基础上，与其他技术及可诠释人为智能步骤等相结合，向着打造“可用、、实用、、易用、、好用”的基于AI的网络安全利用的指标不休前进，并缜密跟进人为智能安全的另两维寓意所涉及的有关前沿技术钻研，谱写AI赋能网络安全的新篇章。