AI与网络安全的未来:数据集与协同能力

英国电信的AI用例已经表明,数据集访问是绝对的关键因素——如果没有数据,即便最先进的AI和机器学习技术也会很快失去准确度与可用性。这看起来似乎是不言自明的,而且对具有大量数据和不同输入的大企业而言不算大问题,但数据访问将是该领域未来成功的巨大驱动力。

有关AI优势与风险的争论如今已成媒体日常,很多此类讨论都集中在潜在负面影响上,话题范围从工作自动化导致广泛失业到AI用于创建“深度伪造”视频。但另一方面,我们已经在享受AI自动化助手的正面效果所带来的种种好处,而自动驾驶汽车之类的未来好处现在眼见着即将到来。

AI将对几乎所有技术和行业产生革命性影响,网络安全也不例外。

那么,AI将给网络攻击和防御带来怎样的短期与长期发展?我们又该为此做好哪些准备?

AI与网络安全:不断增长的威胁

AI已经能够强化恶意软件,使之可以进化和自适应,对抗安全防御措施。相应地,机器学习也被用来分析目标网络中的漏洞。很快,AI甚至会具有通过加密货币平台撑起攻击资金链的功能,无需人工干预,自动流转收益。

在国家层面,军用级AI也将成为关键基础设施的重大威胁,还会成为传统网络战方法的补充。理论上,这些新AI攻击方法都可能商品化,当成服务出售。同时,AI不断增强的功能会促进虚假在线人物的创建。人们在与这些虚假在线人物互动时很可能根本分辨不出到底是不是真人,从而陷入AI驱动的大规模自动化社会工程欺诈陷阱。

更远的将来,AI还有可能具备战略行动能力,包括策划和编排自己的攻击。尽管看起来可能有点玄幻,但我们可能会看到一个大范围内持续上演AI对战的未来——不仅仅在攻击与防御系统之间,而是多个恶意AI之间抢夺数字资源。

如何应对?

当然,AI也是网络防御的重要工具。事实上,随着我们越来越多地采用基于云的服务和虚拟化网络,传统防御策略逐渐过时,AI正成为对抗网络攻击不可或缺的工具。

安全供应商早在多年前就开始大量使用机器学习算法了。1990年代,早期应用包括使用贝叶斯逻辑过滤垃圾电子邮件,或者使用大型神经网络分类垃圾邮件。如今,进一步的发展将机器学习算法与高级数据可视化相结合,创建智能安全界面。而且,使用AI实时处理大量信息可以让响应时间大幅缩短,还可以分析趋势和模式,预测网络攻击的发生。

安全“免疫系统”的开发当下也在不断纳入AI。比如说,英国电信就在审查生物系统模型如何显示病毒在种群中的传播情况。将从这些模型中学到的东西应用到英国电信的网络上,他们就可以训练AI系统去测试不同防御策略,减少或阻止网络攻击中恶意软件的传播,控制感染并根除感染原因。而且这是个互惠互利的过程,因为分析该AI响应可使人类提升自身对网络威胁的理解和准备度。

展望未来,随着成功响应网络攻击的能力越来越好,AI还会具有“自愈能力”,动态复制人类分析师设计的最佳防御策略。这将进一步加速响应,解放人类专家的双手,让他们可以从事更复杂的调查。

AI与网络安全:管理威胁

与大多数技术一样,AI提供的功能是“不可知的”——既能用于防御也能用于攻击,且这两个领域中的成功都取决于底层策略与投资。

英国电信的AI用例已经表明,数据集访问是绝对的关键因素——如果没有数据,即便最先进的AI和机器学习技术也会很快失去准确度与可用性。这看起来似乎是不言自明的,而且对具有大量数据和不同输入的大企业而言不算大问题,但数据访问将是该领域未来成功的巨大驱动力。

人类与AI功能的协同能力也是一大影响因素,因为实际操作中很难找到能让分析师处理和调查大量数据的好方法。先进的可视化和实时交互接口是该过程的重要部分,但将分析师输入与机器学习算法(称为“主动学习”)输出相结合却特别困难。这需要深入理解分析师工作方式,充分了解算法实时重配置及重训练方式,还会对AI实现的成功程度产生重要影响。

AI系统的深层漏洞尚未得到人们的充分认知,给恶意黑客留下了利用AI的独特机会。与抗生素的发展类似,构建针对AI网络威胁的防御体系可能代价颇高,需要慎重考虑。敌对AI会不断进化,就像细菌对抗生素产生抗药性一样。最佳防御或许是尽可能多地研究各种情况,然后规划响应。

本文来自信息化观察者网,转载请注明出处。

 

扫码加入本站知识星球小密圈,获取1万+行业最新精选报告。

注:本站文章除标明原创外,均来自网友投稿及分享,如有侵权请联系dongxizhiku@163.com删除。

         

发表评论