AI 演化:为什么 SOC 中始终有人的一席之地

尽管AI潜力无穷,网络安全部门里的人类员工完全被AI替代的想法,仍旧好像用大白代替全国各位医生一样遥不可及。虽说AI的终极目标是模拟问题解决、学习、规划、直觉等人类身心功能,但总有些事是AI不能处理(目前还不能)的,还有些事是AI不应该处理的。

网络安全领域,人与机器的配合能够干成各自单独完成不了的事,结成能够维持秩序对抗恶势力的互补式团队。

二十世纪特别痴迷人工智能(AI)概念。从热心助人的类人仿真机器人,如《星球大战》里蠢萌蠢萌的C-3PO;到铁板一块冷酷邪恶的智慧机器,如《2001太空漫游》里的HAL 9000超级电脑和《黑客帝国》里的主机;AI都是科幻电影或小说里的标准配置。如今,随着我们真切进入AI时代,人类AI愿景远比预言更梦幻的事实愈加明显。但我们确实预言对了一件事:AI彻底改变世界的潜力——无论善恶。

人工智能几乎彻底变革了采纳这种技术的所有行业,包括医疗、证券市场,以及加速采用AI的网络安全领域——既用于补充人力也用于强化防御。最近几年机器学习的发展,使得过去人工完成的繁琐工作现在可以自动化完成,比如梳理看起来无穷无尽的数据以找寻威胁指标和异常。现代AI具备“理解”威胁、风险和关系的能力,因而能够过滤压垮网络安全部门的大量噪音,只滤出最可能有效的指标。

这一优势包含两个方面:威胁再也不能因安全人员疲劳或职业倦怠而乘隙而入,网络安全人员能够腾出手来从事更重要的任务,比如修复。AI还可以提升全网可见性。可以通过模拟点击电子邮件链接和分析措辞及语法来筛查网络钓鱼。可以监视网络通信,查找恶意软件安装尝试、命令与控制(C2)通信、可疑数据包等。而且,AI还帮助转型病毒检测,从完全基于特征码的系统——受制于反应时间、效率和存储要求等,转入能检测无特征码恶意软件、零日漏洞利用和位置威胁的行为分析时代。

但尽管AI潜力无穷,网络安全部门里的人类员工完全被AI替代的想法,仍旧好像用大白代替全国各位医生一样遥不可及。虽说AI的终极目标是模拟问题解决、学习、规划、直觉等人类身心功能,但总有些事是AI不能处理(目前还不能)的,还有些事是AI不应该处理的。AI不能处理的事务包括创造,这玩意儿可不是能教出来或者编程编出的,总需要人类指导。期待AI可靠有效地确定攻击上下文也是个不可逾越的难题,至少短期内是如此,另外也不用指望AI能创建安全问题的新解决方案。换句话说,尽管AI肯定能增加传统人工处理任务的速度和准确度,但却很难扩展此类任务的范围。

还有些任务是人类当前擅长而AI未来有可能超越的。但这些任务是人类将总是占据巨大优势,或者不应完全信任AI处理的那种。这类任务包括合规、独立形成策略、分析风险或响应网络攻击。这些领域总是需要人类充当AI系统决策核查员,检查其工作,帮助指导其训练。

SOC永远要留有人类的位置还有另外一个原因:为了领先已开始运用AI作恶的网络罪犯一步。不幸的是,任何可以用来帮助人类的AI技术同样可以用来伤害人类,而且随着时间推移,AI对网络罪犯的帮助会像对合法企业的帮助一样大。

暴力破解攻击,曾经随着密码复杂度要求的提高而式微,但以AI的形式获得极大推动。该技术结合了之前泄露的密码数据库和公开可用的社交媒体信息,如今不再试图从111111之类开始尝试每个可能的密码组合,而是只做经过训练的猜解,成功率高得惊人。

类似的,AI可用于鱼叉式网络钓鱼攻击。当前,鱼叉式网络钓鱼必须人工进行,限制了其实用性。但结合数据收集和机器学习技术,社交媒体和其他公开信息源就能被用来“教导”AI撰写出目标信任的文风,让目标更可能执行攻击者染指敏感数据或安装恶意软件所需的动作。由于鱼叉式网络钓鱼所需工作量大幅下降,同时期收益潜力急剧上升,我们无疑会看到更多此类攻击。

但或许最大的威胁是黑客将用他们的AI策反网络安全团队的AI。达成此事的一条路径是挫败现有机器学习模型,也就是所谓的“对抗性机器学习”。机器学习中的“学习”部分,指的是系统观察数据模式和提出数据含义假设的能力。但通过往系统中注入错误数据,算法赖以决策的模式就会被破坏——让目标AI以为恶意过程不过是无意义的日常事件而加以放过。恶意黑客置入AI系统的一些过程和信号对系统本身毫无影响,他们只是重新训练该AI把自身行为视作正常的而已。一旦训练完毕,这些过程就可用于执行几乎不会被逮到的攻击。

鉴于AI可能为害的各种方式,有些人可能干脆就想完全放弃AI了。但无论你个人是怎么想的,AI之路已经无法回头。随着网络罪犯开发出愈加复杂和危险的AI利用方式,仅靠安全人员自身已经不可能跟上他们的脚步。唯一的解决方案,就是在AI利用上更加精进,在罪犯之前开发和部署新的AI进展。同时避免太快自满。毕竟,坏人不会闲着这话在网络攻击者身上体现的更加明显,今天看起来最智能的进步也挡不住明天的威胁。

网络安全的未来将充满我们今天无法想象的威胁。但小心警惕加努力工作,人与机器的结合能做到二者单独办不到的事——结成互为补充的团队,对抗邪恶势力,维护网络世界秩序。

毕竟,我们的AI可能与电影里的那些没什么不同。

本文来自信息化观察者网,转载请注明出处。

 

扫码加入本站知识星球小密圈,获取1万+行业最新精选报告。

注:本站文章除标明原创外,均来自网友投稿及分享,如有侵权请联系dongxizhiku@163.com删除。

         

发表评论