本文2751字阅读约需8钟

    美国安全和新兴技术中心近期颁布《机械进建与网络安全——疯狂炒作背后的真相》汇报，就机械进建技术进取可能对网络安全产生的潜在影响进行深刻钻研。

    一、提要

    近年来，网络攻击的比沉和规模都有所增长。当局、媒体、学术和工业界的很多评论人士都想知路：网络安全专业人员若何可能使用机械进建来进行防御；到芊袢梅朗胤礁斓丶觳狻⒗菇毓セ？使用机械进建技术的Agent能否自动寻找缝隙，或者在产生攻击时自动与敌手征战？决策者应该将机械进建视为网络防御的刷新力量，还是仅仅当作是一场炒作？

    汇报对网络安全和人为智能（AI）结合利用的潜力进行了中肯的评价，将网络安全实际分成四个阶段的模型，钻研了近期的机械进建创新在每个阶段可能产生的影响，并将这些利用与近况进行对比。

    汇报提出了四个结论：

    机械进建可援手防守方更正确地检测、分辨潜在的攻击。很多情况下，这些技术仅是对已有旧步骤的细化（而非底子性创新），却引入了新的攻击面。

    机械进建能够使大量特定工作实现齐全或部门自动化，蕴含某些缝隙发现、糊弄和攻击阻断。但很多最具刷新性的步骤，仍有待于机械进建的沉大突破。

    总的来说，机械进建将会给网络防守方带来渐进式的进取。但除非未来可能实现更多突破，不然不太可能对整个行业产生底子性刷新。最具刷新性的影响，充其量是让更多组织使用以前未使用或未充分利用的防御战术。

    机械进建既不左袒进攻，也不左袒防御，但某些类型的战术对攻击方或防守方更有吸引力，使机械进建能奥妙地扭转威胁格局。

    二、简介

    电子邮箱、网站浏览器这些服务都利用机械进建来；び没馐芡绻セ。从前十年中，随着组织面对的威胁愈发严沉、技术越来越成熟，机械进建在网络安全中的作用也逐步加强。网络行动日益成为普遍的地缘政治工具，这意味着很多组织将面对风险，成为资源丰硕攻击者的指标。与此同时，训练有素的网络安全专业人员配置不及，难以满足日益增长的专业需要。此表，越来越多的钻研机构揣摩，不久的未来人为智能将被用来进一步加剧网络攻击。

    这种环境下，钻研人员、决策者和从业人员无一例表都在思虑：机械进建是否能援手旋转网络攻击的战局。公共媒体时时大举报路机械进建可能极大地改善攻击检测能力，而国防界人士则竞相讨论未来能够自主搜索和驱逐入侵者的人为智能系统。

    "人为智能"已经成为网络安全营销资料的主题支柱，告白将人为智能产品吹牛成为上至生物种群、下到免疫系统等各类事物。若是仅看这些表表说法，那些不太关注人为智能钻研近况的决策者可能会得出这样的结论：最多只必要几年功夫，机械进建算法就将会彻底扭转网络安全行业。

    若是决策者相识到，机械进建系统被普遍用于关键的网络安全工作长达20年之久时，可能会感应不成思议。从前五年的突破天经地义地引起了人们对人为智能和机械进建钻研领域的关注，但人们很容易忽视，这些进展背后的算法在很多情况下已经存在了几十年Ｋ伎嫉秸庖坏，该决策者在看到最近一连串备受瞩主张黑客攻击时，可能会不由得齐全否定否定机械进建的潜力。

    评估机械进建在网络安全方面潜力的部门难题在于，分歧方面有分歧的成功准则。就tyc8722太阳集团城主张而言，我们该当分辨两种用来评估新技术影响的准则：反事实准则和汗青准则。

    使用反事实准则意味着一个问题——在其他前提不变的情况下，若是没有机械进建，tyc8722太阳集团城近况会是怎么？从这个角度切入问题，就会让我们对机械进建有更多的欣喜相识：在一些行业中，可能的网络攻击事务数量已经从每天几百个暴增至几百万个，令人惊讶的是，守护IT基础设施安全的工作并没有拖垮大无数公司。在很大水平上，这种成功要归功于机械进建系统，它能够自动筛选潜在攻击，天生可疑行为警报，或对异；疃幸恍└痉治。

    反事实准则对网络安全从业者来说至关沉要--他们相识威胁大局，并必须以某种方式做出响应。但决策者也必要深刻相识一系列更普遍的问题：世界是变得更安全了，还是更不安全了？对于网络安全人才的持久欠缺，我们应该有多不安？机械进建能否让我们在绝对意思上不再等闲受到敌人的攻击？为了回覆这些问题，我们必要使用汗青准则。与其将有机械进建的世界与没有机械进建的假想世界进行比力，不如将从前与此刻以及（最有可能的）未来进行比力。

    机械进建可以为网络安全从业者带来显著的益处，这一点得到了大无数人的认同，但这些益处能否能够组成网络安全的"革命"，尚存较大争议。

    在本文中，"革命性影响"是指依照汗青准则（而不仅仅是反事实准则）产生的影响。在网络安全的布景下，这意味着一项技术应该做的不仅仅是援手防守方跟上日益增长的威胁局势：若是想要成为革命性技术，该技术该当削减必要人为响应的威胁总数，并使其维持在较低的数量上，或者它应该切实扭转网络安全实际。

    对于决策者来说，更沉要的是理解机械进建将若何扭转网络安全，而不是争论它是否会带来变动。为此，本文探求了多种机械进建技术的进取可能对网络安全产生的潜在影响。对于网络安全中一些倍受炒作的机械进建利用，我们向读者讲了然适度的疑惑，同时也提议让读者把稳一些未得到宽泛关注的潜在利用。

    为了维持我们对成功汗青准则的器沉，我们试图通过钻研早期的机械进建是若何被利用到网络安全领域的，以期相识近期人们对网络安全机械进建兴致增长的原因。

    这是一项艰巨的工作，并且本汇报无法涵盖所有与机械进建在网络安全中阐扬日益沉要作用有关的内容。tyc8722太阳集团城沉点齐全集中在技术方面--机械进建能做什么。

    三、网络安全的四阶段模型

    最驰名的网络安全概想化模型是由美国国度尺度与技术钻研院(NIST)设计的网络安全框架（CybersecurityFramework）。

    为了援手防守方评估其风险水平，该框架将网络安全大体分为五项职能：鉴别、；ぁ⒓觳狻⑾煊透丛。

    本文使用NIST模型的改编版本，强调略有分歧的四个类别：预防、检测、响应和复原以及自动防御。

    偏离NIST框架有两个重要原因：首先，固然有很多关于机械进建被用于网络攻击检测的事俘，但在NIST框架的其他四个类别中，机械进建技术的使用依然相当不成熟，这证明将多个类别组合在一路进行分析是合理的；其次，人们对“自动防御”（我们将鄙人面详述）这个领域的关注日益增长，从技术和操作角度看，它在概想上有别于其他类别，因而值得单独会商。

    在此模型中，预防是指安全专家为尽量削减其组织的缝隙而采取的所有行动。预防要求防守方至少做到对网络配置和用户权限做出安全决策，对其网络和软件的依赖项维持持续关注，并实时建补已知缝隙。对于软件公司来说，最好的预防工作是在产品上市之前评估自己的产品是否存在缝隙。对于中型或大型组织来说，预防通常必要审计自身整体安全态势，以及定期进行渗入测试（对网络提议良性攻击，以发现和露出脆弱点）。这个类别大体对应于NIST的鉴别和；だ啾，前者强调资产治理和安全战术，后者则侧沉于用于；ぷ什募际鹾驼策节造。

    再多的前期工作也无法使组织免受网络攻击。当攻击产生时，必要检测系统来迅速提醒防守方，使他们可能做出响应。全面的检测系统必须监控从网络流量到电子邮件附件以及员工行为的所有内容，以鉴别异常情况和潜在威胁。由于在入侵网络后的数月内，攻击方往往会隐匿自身，因而有效的检测系统能够援手组织显著降低网络攻击的影响。

    一旦检测到攻击，安全专家必须确定若何响应和复原。对于某些类型的威胁，响应单一向接：例如，检测到垃圾邮件时，电子邮件服务只需将疑似犯法的邮件沉定向到一个垃圾邮件文件夹即可。然而，对于很多其他类型的攻击，很难做出合理的响应。面对在进行的攻击，网络安全人员往往必须当机立断：决定是否必要关关机械、隔离部门网络，或者采取一些其他可能严沉侵扰组织运营的措施，例如。一个有效的响应必须确定攻击的规模和领域，阻断攻击方的接见，并齐全解除攻击方可能占有的任何安身点。做完这些后，沉要的是将系统复原到攻击前的初始状态。

    预防、检测、响应和复原三身分组成了网络安全的主题。对于大无数组织来说，有效优良地执行这些工作是优良网络安全实际的最高境界。然而，某些组织可能会晤对来自兵精粮足的威胁者的攻击，因而仅仅遵循预先界说好的框架可能还远远不够。这些组织还必须确保自身可能矫捷地适应威胁环境的变动。

    思考到组织必要矫捷地应对复杂威胁，本汇报引入了额表的阶段：自动防御。该术语选取SANS钻研所的界说：滋扰、归因或直接回击等一系列活动。自动防御能够被看作是一个"其他"类别，蕴含所有刻意参加或钻研表部行为者的尝试，而不是单一地在问题出现后做出反映。该类别能够细分为几个更明确的子类别，本汇报强调其中的三个：(1)糊弄，试图误导和迟延敌手；(2)威胁谍报，试图积极钻研潜在的敌手，以更好地预测他们的行动；(3)归因，试图将多个事务与某个单一实体联系起来，而后能够进行更具体地钻研。若是将自动防御做好，能够让防守方当先敌手，有恃无恐。

    四、传统机械进建与网络安全

    在从前的十年里，人为智能和机械进建钻研获得了沉猛进展，但将机械进建步骤用于网络安全的做法由来已久。直到最近，这些利用仍险些齐全属于网络防御的检测阶段，其中对垃圾邮件检测、入侵检测和恶意软件检测的关注最为显著。本节会商了那些单一易行且由来悠久的机械进建步骤在汗青上是若何适配这三种利用的。图1展示了网络威胁领域重要进展的粗略功夫表，以及为了应对这些威胁机械进建是若何进化的。

    这里的"传统机械进建"指的是最近5-10年深度进建（deeplearning）获得沉猛进展之前，在机械进建钻研中占主导职位、已罕见十年汗青的一系列算法。传统机械进建算法的一些例子蕴含朴素贝叶斯分类器、随机丛林、K-means聚类、逻辑回归模型和支持向量机。值妥贴心的是，只管我们使用了"传统机械进建"这个名字，但其自身并不是一个滞碍不前的领域。

    为了论述这些传统的机械进建步骤在网络安全中利用的汗青，我们先来看看垃圾邮件检测的例子。

    4.1垃圾邮件检测

    自21世纪初以来，机械进建一向是垃圾邮件检测的沉要组成部门，其中很多早期的机械进建步骤至今仍在使用。在引入机械进建技术之前，垃圾邮件检测依赖于黑名单列表，屏蔽来自（已知的）恶意IP地址的邮件；或依赖于关键词检测，阻止含有手工整顿的垃圾邮件词汇（如"免费"或"性感"）的邮件。然而，由于这些步骤经；岜焕挠，往往会导致合法的电子邮件被阻止。为相识决这个问题，推算机科学家在本世纪初起头提出基于机械进建的解决规划。

    早期的步骤相对单一了然。首先网络大量的电子邮件，将它们象征为垃圾邮件或合法邮件，并将它们拆分成各个单词。对于每个单词，推算蕴含该单词的电子邮件是垃圾邮件的概率。当一封新的电子邮件到投递时，能够使用凭据每个词与垃圾邮件有关的概率来推算该电子邮件是垃圾邮件的风险，风险分数超过预设阈值的邮件会被自动阻止。

    自21世纪初以来，只管钻研人员已经做出了改进，但垃圾邮件检测的主题身分仍没有太大变动。通过从邮件标题中提取更多的技术细节（如IP地址和服务器信息），或将呈此刻主题中的词语与呈此刻邮件正文中的词语区别对待，能够成立更好的垃圾邮件分类器。更好的算法能鉴别出短语或同义词，而不是将所有的单词孤立对待。一些公司已经开发出极其复杂的垃圾邮件检测器，除上述措施之表，还能够凭据用户以往的电子邮件互动、象征异常的联系人，或使用深度进建模型，来确定含有品牌的电子邮件是否来自其真实公司。

    然而，即就是像谷歌等公司所使用的最先进的垃圾邮件分类器，大多也是从上述早期步骤缓慢美满和演变而来。当然，对于掌管；な诜獾缱佑始的大型公司来说，即便是正确性的些许提高，也会产生沉大影响。但是，若是把机械进建垃圾邮件检测系统近期的创新，描述成对从前做法的底子性转变，那就大错特错了：现实上，近二十年来机械进建一向是这项工作的主题。

    4.2入侵检测

    入侵检测系统通过关注行为特点，并搜索恶意活动的迹象，以检测推算机网络上是否存在未经授权的活动。入侵检测系统通常分为基于误用（misuse-based）或基于异常（anomaly-based）的系统。在基于误用的检测中，攻击是基于它们与以前看到的攻击的类似性来识此外；而在基于异常的检测中，先构建一个“正常”行为的基线，而后将所有不匹配基线的行为象征为潜在的攻击。这两种步骤都能够使用分歧的机械进建步骤。

    最单一的基于误用的检测大局依赖于已知的失陷指标（indicatorsofcompromise）来检测以前遇到的威胁。例如，若是组织发现某个恶意软件试图接见特定的网站，那么网络防守方就能够编写一个单一的检测系统，当网络中的机械试图接见该网站时发出警报。

    基于误用的检测通常兼具较高的处置速度和较低的误报率，尤其是基于上述单一步骤时，这使其可能急剧正确地鉴别恶意事务。然而，这种检测大局只能监测已知威胁，对新型攻击无法提供切实；。

    通过允许系统“进建”分歧类型的攻击是什么样的，机械进建可用于自动执行某些大局的基于误用的检测。参考很多从前攻击的（象征）示例，则能够训练监督进建分类器来鉴别分歧类型攻击的迹象，而无需人为天生会触发警报的特定规定列表。

    一些钻研人员偏差于将基于误用的检测更精准地界说为严格基于精心策动的失陷指标清单，而不是基于概率模型。凭据这肯界说，机械进建不能用于执行基于误用的检测，由于机械进建在性质上是概率性的。然而，很多机械进建分类器类似于基于误用的检测系统，由于它们使用以往攻击的象征事俘来检测未来的攻击，很难用于0day攻击，并且不追求鉴别“正常”行为的基线模型。因而，我们以为将拥有这些特点的机械进建分类器归入“基于误用的检测”的标签下是最合理的。

    至少从1999年起头，钻研人员就试图天生分歧类型攻击的网络流量档案，以便机械进建分类器能够进建若何鉴别以前看到的攻击。这项钻研最初是由美国国防部高级钻研打算局(DARPA)推动的，钻研了局批注，机械进建可能胜任基于误用的检测工作。

    只管人们很容易以为较新的机械进建步骤（如深度进建的鼓起）大大加强了检测工具的职能，但2018年对几十项尝试了局的审查批注，在基于误用的检测方面，深度进建并不比几十年前的机械进建步骤更正确。由于没有一种类型的模型始终是基于误用的检测的最佳选择，钻研人员时时发现，最成功的机械进建系统是集中模型，或通过利用多个分类器对分类进行“投票”来对新输入进行分类的模型。这种步骤被普遍使用，预防了对任何特定模型的过度依赖（每种模型都可能有自己的盲点），但它也同时批注没有哪个架构显著优于其他架构。

    与基于误用的检测相比，基于异常的检测通过象征可疑的行为，无需与从前的攻击进行具体比力。这种类型的检测系统更可能使用无监督的进建步骤来聚类网络中的“正常”流量，并对任何偏离该模式的可疑行为发出忠告。理论上，基于异常的检测能够鉴别新型攻击——这是网络安全最难题的领域之一。为了实现这种能力，该领域的钻研集中在寻找一种步骤，为给定的网络确定适当的“正常”流量基线，由于即便是正常的流量也可能是高度可变的。一个参数不当的入侵检测系统将产生很多误报，而调查这些误报耗时耗力。

    遗憾的是，只管在跟踪单个机械或用户时，基于异常的检测极度有效，但它通常难以有效鉴别整个网络中的可疑行为。此表，人们持久抱怨异常检测系统会产生很多误报，这注明，很难界说"正常"流量，做到足够严格以检测出所有异常情况，同时又足够宽松以使没有合法行为被象征为异常。此表，若是组织的尺度法式产生变动，就会大大减弱异常检测的作用，至少在新的基线形成之前是这样的--很多企业去年受到了这个教训，其时为应对新冠疫情，数百万员工忽然起头在家工作。由于与异常检测有关的难题沉沉，很多组织仅将其用作更尺度的基于误用的检测系统的补充。

    上述会商注明，机械进建在入侵检测领域汗青悠久，涵盖多多方面。在二十多年的钻研过程中，分歧的机械进建步骤已经合用于多种类型的入侵检测。此表，实证钻研和集中模型的持续沉要性批注，较新的创新并没有齐全取代这些旧模型。与垃圾邮件检测一样，若是以为从前十年机械进建钻研的发展，出格是深度进建的鼓起，已经齐全扭转了入侵检测，那就大错特错了。在第三节，我们将再次回到这个话题，会商一些新的机械进建创新显著扭转了入侵检测的方式。

    4.3恶意软件检测

    入侵检测系统监测系统或网络的行为，以鉴别网络受到攻击的迹象，而恶意软件检测系统则查抄特定文件，以确定它们是否是恶意的。在早期杀毒软件产品中，最单一的恶意软件检测大局是监测机械的特定失陷指标（indicatorsofcompromise），如确切的文件名或署名（从文件内容提取的特定字节或字符串序列）。通过守护一长串恶意软件署名列表并进行定期扫描，这些反病毒产品尝试确定机械上是否存在与这些已知界说有关的文件。

    遗憾的是，这些检测步骤很容易被多态或变形病毒轻松躲避，这类恶意软件每次传布时城市扭转自己的代码，从而确保分歧的版本会有分歧的署名。多态代码指的是以多种大局出现的任何类型的代码，例如，攻击方创造了多种变体，或者代码每次传布时能够使用分歧的密钥来加密自己；相比之下，变形代码在保留了一样职能的同时，从底子上沉写了其底层代码。据估计，2018年高达94%的恶意可执行文件阐发出多态特点。固然传统的检测技术仍可用于检测多态或变形的恶意软件（例如，通过查看恶意软件执行时的行动序列，而不是凭据原始代码进行匹配），但随着攻击方的改进，这些传统步骤变得越来越复杂，推算量也越来越大。

    然而，机械进建善于鉴别那些无法用单一规定分类的样本之间的共同特点。早在1996年，IBM的钻研人员就起头索求使用神经网络对疏导扇区病毒（这是一种针对机械启动指令的特殊类型病毒）进行分类。整个21世纪初的其他钻研索求了使用统计模型和尺度机械进建分类器来检测恶意软件。近年来，人们对利用较新的、基于深度进建的步骤进行恶意软件检测的兴致激增，这些步骤有好多优势，例如可能在较少的报答领导下从原始数据中提取有关特点。然而，与入侵检测一样，一些尝试了局批注，至少在某些数据集上，经过一样的训练，已罕见十年汗青的机械进建分类器依然与更先进的深度进建步骤难拜别足。

    值妥贴心的是，只管多态和变形病毒不休涌现，很多不使用机械进建的技术在检测和分析恶意软件方面依然有效。例如，网络防守方能够在沙盒（隔离的虚构环境，能够允许文件在没有任何与真实系统和数据交互能力的情况下执行）中执行未被识此外文件。沙箱网络有关文件的信息，例如它试图执行什么类型的函数，以确定它是否为恶意的。这种步骤允许反病毒产品在不依赖机械进建的情况下检测多态或变形代码，批注机械进建绝不是网络防守方应对网络攻击智能进化的唯一步骤。然而，即便是沙箱，也能够用机械进建来加强，以鉴别与从前的恶意软件类似、但不愿定试图执行齐全一样行为的文件。

    本节强调了两个重点。首先，纵然沉点都放在检测工作上，钻研人员将传统机械进建技术利用于重要的网络安全工作已长达几十年之久。其次，只管此刻存在着更壮大的步骤，但通常仅是传统步骤的天然进化。

    在确定最近的机械进建技术对网络安全的“刷新性”影响时，必须服膺这些沉要事实。

    五、网络安全与人为智能钻研前沿技术

    近年来，人为智能的创新为我们带来了汽车的自动驾驶、精确的说话翻译、超过人类的游戏竞技。固然还无法确定这些成就能否转移到网络空间领域，但我们有充分的理由以为，若是这种转移得以实现，机械进建很可能会成为网络防守方的得力副手。

    本节探求了若何将较新的机械进建架构利用于网络安全。随着会商的深刻，本文出格关注四种类型的机械进建步骤，这些步骤在从前五年中促成了很多人为智能突破：1.深度进建；2.强化进建；3.天生匹敌网络（GANs）；4.大规模天然说话模型。在这些突破中，深度进建系统的发展在好多方面都是最基础性的。正是深度进建架构与其他类型的步骤（如GANs、强化进建系统或天然说话模型）的结合，促成了从前5年的大部门进展，如图2所示。

    深度进建是一种以神经网络为模型的通用Al架构。它能够合用于很多工作，从强化进建系统，其中Al代理进建若何与他们的环境互动；到天生匹敌网络，其中天生器进建若何产生能够骗绕/躲过判断器的输出；到大规模天然说话模型，能够执行宽泛的说话有关工作。

    图2前沿人为智能架构之间的关系

    在对每个阶段的会商起头之前，我们提供了一个图示，列出了防守方在该阶段能够利用的一些潜在的机械进建工具。这些图示还列出了为实现每个工具可能会依赖的机械进建架构类型，并粗略评估了机械进建能在多大水平上扭转工作自身。所有这些都只是大体评估，并参考了后文会商得出的结论。

    5.1预防

    *NLP指的是天然说话处置。本图只列出了每个利用最常见和最具体的底层技术；例如，基于深度进建的GAN会被单一地列为"GAN"。

    tyc8722太阳集团城网络安全模型的第一阶段是预防——防守方为解除潜在弱点而进行的缝隙发现和建复工作。持久以来，人们致力于打造可能自主发现和建复新缝隙的工具，但直到最近，机械进建的鼓起才使之变为可能。在2016年美国国防高级钻研打算局（DARPA）赞助的网络超等挑战赛（CyberGrandChallenge）中，最有但愿自动发现缝隙的路线依然依赖于精心编码的系统，而不是使用机械进建步骤。

    近年来，钻研吞吐测试工具的钻研人员越来越多地将深度进建作为一种伎俩，从成功的输入参数中有效地进建，进而发现更多的缝隙；谏疃冉ǖ耐掏虏馐怨ぞ咄ǔ１染赡Ｐ透行В壕倮此，基于深度进建的法式NeuFuzz可能在各类文件类型中找到的导致崩溃的输入的数量，是一个当先的开源吞吐测试工具批改版本的三倍之多。在学术界之表，微软也钻研了使用深度进建来加强自己的吞吐测试工具。

    吞吐测试工具寻找代码中的缝隙，但网络防守方也能够使用渗入测试（或简称为pentesting）来寻找网络中公开已知的缝隙和不安全的配置。在渗入测试中，经验丰硕的黑客会系统地探测网络中的缝隙，以确定潜在的弱点。

    除了利用自动吞吐测试工具和渗入测试工具发现缝隙表，机械进建可能很快就能提供工具，援手防守方将优化功夫和把稳力配置分配给最紧迫的缝隙。

    一旦发现缝隙，防守方必须在有限的功夫和资源内实现建复。只管尚存争议，但通用缝隙评分系统（CVSS）是援手防守方确定缝隙严沉性的沉要指标，它依附专家分析来给新的缝隙分配严沉性分数。一些钻研人员以为，通过智能解析缝霞述，机械进建和文本挖掘技术可用于自动分配CVSS分数。

    其他钻研人员利用观察到的在野攻击数据构建了机械进建系统，预测某些缝隙被现实利用的可能性。有证据批注，倒剽些基于机械进建的风险评估与CVSS结合使用时，组织能够优先建复最有可能被利用的缝隙，在显著削减工作量的同时，达到与之前类似的风险建复水平。综上所述，使用机械进建来改进吞吐测试、渗入测试、缝隙汇报分析和严沉水平评估，能够使组织提高鉴别缝隙和优先处置缝隙的能力。

    5.2检测

    至少在多多盛行领域中，检测依然是深度进建和较新的机械进建步骤被以为是潜在的刷新力量的关键地点。但很遗憾，到目前为止，深度进建还没有实现革命性突破，未能达到人们的进展。总的来说：只管深度进建在从前50年的机械进建进取中阐扬了底子性的作用，但很多网络安全公司至今仍在大规模使用较单一的模型。

    有时盛行的报路会忽略，基于机械进建的检测存在一个问题：机械进建系统容易受到几类特定攻击，这些攻击在其他类型检测系统中则不存在。很多机械进建系统做出决定的过程往往不为人所知，并且对于人类分析师觉察不到的轻微变动高度敏感，这往往使攻击方有可能找到"匹敌样本"——只管人类无法觉察，但对输入稍加扭转就会极大地扭转模型的反映；到Ｐ偷氖褂靡财舴⒘诵碌墓セ黪杈叮耗Ｐ妥陨肀匦胛职踩，同时防守方也必须确保他们的数据没有被下毒，且他们使用的（通常是开源的）算法和统计软件包没有被篡改。

    只管我们对深度进建扭转检测能力的潜力感应消极，但匹敌性攻击的不休增长和威胁规模的不休扩大，使防守方不能忽视机械进建的进取。

    由于天生匹敌网络允许攻击方颠覆基于机械进建和规定的检测系统，我们无法坐视不论，最好的防御可能至少部门依赖于机械进建步骤的使用。然而，即便在这里也必须强调，在使机械进建系统面匹敌样本的鲁棒性方面，一些钻研人员不以为机械进建领域获得了切实进展。固然匹敌性训练对防御系统依然至关沉要，但它可能不及以有效抗衡越来越多的匹敌性攻击威胁--这是疑惑机械进建能否为网络防守方提供灵丹妙药的另一个原因。

    5.3响应和复原

    目前已对机械进建驱动的检测系统的进行了大量钻研，但有人提出了更大志勃勃的设想，以为有朝一日人为智能系统能够在网络中自主移动、建补缝隙并与攻击方动态匹敌。响应和复原是一个动态和陆续的过程，不容易被分化成离散的结构，这使得构建可能充分自动化人类决策的机械进建工具越发难题。

    近年来，一些钻研人员逐步确定人为智能/机械进建系统在响应和复原过程中能够阐扬的更有针对性的作用。例如，一份来自美国国度科学与技术委员会的2020年汇报指出，人为智能至少能够通过两种具体方式来援手响应和复原过程：1.正确地对在进行的攻击进行分类，并采取适当的初步响应战术；2.自动决策将机械从网络中隔离或对用户施加限度，以遏造习染。第一种类型的工具能够使网络防守方自动对各类常见类型的攻击做出初步反映，而第二种类型通常有助于遏造安全缝隙扩散到网络的其他部门。在图5中，我们把第一个利用称为"与敌手征战"，这将是一个可能理解在进行的攻击并作出相应反映的机械进建系统的最终指标。第二个指标是移动指标防御的一个单一例子。

    5.4自动防御

    为应对新的威胁，拥有沉大网络安全需要的组织通常必须采取自动措施来造订网络安全战术。本汇报将这些行动归入"自动防御"的宽泛框架之下。

    固然这个术语有一个具体的国度安全界说，但在这里的使用方式与美国系统网络安全协会（SANSInstitute）钻研人员的使用方式类似：从滋扰到归因到彻底回击的一系列活动。

    人为智能在这三种战术中潜在的利用领域很广，批注自动防御这个网络安全模型阶段或许能够从最近的人为智能突破中获益良多。

    5.4.1糊弄

    网络防守方可选用的最根基的自动防御措施之一是糊弄：有意伪造一些器材来误导和延缓攻击方。固然这种战术看起来很单一，但它却能够带来沉大的运营效益。

    天生真切的文件或活动资料是机械进建善于的领域。像GPT-3这样的大规模天然说话模型的鼓起，可能会使自动化天生糊弄性文本文件（如马克龙竞选团队的假电子邮件）的过程更容易实现。固然这项技术可能会被滥用，但防守方能够合理地将其用于糊弄性主张，天生大量糊弄性内部文件来误导攻击方。

    除了伪造之表，蜜罐（一种旨在将网络攻击方引诱到看似有吸引力的假指标的安全机造）是网络防守方持久使用的糊弄性工具。蜜罐能够提供虚伪文件和数据大局的"钓饵"，运行预先编写的剧本互动以挫败敌手，或使攻击方误以为自己已经“成功”入侵。然而，为了使攻击方深陷其中，蜜罐必要看起来像真实的出产网络，因而通常必要手动配置、部署和守护，这可能成本高昂，幼型组织难以胜任其守护工作。

    至少从21世纪初起头，钻研人员就起头索求若何利用机械进建来创建越发真实和动态的蜜罐，蕴含通过使用相对单一的聚类步骤。最近几年，钻研人员尝试使用基于强化进建的蜜罐，这些蜜罐能够进建若何尽可能长功夫地吸引攻击方，同时也能够有效地诱使他们将定造软件下载到自己的机械上。此刻就说强化进建的使用扭转了这一领域的游戏规定还为时过早，但它至少能够将大部门守护动态蜜罐的复杂操作自动化，使更多的组织可能使用这些类型的蜜罐。

    5.4.2威胁谍报

    理论上说，通过网络有关潜在敌手的威胁谍报，防守方能够预测未来的攻击，并成立起更壮大的防御系统；但对大无数组织来说，网络、处置和分析威胁谍报必要耗费巨大人力物力。然而，在海量数据中寻找模式是机械进建的主题优势，一些钻研人员已经起头索求若何利用机械进建和文本挖掘来改进威胁谍报分析。例如，能够用机械进建步骤来对暗网用户进行聚类，或者利用文本挖掘步骤来自动网络、分类和分析暗网论坛和市场上的帖子，使钻研人员可能在0day缝隙部署之前鉴别它们。不难设想，在给定公司名称或其产品清单后，一个齐全自动化的机械进建系统能够在暗网上搜索潜在缝隙的线索，而后分析它们，最后天生一份描述预期攻击载体的汇报。

    其他作为糊弄战术引入的工具也能够被利用来网络关于潜在敌手的威胁谍报。例如，能够分析和整顿从蜜罐系统中网络的数据，从而确定组织是否面对一个持续的威胁行为者，而后可以为安全战术提供信息。甚至像垂钓邮件这样单一的器材也能够成为网络敌手威胁谍报的机遇。一些钻研人员提出了能够对垂钓邮件天生误导回应的系统，以从攻击方那里获得信息，例如，表表上愿意给诳骗者送钱，但要求攻击方提供支票路由中转代码，而后就能够追踪和鉴别这些信息。事实上，这是美国国防高级钻研打算局DARPA的自动社会工程防御打算的一个重要钻研方向，该打算目前正尝试成立可能检测社会工程攻击并自主响应的系统，以糊弄敌手露出身份信息。这些战术逾越了威胁谍报网络和直接归因（本节会商的第三种自动防御战术）之间的界限。

    5.4.3归因

    当面对高级持续性威胁（ATP）攻击时，联国机构和网络安全公司通；岢⑹越セ鞴橐蛴谝桓鎏囟ǖ牡惺。这样有助于确定应该采取什么类型的应对措施，并援手网络安全公司确定敌人的可能动机，以便最好地；に堑目突。

    当试图对多个攻击进行归因时，最单一的步骤是依附人为分析通过网络日志、防火墙或蜜罐获得的攻击指标。然而，由于大无数的持续网络攻击方会预防留下显著的模式，因而归因也依赖于人为分析和对潜在敌手及其总体指标的理解；因而，归因不仅依赖于技术指标，也依赖于战术指标，甚至还可能依赖于对有关地缘政治大势的相识；到ú痪弑刚庋姆治鏊，所以机械进建依然不太可能成功地将整个归因过程自动化。

    只管如此，机械进建依然可能在归因过程中提供援手。例如，若是钻研分析人员首先提取攻击的高技述--蕴含使用的战术、攻击的国度等--机械进建步骤可能可能对这些信息进行聚类以鉴别类似的攻击。天然说话处置可能援手归因系统从博客、钻研论文和事务响应汇报中自动提取与归因有关的信息，削减成功归因所需的人为工作量。

    六.结论

    机械进建对网络安全的实际到底意味着什么，汇报提出了四个重要结论：

    1.检测阶段：机械进建将允许对现有检测工具进行持续改进，出格是对于拥有宽泛大数据能力的公司。但这些进展是渐进式进取，并引入了新的攻击面。

    2.预防、响应和复原以及自动防御阶段：机械进建没有被普遍使用，但也在逐步获得进展。振奋人心的进展仍有待于机械进建的沉大突破，能力实现全面部署。

    3.总体而言，机械进建将持续产生渐进式的收益，而没有对网络安全行业产生革命性影响。除非机械进建获得沉大突破，不然最具刷新性的影响可能是来自于通过机械进建，使多多组织容易获得以前未使用或未充分使用的防御战术能力。

    4.目前，机械进建不太可能从底子上突破网络安全的战术平衡，使其向攻击方或防守方倾斜。

    在关注机械进建的根基技术能力时，汇报搁置了很多其他问题，例如防守方是否能成功执行机械进建系统并充分利用其潜力。

    以上结论都是初步的，不是预测性的：它们是否成立将取决于攻击方和防守方若何选择投资和部署这项技术。

    相比空谈机械进建若何从整体上扭转网络安全，决策者和网络安全从业者更必要思虑，机械进建将会若何扭转网络安全中的特定工作。

    此表，网络安全工作自上世纪90年代起就起头使用机械进建，通过关注这种陆续性，我们旨在证明较新的突破将带来网络安全方面的进取（evolutionary），但这并不会是行业革命性的刷新（revolutionary）。

    机械进建有一天会彻底将整个网络安全模型自动化，无缝地实现多个阶段的工作，而不是仅仅作为工具，协助实现现有的、界说明确的工作。在中短期内，这种可能性微乎其微。

    对决策者和从业者来说，更求实的做法是更致力详细相识哪些工作类型能够从机械进建中受益，哪些工作类型不能。有效的政策将必要思考这些轻微差距，以推进有效的钻研，使组织可能充分利用新的机械进建工具，并援手防守方为迎接持续精进的敌手做好筹备。

    关于作者

    美国安全和新兴技术钻研中心(CSET)

    本文节选自美国安全和新兴技术中心《机械进建与网络安全——疯狂炒作背后的真相》汇报。参与虎符智库会员，定期获取专业钻研汇报。