这些不断发展的攻击方法的后果可能是高度破坏性的，甚至可能危及生命。通过破坏数据完整性，这些隐形攻击会导致对组织的信任减弱，甚至可能导致系统故障。想象一下，使用错误的地质勘探数据在错误的位置钻探石油的石油钻机，或者医生使用受损的医疗记录进行诊断。随着AI军备竞赛的继续，我们只能期待这一创新圈不断升级。

进攻性AI：网络攻击的范式转变

2017年，WannaCry勒索软件攻击袭击了全球150多个国家/地区的组织，标志着网络攻击复杂性新时代的开始。它的成功在于它使瘫痪的硬盘驱动器在几秒钟内横向移动整个组织的能力，此事件继续激发了多次模仿攻击。这种“创新”周期将持续下去，攻击者已经开始使用加密货币挖矿恶意软件，该软件会秘密窃取处理能力，以挖掘比特币和银行木马等数字货币，这是一种恶意软件，会在伪装成数字货币的同时窃取金融数据。真正的应用。

对抗性人工智能的使用将以三种关键方式影响安全格局：

1-模拟受信任的用户

AI攻击将高度定制，但会大规模运行。这些恶意软件将能够通过分析电子邮件和社交媒体通信来学习个人行为和语言的细微差别。他们将能够利用这些知识来复制用户的写作风格，制作看起来可信度高的消息。因此，由AI恶意软件编写的消息几乎不可能与真正的通信区分开。由于大多数攻击都是通过收件箱进入我们的系统的，因此即使是最了解网络的计算机用户也将很容易受到攻击。

2-融入背景

复杂的威胁参与者通常可以一次在目标环境中长期存在几个月，而不会被发现。他们缓慢而谨慎地采取行动，以逃避传统的安全控制，并且通常针对特定的个人和组织。人工智能还将能够学习主要的通信渠道以及最佳端口和协议，以用于在系统中移动，并与常规活动离散地融合在一起。这种在噪声中伪装自己的能力将意味着它能够在数字环境中专业传播，并且可以隐秘地危害更多设备。AI恶意软件还将能够以机器速度分析大量数据，从而快速确定哪些数据集有价值，哪些没有。这将为（人类）攻击者节省大量时间和精力。

3-更快的攻击带来更有效的后果

当今最复杂的攻击要求技术熟练的技术人员对目标进行研究并确定目标个人，了解他们的社交网络并随着时间的推移观察他们与数字平台的交互方式。在明天的世界中，进攻型人工智能将能够在很短的时间内（甚至是规模的许多倍）达到相同的复杂程度。

AI驱动的攻击不仅将变得更加量身定制，因此更加有效，它们理解上下文的能力意味着它们将更难被发现。传统的安全控制措施对于这种新威胁将无能为力，因为它们只能发现可预测的，预先建模的活动。人工智能在不断发展，并且将越来越多地抵抗威胁的分类，而威胁的分类对于传统安全方法的作案手法仍然至关重要。

将AI整合到数字生态系统中

随着我们越来越依赖连接的系统和设备，我们正在快速开发高度先进且高度连接的数字生态系统。我们将需要优先考虑赢得重要战略战役的伙伴关系和能力，不仅要保护公共和私营部门拥有的具有经济价值的数据，还要保护对巩固社会凝聚力和民主体制的数字系统的信心。

在这一新兴现实和不断发展的生态系统中，对新技术的投资将发挥关键作用。根据Forrester的“ 将AI用于邪恶”报告，“主流AI驱动的黑客行为只是时间问题”。确实，当我们开始看到AI成为网络攻击者工具包的一部分时，我们能够打击这种对AI的恶意使用的唯一方法就是AI本身。因此，将技术纳入这个生态系统至关重要。

反击：战斗机连机

网络安全社区已经在这个新的未来上进行了大量投资，并且正在使用AI解决方案来快速检测并遏制任何可能破坏或破坏关键数据的新兴网络威胁。防御性AI不仅是对抗网络攻击的技术优势，而且还是这个新战场上至关重要的盟友。组织将不再使用安全人员手动对事件进行响应，而是会在短期内使用AI来应对不断发展的问题，而人力团队将监督AI的决策并执行补救工作，以长期提高整体弹性术语。

由AI驱动的攻击将超过人类响应团队，并胜过当前基于传统的防御。因此，人类与人工智能之间相互依赖的伙伴关系将成为未来国防战略的基石。未来的战场是数字化，而AI是无可争议的选择武器。应对网络安全的下一代挑战没有灵丹妙药，但有一点很明确：只有AI才能在自己的游戏中玩AI。该技术已经可用，现在可以进行准备了。

最新的AI网络攻击案例

最新的AI辅助网络攻击之一是TaskRabbit（自由职业者及其客户的在线市场）遭到黑客攻击。2018年4月，有 375万该网站的用户从其用户数据中窃取了其社会保险号和银行帐户详细信息，从而受到影响。攻击是由黑客使用由AI控制的大型僵尸网络进行的，该僵尸网络使用从属计算机对TaskRabbit的服务器进行大规模的DDoS攻击。攻击是如此激烈，以致在恢复安全性之前必须禁用整个站点。不幸的是，在此期间，又有1.41亿用户受到影响。

我们也不要忘记WordPress最近透露其网站遭到了僵尸网络的大规模攻击。到目前为止，已有超过20,000个WordPress网站感染了僵尸网络式的网络攻击，最终可能使黑客能够访问用户的个人信息和信用卡号。这种攻击使许多用户，甚至那些拥有出色托管服务的用户都对WordPress失去了信心。

最近，社交媒体巨头Instagram仅在2019年就遭受了两次网络攻击。从8月开始，许多Instagram用户发现他们的帐户信息已被黑客更改，从而将其锁定在他们的社交资料之外。11月，Instagram代码中的错误导致数据泄露，该数据泄露在用户浏览器的URL中显示用户的密码-可以肯定，这是一个巨大的安全问题。尽管Instagram迄今未能发布有关该黑客的详细信息，但许多人推测黑客正在使用AI系统扫描Instagram用户数据中的潜在漏洞。

总体而言，很明显，无论是僵尸网络攻击还是一般的恶意软件传播，AI辅助的攻击只会变得更糟。

简而言之，单个较小的安全漏洞现在有可能导致更严重的漏洞。即使您已经勾选了基本的互联网安全保护框- 设置防火墙，定期扫描恶意软件，使用安全的CMS（如WordPress）和经验丰富的网络安全团队-拥有具备必要的技术和专门知识的黑客大多数安全漏洞都会这样做。

机器人的崛起

可以看到AI辅助网络攻击影响我们日常生活的最大方法之一是通过Twitter。我们都曾听到一个政党或另一个政党指责另一个政党使用“机器人”来歪曲论点，或者使某些派别似乎拥有比实际更多的追随者。

机器人本身并不是什么大事，许多公司和服务都使用机器人来吸引客户，并通过网站的不同区域吸引人们。我们都已经在您可能有疑问的网站（例如大学的主页）上看到了由机器人驱动的聊天框。

但是，机器人的真正问题在于它们变得越来越复杂。具有讽刺意味的是，图灵测试变得越来越困难，即使人们曾经几乎普遍无法通过机器考试，人们也很难将机器人与真实人区分开。谷歌最近为AI生成的音频和视频提供了更高的指标，证明了这一趋势。

这些机器人很容易被用于错误信息，例如当用户编组它们以虚假海报充斥Twitter线程以影响论点时。但是它们也可以用来对敌人的计算机和网络进行DDoS攻击。诚然，这种攻击已经存在于黑客和青少年的工具包中，数十年来他们的手头时间太多。但是臭名昭著的时刻，例如一群黑客使用各种DDoS攻击摧毁PS4网络的时间，证明了这个问题。

更不用说只在Facebook和Twitter上进行垃圾邮件处理的机器人比其人类同行更擅长于此。尽管机器比垃圾邮件要好，这在某种程度上是很幽默的，但是在认真对待在线讨论论坛之前，这仍然是一个必须解决的实际问题。许多人甚至可能说，即使威胁不是您所期望的，如此大规模的错误信息也是一种网络攻击。

防御策略

适应这些威胁的困难之一是它们迅速发展，并且使黑客比以前更容易被隐藏。显然，要找出谁是僵尸网络攻击的幕后主力，比孤立的演员要困难得多。

事情也很棘手，因为防御AI网络攻击并不像使用httpS保护网站的http标签那样简单。通常，您的信息很容易受到攻击，因为它掌握在其他公司的手中，而这些公司可能不太安全，或者您的密码可能已泄露。对于运行AI辅助攻击的黑客来说，以这种方式泄漏的数据值得其金币，因为它可以用于“馈送”正在寻找用户数据模式和公司系统漏洞的AI引擎。

因此，有些人想知道我们是否能够使用AI扭转潮流。毕竟，用更多的AI对抗人工智能确实是一种有效的前进之路。

抵制僵尸程序在政治或社交媒体上的垃圾邮件的最佳方法之一是使用机器学习僵尸程序检测程序。一些公司和组织已经开发了这些。Botometer是由印第安纳大学网络科学研究所（开发出一种机器人检测应用IUNI）和中心的复杂网络与系统研究（CNetS）。同样，对于开发人员，还有Tweetbotornot，这是由密苏里大学信息学研究所教授Michael Kearney创建的面向开发人员的开源软件包。

另一个可能的解决方案是使用AI增强的事实检查。从中受益的机器学习和算法比雇用许多人来检查每天产生的数百万条推文和社交媒体帖子要有效得多。可能会导致错误信息产生的同类人工智能系统在将来解决该错误信息。

AI也不是唯一的前进方向。网络安全团队采取的预防性或主动性安全方法可能会比典型的防病毒措施产生更大的安全性结果。专注于加强基本的网络安全防御是一种使潜在的黑客工作更加困难的方法。

此外，AI无法提供强大的密码安全性和生成功能。基本的数字卫生习惯（例如依赖于您经常之间交替使用的强密码）可以为家庭网络或公司的一般安全性做很多工作。许多公司都在为其雇员举办教育研讨会上的定期会议，以使所有人都可以共享和理解基本的计算机安全性。

既然物联网正在发挥作用，这一点就变得更加重要。如果让黑客进入您的Netflix帐户足以使他们最终获得对其他所有内容的访问权限，则您的网络中实际上没有任何地方可以提供低于标准的安全性。听起来有些过分，但是当AI成为网络安全游戏中如此重要的参与者时，这就是现实。

结论

最终，由于AI已成为黑客掌握的主要工具，因此数字安全的未来还不确定。尽管AI可能是抵御这类网络攻击和错误信息活动的有效屏障，但网络安全机构和网站开发人员将需要以更具创新性的解决方案做出响应，以有效保护其用户数据。

尽管如此，人工智能网络攻击的兴起仍可能产生一些有趣的发展。长期以来，我们已经习惯了Internet，对于许多普通人群来说，完全安全并不是完全必要的。如果不再懒惰，最终结果可能是互联网比以前更安全，更成熟。

文章来源：世界经济论坛、InfoQ

作者简介：

威廉·迪克森（William Dixon），世界经济论坛未来网络与技术负责人

妮可·伊根（Nicole Eagan），Darktrace首席执行官

山姆·博塞塔（Sam Bocetta），前海军网络工程师、安全分析师