人工智能的漏洞
2021-08-21
来源: 网电空间战
如果您进入网络安全市场超过五分钟,您会看到每个产品供应商都在提供人工智能、机器学习或区块链的一些变体,以防止下一次零日攻击。如果您在市场上寻求购买网络安全安全技术,那么你是很难分辨真假的。许多安全公司使用相同的语言来描述他们的产品。许多人声称在他们的软件和硬件中使用了人工智能或其他一些闪亮的小发明。其他人则使用“零信任”等花哨的营销术语来吸引您进一步了解。在最好的情况下,选择安全软件可能具有挑战性,并且所有这些新术语都被抛在一边。 使用您最喜欢的术语快速搜索网络安全和人工智能:端点、防火墙或其他任何术语。你很快就会被营销上的花言巧语弄得不堪重负。
所以,让我们从基础开始……
什么是人工智能?
人工智能 (AI) 是指在机器中模拟人类智能,这些机器被编程为像人类一样思考并模仿人类行为。术语人工智能也可以应用于任何表现出与人类思维相关的特征的机器,例如学习和解决问题。随着您深入挖掘,您开始进入人工智能学习或“机器学习”领域,并开始涉足此处未涉及的神经网络。人工智能的核心是编程,能够合理化并采取最有可能实现特定目标的行动。
当大多数人听到人工智能这个词时,他们通常首先想到的就是机器人。那是因为好莱坞电影和科幻小说编造了对地球造成严重破坏的类人机器的故事。但事实并非如此。人工智能基于这样一个原则,即可以通过机器可以轻松模仿并执行从简单到高度复杂的任务的方式来定义人类智能。人工智能的目标包括学习、推理和感知。
一个值得强调的关键点:人工智能并不是要取代人类的思维、人类情感或人类表现出的看似非理性的行为。它是具有有界数据集的决策的累积,可以做出自动决策并执行后续任务。这是一种比您可能会出售的线性能力。
人工智能作为营销工具的曙光
长期以来,人工智能一直是我们集体关注的一部分。对于我们中的许多人来说,我们的第一次发展发生在 1990 年代初,当时 IBM 推出了深蓝计算机。深蓝打败了伟大的国际象棋冠军加里·卡斯帕罗夫而闻名。很快,IBM 和深蓝似乎迎来了人工智能和自动化的新时代。对于普通人来说,深蓝很神奇,让我们面对现实,大多数人无法解释深蓝的工作原理。嗯,深蓝背后的魔法是一种非常暴力的下棋方法。每走一步,深蓝都会查看所有可能的合法走法,并规划出未来走法的各种可能结果。随着比赛的进行,深蓝会不断地探索一招,形成一种巨大的千步决策树。然后深蓝将根据该树进行选择,以找到可以提供良好结果的移动。什么是“好结果”?
这是我们开始看到人工智能自主性崩溃的地方。深蓝有许多由专业棋手精心设计的国际象棋策略,以帮助它做出更好的决策——例如,如何决定是保护国王还是在其他地方获得优势。程序员为此制定了特定的“评估算法”,以根据 IBM 编程的专家国际象棋策略来比较不同棋盘位置的优势或劣势。每一步都会调用这个评估,并根据结果,深蓝会选择一个棋步。每转一圈,深蓝就会再次经历整个过程。深蓝也是人工智能或硬件的进步。我认为 Deep Blue 的真正成就是 IBM 创建的硬件,它领先于时代,并且足够先进,可以一遍又一遍地快速处理所有可能的国际象棋移动组合。今天,这项技术存在于简单的手持电话或计算机中。
因此,虽然深蓝在 90 年代被认为是高级人工智能的未来,但今天这个头衔已经转移到 IBM 的沃森身上。深蓝以及其他形式的人工智能及时成为人工智能效应的牺牲品。换句话说,随着技术的进步,人工智能的形式开始显示出它们的本质,我们不再认为它们是智能的。一个有助于说明这一点的例子是与现代动态面部识别软件相比的早期图片识别。与当代软件相比,我们不再认为用于识别照片中物体的早期系统是智能的。
人工智能只是做我们告诉它做的事情
作者帕梅拉·麦考达克 (Pamela McCorduck) 写道:“人工智能领域历史的一部分是,每次有人想出如何让计算机做某事——玩跳棋、解决简单但相对非正式的问题——都会有批评者齐声说,‘那不是思考’。” AIS 研究员 Rodney Brooks 抱怨道:“每次我们弄清楚其中的一部分,它就不再那么神奇了;我们会说,‘哦,那只是一种计算。” 这是否会降低我们对人工智能的理解,或者这是其能力的现实,这真的很重要吗?
如果我们把话题带到网络安全技术上,情况就变得不那么清晰了。大多数供应商将人工智能一词混为一谈,与区块链、机器学习和零信任相混淆。我甚至看到有供应商声称人工智能可以阻止零日攻击,这是一个非常大胆的主张。还记得关于人工智能需要输入来做出决定的整个事情吗?零日意味着输入未知,因此除非 AI 也可以预测未来,否则我们可以假设它不会阻止以前从未出现过的攻击。更重要的是,渐进式攻击归根结底是在网线的另一端有一个活生生的攻击者,一个真实的人,具有人类的情感和非理性和不可预测的行为。
最后,我们应该对人工智能有什么期待?
人工智能正在进入我们生活的方方面面,网络安全当然也不能幸免于这种增长。事实上,有许多系统大大受益于人工智能的优势。由于人工智能,网络安全软件可以更好地识别和升级攻击,结果是减少了令人讨厌的警报和组织中的自满情绪。那么,我们为什么要在网络安全中对人工智能提出异议呢?当我们看到供应商出售不切实际的功能并可能使您的组织面临风险时。有一天,当大规模的零日攻击到来时,没有人的安全技术可以识别,这一天将会到来,也许它已经到来。人工智能尚未取代人类网络防御者,我们可能需要数年时间才能信任软件来全面保护我们。然而,与此同时,许多网络安全营销人员错过了真正的好处。人工智能与人类智能相结合,已经改变了世界,并且可以共同改善网络安全。