跳到正文
404 Media· Jason Koebler·· 7 天前精选AI 评分82

404 Media 分析 PHP2Shell 事件如何改变 AI 时代的攻防格局

AI Is Changing Everything About Hacking. No One Knows What Happens Next

AI 导读

404 Media 的 Jason Koebler 梳理近一个月安全专家对 AI 挖洞能力引发的"Black October"恐慌。Wiz、Calif 和 OpenAI 的研究者用 AI 发现了 PHP 的 PHP2Shell 漏洞,Cloudflare CEO 称公开公告前 10 小时已见数千次利用尝试,公告后 2 小时内增至数十万,目前达数百万级。

推荐理由

作者基于对安全专家的长期报道,梳理了 PHP2Shell 事件前后 AI 改变攻防节奏的多种迹象,并指出漏洞修补的部署速度未必跟上。

正文 · AI 翻译

AI Is Changing Everything About Hacking. No One Knows What Happens Next

过去一个月里,我接触和关注的许多网络安全专家发帖时都显得非常恐慌。不少人警告说会出现一场由 AI 驱动的“黑天鹅”事件,对突然冒出来的大量漏洞感到忧心,也对 AI 智能体和大语言模型在发现并利用此前未知漏洞方面展现出的明显能力感到不安。

这些言论从“担忧但克制”(事情要变得诡异了),到“更新软件、确保开启双重认证”这类常规建议,到围绕 AI 攻击的含糊其辞,到“互联网的好日子到头了”之类的话,再到彻头彻尾的末日准备者级别的恐慌。

让你感受一下我看到的情况:约翰斯·霍普金斯大学教授、全球最受尊敬的密码学家之一 Matthew Green 发帖说,“我们正处在电影里那种情节——你得把手边能扔的东西都扔到僵尸面前,指望能拖慢它们”,还说“这么多人发现整个互联网就是一堆干柴,唯一让它还没烧起来的原因,是青少年们还没找到火柴”。Green 指的是,用 AI 工具和智能体武装起来的黑客与研究人员,越来越擅长发现并利用重要系统中的各种漏洞。我还看到不少AI 员工,如前所述,彻底进入末日准备模式,建议人们把银行存款取出来、断开网络、购买耐储存食品、囤水、把钱换成黄金和现金,还要买手摇应急收音机。

而所有这些帖子,都发在有人用 AI 工具在 PHP 中发现漏洞之前——PHP 是支撑互联网很大一部分的编程语言。过去几天里,eMudhra(一家提供网站安全证书的印度机构)、Node.js(PHP 的替代方案之一)、Gitlab(软件开发平台)、Plex(媒体服务器软件)、Railway(云服务商)、OpenCode(编程智能体平台)以及其他多家公司和服务都曝出了重大漏洞或问题。不过,这些都没有 PHP 的漏洞——名为 PHP2Shell——受到的关注多,这倒也合理;该漏洞由Wiz、Calif和OpenAI的研究人员借助 AI 发现。

Cloudflare 的 CEO Matthew Prince 说——这家公司对互联网的整体健康状况有广泛洞察——他发帖称:“在 [PHP2Shell] 公开公布前的 10 个小时里,我们在 Cloudflare 全网看到数千次利用尝试。公布后的 45 分钟内,这个数字跳到数万次,2 小时内达到数十万次,现在已经是数百万次。”

事情发生得太多、太快,以至于像我这样报道和编辑安全与黑客题材已有十年的人,都很难完全搞清楚到底在发生什么、接下来可能怎样、这件事会走向何方。我想,在我写这篇文章的当下,我们大体就处在这样的状态。

但现在已经很清楚,广义上的 AI 已经从根本上改变了攻击性黑客行为和防御性网络安全。这并不是因为 AI 有了意识,也不是因为人类失去了对它的控制,更不是因为什么“流氓智能体”组成的“蜂群”,而是因为 AI 正在印证一件我们一直都知道的事:支撑互联网、我们的设备、账户和生活的许多软件本身就很脆弱、已经过时,或者存在人类从未注意到的安全漏洞,又或者是公司里某个人装的,而那个人六年前就离职了,岗位换了四轮,现在没人知道该找谁、该怎么更新它。这并不意味着借助 AI 发现的所有漏洞都是显而易见或无关紧要的;熟练的黑客和研究人员借助 AI 工具,在发现漏洞方面似乎比单打独斗的人类更强。但关键在于,AI 和大语言模型让对互联网进行实质上的暴力扫描变得极其容易;如果把每一款软件都比作一扇门,AI 让转动每一扇门把手、看看门有没有锁变得异常简单,哪怕是人类从未真正想过去打开的建筑。我们正以惊人的速度认识到:有些锁很容易撬开,而在某些情况下,门根本就是敞开的,或者墙上有个大洞。最近不少人用 AI 入侵自己的物联网设备来运行新软件,这说明在某些情况下,用 AI 去黑点什么东西其实根本不需要什么专业技能。

与此同时,我们还看到“消融版”(abliterated)AI 模型兴起,这类模型被设计成不会拒绝请求;还有开放权重模型,可用于渗透测试,也可能被用于攻击性黑客行为,而不受许多现成商用模型所具备的防护限制。

在一篇解释 PHP 漏洞发现的博客文章中,OpenAI 表示,这些发现凸显了“AI 如何能发现具有互联网级影响的安全漏洞,但同样的能力也能帮助攻击者快速开发攻击工具和漏洞利用程序”。OpenAI 基本上是在主张,它开展所有这些研究都符合伦理,而且其发现开启了一个“防御者窗口”,让政府和关键基础设施能够为漏洞的公开披露做好准备。“研究人员发现漏洞、以符合伦理的方式向公司披露、公司修复漏洞”是网络安全领域的首选做法,但 AI 正在缩短这一整套流程的时间窗口,让更多人更容易开展更多研究,也让找漏洞和修漏洞都变得快得多。至于各家公司是否真的会更快地部署这些修复,则是另一个复杂得多的问题。很多情况下的答案很可能是:不会。 

AI 也让这一切变得更加难以预测。安全公司 Chainguard 因违反 PHP 漏洞披露的禁令而受到批评,因为它在漏洞正式披露前数小时就发布了修复方案。包括 PHP 基金会在内的批评者表示,这可能让攻击者在网站所有者有机会保护系统之前就弄清楚如何利用这些漏洞。Chainguard CEO Dan Lorenc 在 LinkedIn 发帖称,他的公司通过向前沿 AI 模型输入“找出 PHP 中的严重漏洞”独立发现了同样的漏洞。与此同时,亚马逊表示,它在正式披露前就看到了漏洞利用尝试。这些事实引发了疑问:这个漏洞是否异常容易发现?最初发现漏洞的 AI 模型是否以某种方式将这些信息纳入了模型,从而使其他人更容易发现?还是披露流程相关的某个人在过程中泄露了信息?任何一种可能都令人担忧。

PHP2Shell 漏洞被发现后,一些信息安全专家开始称之为“黑色十月”,并强调美国国家安全局、日本首相以及世界各国政府都告诉人们立即修补网站和服务,并下线无法修补的服务。4chan、多个维基媒体服务和 Archive.org 都被暂时下线以便更新。 

正如《大西洋月刊》已经指出的那样,PHP2Shell 最大的影响之一可能是:许多历史悠久的网站无法或不愿更新,可能被主动下线,最终可能被黑客攻击,并且可能再也无法恢复。链接失效的情况可能非常严重,大量历史可能就此丢失。 

对于如此高关注度的事件,迄今为止实际影响大多与主动修补或移除可能不安全的网站有关,我们尚未看到该漏洞被立即、大规模利用。网上出现了各种低成本的、由大语言模型开发的漏洞利用程序;其中许多并不会奏效。Elias Taylor 撰写的一篇题为“这个 PHP 漏洞没有简单的利用方式”的博文迅速走红,并在 Hacker News 上被剖析,尤其是有人指出 eliastaylor.com 这个网站是最近才注册的,而且不清楚 Elias Taylor 是谁。404 Media 通过 Signal 联系到了 Taylor;他说:“我是真人,正在一列晚点的火车上。” 

Taylor 对 404 Media 说:“很多人被 AI 骗了,以为自己有漏洞利用程序,其实并没有,因为他们读不懂或不理解大语言模型给他们的东西。”“它看起来远没有其他‘惊天动地’的漏洞(比如 log4j、heartbleed)那么容易被利用。但还是请修补你的服务器,它仍然是一个漏洞。请不要以任何理由把我的话转述成‘不存在漏洞’。漏洞是存在的,人们应该修补。” 

Trail of Bits 是一家备受尊敬的安全公司,与 OpenAI 合作开展 Patch the Planet 计划。其 CEO Dan Guido 发帖称,公司已经做出了“一个可用的漏洞利用程序”,并写道:“Will Tan 借助 Codex,只用 1 天就把它做出来了,靠的是约 10 年的系统安全与漏洞研究经验。AI 加速了漏洞利用的开发。但要把一个 bug 变成 shell,仍然需要专业知识。AI 让这些专业知识的生产力更高。” 

还值得一提的是,Taylor 的另一篇博文题为《任何联网的东西都会被黑成碎片》,其中写道:“软件工程师过去 40 年一直在写满是漏洞的垃圾软件。大语言模型的能力轻松超过了入侵这些软件所需的水准。” 

目前还不清楚这一切最终会带来什么影响,也不清楚一小时、一周、一年或十年后我们会走到哪一步。但 AI 正在改变网络安全与黑客攻击的运作方式,让发现和利用漏洞变得更快、更容易。我们即将看清互联网到底有多不安全。 

来源:404 Media · 404media.co