分析 · 2026-10-15

在网络安全领域，AI 站在攻击方还是防御方？

安全企业表示，借助 AI 智能体，分析、调查和补丁修复所需的时间大幅缩短；而研究人员和研究机构负责人则警告，同样的能力也有被用于攻击的风险。本文将本周的案例与警告放在一起对照，梳理公开证据偏向哪一方，以及从业者需要核实的要点。

要点

在 OpenAI 和 AWS 公开的案例中，企业表示借助 AI 将恶意软件分析、威胁调查和补丁建议所需的时间从数周缩短到了数小时乃至数分钟。
Tamnoon 将从检测到处置的整个流程交给智能体，同时单独设置了一个阶段，在触及真实环境之前先进行调查和安全性评估。
有报道称，一名研究人员借助 Zhipu 的 GLM 提交了 23 个漏洞，Microsoft 一次性全部予以认可。
Hinton、Bengio 等 400 余名研究人员以及 Demis Hassabis 呼吁，针对具备网络能力的 AI 建立国际监督体系和标准。
已公开的防御成效数据大多来自提供方的发布，测量方法并未披露。

防御方面，哪些环节提速了，提速了多少？

本周的安全新闻大多是防御自动化案例。缩短时间的量级也引人注目：数周变为数小时，原本要花数小时的工作几分钟内即可完成。

据 OpenAI 发布的信息（s1），SentinelOne 使用 OpenAI Daybreak，将原本需要数周的恶意软件分析缩短到数小时，从而有余力调查更多威胁。不过，公开资料中没有说明测量方法和适用范围。在 OpenAI 介绍的 Block 案例（s2）中，OpenAI 也表示安全团队能够更快地调查威胁，并在几分钟内提出补丁建议。AWS 博客（s4）刊登了 Orca Security 的案例。Orca Security 构建了一个名为 Discovery AI 的智能体，可将普通英文提问转换为 Sonar 查询；据其介绍，与初始基线相比，查询成本降低了 90%，输入 Token 减少了 93%，延迟降低了 75%。

三个案例的共同点在于，AI 缩减了原本由人工完成的调查和查询环节。不过，这些数据全部来自销售工具的一方。对从业者来说，比起“从数周到数小时”这一数字本身，究竟是哪个环节被缩短了才是更有用的信息。

从检测进一步延伸到处置，会带来什么变化？

检测结果的数量早已超出人工能够处理的范围。AWS 博客（s3）指出，CNAPP（云原生应用保护平台）和扫描器动辄产出数千条结果。博客解释说，大部分结果之所以被搁置，并不是因为难以修复，而是因为调查上下文、找到负责人、确认修复后不会破坏生产环境都需要时间。

Tamnoon 基于 Amazon Bedrock 构建的 Tami 正是瞄准了这一空白（s3）。Tami 会自主调查检测结果，评估处置是否安全，然后在设有护栏（安全机制）和治理措施的前提下执行修复。工作被拆分给四个专门的智能体，分别负责调查、安全性评估等任务。调查智能体通过只读的调查阶段制定计划。Tamnoon 表示，在 90 天内将严重的云暴露减少了 90% 以上，且未引发任何生产环境问题。

可以说，这个案例的关键与其说在于模型性能，不如说在于如何设计“触及真实环境之前”的阶段。要实现处置自动化，首先要确定给智能体多大的权限，以及出错时如何回滚。

同样的能力在攻击方看来是什么样子？

发现漏洞的能力，意义取决于由谁使用。对漏洞报告者来说是防御手段，对攻击者来说则是武器。本周就有新闻体现了这种两用性。

据 InfoQ China 一篇文章（s5）的标题，Microsoft 一次性认可了某人提交 23 个漏洞的贡献，其背后是 Zhipu 的 GLM 模型和一名顶级白帽黑客。所收集的资料中没有说明这些漏洞属于哪款产品，也没有说明如何使用了 GLM。另有 AI Times 援引的 The Information 报道（s6）称，OpenAI 正就收购 Trail of Bits 进行初步谈判，该公司专注于开源软件的漏洞分析与修复。Trail of Bits 成立于 2012 年，员工超过 40 人。交易规模尚未披露，谈判也可能不会达成。

GLM 案例可以被解读为一个信号：用 LLM 发现的漏洞已经有用到足以获得大型厂商的正式认可。反过来看，这也意味着攻击者同样能够达到同等水平的漏洞挖掘能力。

为什么国际监督的呼声在同一周升高？

在防御成效陆续公开的同时，风险警告也随之出现。据 AI Times 报道（s7），包括 Geoffrey Hinton 和 Yoshua Bengio 在内的来自 34 个国家的 400 余名研究人员发表了公开信。公开信呼吁设立一个国际机构，监督具备高级网络攻击能力的模型的隔离标准和事故报告。签署者认为，仅靠企业的自愿承诺是不够的。据 Electronic Times（电子新闻）报道（s8），Demis Hassabis 也警告称，如果 AI 智能体的安全措施不足，两年内可能发生严重的安全事故，并呼吁制定国际标准。

对于由谁承担风险，各方意见不一。据 Reddit 上分享的一篇文章标题（s9），Anthropic 的一位高管认为开源模型的网络安全风险更大。不过，发言者是谁、依据是什么，均无法确认。结合公开权重的 GLM 系列被用于漏洞报告的报道（s5）来看，可以说围绕开放模型的风险与用处的争论尚无定论。

因此，仅凭本周的证据，很难判断攻击方和防御方谁更占优势。防御方有公开的案例和数据，攻击方则只有警告和主张。不过，这种不对称也可能源于一种结构：防御成效容易被宣传，而攻击成效不会公开。

实践者可以尝试的事

将安全积压事项的处理时间按调查、确认负责人、修复、验证等阶段拆分测量，先找出 AI 智能体真正能缩短的环节。
测试处置自动化时，像 Tamnoon 那样将只读调查阶段与执行阶段分开，并按照最小权限原则和回滚流程来设计智能体权限。
对于厂商给出的“从数周到数小时”之类的数据，先索取测量方法和适用范围，再在自身环境中用相同指标重新验证。

来源

本文由 AI 根据简报资讯和官方来源撰写。解读只是基于依据的一种理解，准确内容请查看原文。

在网络安全领域，AI 站在攻击方还是防御方？

防御方面，哪些环节提速了，提速了多少？

从检测进一步延伸到处置，会带来什么变化？

同样的能力在攻击方看来是什么样子？

为什么国际监督的呼声在同一周升高？

相关术语

来源