← 分析

分析 · 2026-11-13 · 作者 bombong

智能体执行环境成为云产品后,会带来哪些变化

本周,Google Cloud、Moonshot AI、AWS和Mistral AI发布了运行智能体的Harness、隔离会话和运行时等托管服务,或给出了运行方法。本文梳理执行层包含哪些内容,以及各公司在运营位置上的分歧。随后说明锁定和成本结构如何扩展到模型API之外。

宽敞的仓库里排列着一排排玻璃房间,每个房间里都有小机器人在工作,有几间熄了灯、关着门,边缘处有人站在岔路口前。
AI 生成图像 · 宽敞的仓库里排列着一排排玻璃房间,每个房间里都有小机器人在工作,有几间熄了灯、关着门,边缘处有人站在岔路口前。
要点

本周集中发布了什么?

本周智能体相关消息的共同点不在模型本身,而在运行模型的执行环境。其核心是Harness(Agent Harness)。Harness是为模型接上工具、记忆和沙箱,让其实际执行工作的运行框架。同一周内出现了多项将Harness作为托管服务出售的发布。

据韩国媒体《人工智能新闻》报道,Google Cloud于美国时间5日正式推出自主智能体执行平台Agent Substrate 1.0,并开源了3种运营用基础设施(s1)。核心功能是保存闲置智能体的状态,在再次调用时将其恢复(s1)。Google称,其执行密度比现有容器方式最高提升10倍,可在0.5秒内恢复已保存的状态,但比较条件未公开(s1)。据Pandaily报道,Moonshot AI推出了24小时运行的托管Harness Kimi Hosted Agents,同时提供沙箱、审计记录、Inference Hook和8种金融模板(s2)。Mistral AI宣布在Studio中加入了托管智能体与应用,以及智能体可观测与评估功能(s4)。

需求和周边市场也在同步变化。据Pandaily报道,DeepSeek Harness的日用户数为154万,日处理量约92万亿token(s6)。TechCrunch报道,Dropbox将以3.5亿美元收购Tigris Data,用于打造面向智能体开发者的存储服务DBX Agent Cloud(s8)。云厂商、模型公司和存储公司围绕同一层展开行动,可以认为竞争焦点正在扩大:从“用哪个模型”扩展到“在哪里、如何运行”。这意味着,在评估引入智能体时,需要分别选择模型和运行时。

围绕执行层的数字

最高 10 倍Google 声称的执行密度(相对容器)
0.5 秒Google 声称的状态恢复时间
154 万人DeepSeek Harness 日活跃用户
3.5 亿美元Dropbox 收购 Tigris Data 的金额
Google 的数字为公司自述,比较条件未公开。

执行层包含什么?

执行层听起来很抽象,但组成部分很具体。AWS发布的指南是一个很好的例子。AWS介绍了如何在Amazon Bedrock AgentCore上将Claude Code作为远程智能体运行。每个编码任务都会在客户的AWS账户内单独创建一个隔离会话。所有模型调用都经过Amazon Bedrock,结果以GitHub Pull Request的形式返回,经人工审查后合并(s3)。AWS也给出了选择这种配置的理由:无需按席位许可,通过现有AWS账户计费;审计日志会留在AWS CloudTrail中;还可以设置不保存请求和响应的ZDR(zero data retention)(s3)。

硬件方面也能看到同样的趋势。NVIDIA指出,智能体在工作中会在GPU推理和CPU执行之间来回切换,搜索、数据库查询和代码执行都是在CPU上处理的环节(s7)。NVIDIA称,合作伙伴Daytona在Vera CPU上用10.8秒启动了1,000个智能体沙箱;而据NVIDIA的说法,在x86上需要88.4秒(s7)。存储也开始被视为执行层的一部分(s8)。

综合来看,智能体的运营成本并不止于模型调用费用。可以认为,隔离会话、待机状态的保存、审计记录、CPU执行和存储都会一起构成成本。Google突出状态保存和执行密度,也可以理解为是针对这部分待机成本(s1)。

远程编程智能体的流程开发者 → 隔离会话(任务委派); 隔离会话 → Amazon Bedrock(模型调用); 隔离会话 → GitHub PR(返回结果); GitHub PR → 人工审查与合并(审查)开发者交付任务隔离会话客户 AWS 账户内Amazon Bedrock所有模型调用GitHub PR任务结果人工审查与合并任务委派模型调用返回结果审查
远程编程智能体的流程 AWS 指南中的架构:每个任务在客户账户内的隔离会话中运行,结果以 PR 形式返回,由人工审查。

为什么各公司在“在哪里运行”上出现分歧?

即便是同样的执行层,由谁运营、放在哪里也因公司而异。一端是自建路线。根据GeekNews上分享的视频摘要,GitHub将约40万~45万行TypeScript编写的Copilot运行时迁移到了Rust,目标是打造无需Node.js和V8、可嵌入多个产品的通用智能体Harness(s5)。据称,他们在约14.5周内在不停止部署的情况下分阶段完成替换,期间共发布约130次(s5)。

Mistral AI表示,Studio可以部署在云、企业VPC、本地(on-premises)或它们的混合环境中。Mistral的文章还引用了BNP Paribas负责人的话:由于要运行敏感流程,他们在自有基础设施上运营Studio(s4)。AWS提出了一种折中方案:把执行交给AWS,但保留在客户账户边界之内(s3)。Moonshot AI的服务则处于团队无需自行托管运行时的一端(s2)。Google同时推出了托管平台和开源基础设施,但已公开的3种基础设施的名称和许可证尚无法确认(s1)。

这种差异与其说是技术偏好的不同,不如说是管控需求的不同。重视数据主权和审计的组织会选择边界之内,而希望节省运维人力的组织可能会倾向完全托管。先确定自己的组织应处于这一光谱的哪个位置,就能迅速缩小候选范围。

执行层由谁运营

← 自建自运营交给提供方 →
12345
  1. GitHub 通用运行时
  2. Mistral Studio 自有基础设施部署
  3. AWS 客户账户内隔离会话
  4. Google 托管 + 开源
  5. Kimi Hosted Agents
越靠左越倾向于自建自运营,越靠右越倾向于交给提供方。位置是根据正文解读的相对排布。

锁定与成本会如何变化?

模型 API 相对容易替换,但执行层会不断积累东西:保存的智能体状态(s1)、审计记录(s2, s3)、业务模板(s2)以及插件。据 Pandaily 报道,DeepSeek Harness 上有约 3.5 万个由外部开发者制作的插件,官方插件市场和创作者计划也在筹备中(s6)。可以认为,这类资产越多,锁定效应就可能从模型转移到 Harness 及其生态。

成本结构也会发生变化。AWS 自己列出了远程编程智能体的权衡条件:运行过程中人的介入更少,需要配置环境,成本也更难预测(s3)。AWS 还区分了适合和不适合的任务。适合的是在可信代码仓库中、带有自身配置和测试命令的、范围明确的功能开发、缺陷修复和测试工作;不可信的代码则不适合(s3)。

总之,选择托管运行时时,仅比较模型单价是不够的。可以认为,会话、等待和存储成本,以及积累的资产能否迁移到其他地方,也应一并作为判断标准。开源发布(s1)或多环境部署(s4)能在多大程度上提高可移植性,较稳妥的做法是在确认许可证和实际组件后再作判断。

交出去还是握在手里

交给托管 Harness减轻运维负担

  • 无需自行托管运行时
  • 可直接使用模板和插件
  • 状态和记录积累在提供方环境中

留在自身边界内保持控制

  • 自有基础设施、VPC、本地部署
  • 直接控制数据和模型访问
  • 配置运维负担和成本预测是难题

공통 无论哪种方式,模型之外的执行层都左右着成本和锁定

对比了交给托管 Harness 与将执行层留在自身边界内两种做法。
实践者可以尝试的事
  1. 将目前在运行的智能体任务成本拆分为“模型调用”和“隔离会话、等待状态、存储”两部分记录,在获取托管运行时报价时分别比较这两项。
  2. 在签约托管 Harness 之前,确认智能体状态、审计记录、模板和插件能否导出到其他环境,以及开源组件采用什么许可证。
  3. 远程编程智能体先从可信代码仓库中范围明确的功能添加、缺陷修复和测试工作做起,结果必须经过 PR 审查后才能合并。

相关术语

Harness 沙箱 AI 智能体 编程智能体 Always-on agent 人在回路(Human-in-the-loop) LLM 可观测性 主权 AI

来源

本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录