早间简报 · 08:00
判断交给小模型：智能体的分工
设计 AI 产品的单位正从单一通用模型转向按角色划分的专用模型组合。昨天推出的产品和研究共同指向一个方向：把智能体的分支判断、用户意图识别、设计规划、训练数据标注分别交给独立拆分出来的模型。不过，组合的优势同样向攻击者敞开，而资本仍在向最大的模型聚集。
拆分出判断的专用模型
最清楚展现分工趋势的是 OpenAI 的“Decisions API”。这是一款在应用内以低成本处理简短、聚焦判断的 API，OpenAI 称其为可用于任何应用的快速、低成本决策1。TechCrunch 将其报道为 OpenAI 广泛开放用于对抗 TypeSafe 判断模型 Jev 的决策模型。该 API 于 10 月 20 日以语音模型 GPT-Live 直接调用的方式首次亮相。由大模型主导对话、把岔路口的判断交给小模型——这种结构先在 OpenAI 自家产品中用上了。价格、模型名称和性能数据尚未公布。
同一天还出现了把判断的前一环节拆给专用模型的案例。China Telecom 旗下实验室开源了专注意图理解的“Xing4.0-29B-Intent”24。据量子位报道，它既能处理从选项中选择的分类型任务，也能处理自由填写的生成型任务。意图识别是智能体决定把请求送往何处的路由第一步。决策模型与意图模型同时出现，意味着智能体的判断路径正在被定义为独立组件。
同样的分工也发生在生成与数据环节
被拆分的不只是判断。在图像生成和训练数据制作中，也能看到按阶段拆分任务、再配上专用模型的设计。Canva 向所有用户推出首个自研图像生成模型“Canva Craft”3。据 The Verge 报道，该模型采用两阶段结构，在绘制图像前先规划设计构图。Canva 声称，得益于规划阶段，精度、一致性和可控性都有提升，成本也更低。这是设计平台不再依赖外部模型、而是直接打造贴合自身工作流程的模型的案例。
在数据方面，NVIDIA 在 Hugging Face 上发布了开放模型系列“Flora”，可从作业视频中自动标注动作、时间区间、是否成功以及失败原因6。据报道，该模型已实际用于人形机器人基础模型 GR00T 的训练。NVIDIA 表示可将机器人训练数据制作成本最多降至 1/125，但未公布比较条件。Microsoft 将数据库评分结果转化为强化学习奖励、对智能体进行后训练的 ThinkingBox，也可视为把评估角色拆分为独立装置的做法9。
组合的阴影与流向大模型的资本
分工并不总被用在有益的方向。安全初创公司 Straiker 表示，黑客组织“CyberCartel”组合使用包括 Claude 和 Grok 在内的多种商用模型，攻击了约 400 家拉美金融机构4。据报道，AI 智能体分别承担了目标信息收集、攻击规划和执行。防御方也有了回应。据韩国媒体 AI Times 报道，Anthropic 以公开测试版形式推出了“Claude Security”新版本，可持续分析代码变更，并追踪漏洞是否真正修复5。这说明组件越多，检查就越不能一次了事，而应成为持续的运营工作。
也很难断言用小模型分工的趋势会降低大模型的比重。据 TechCrunch 报道，OpenAI 正在 IPO 前推进以 1.25 万亿美元估值为基准、新融资 300 亿美元的工作2。与此同时，市场正在重新审视投资节奏。10 月 22 日纳斯达克下跌 2.60%，半导体指数下跌 6.7%，韩国《电子新闻》称对 AI 投资可持续性的担忧加剧7。分工是降低成本的设计，但它与对位于顶端的大型模型的投资逻辑同步而动。
对构建智能体的企业而言，剩下的问题与其说是哪个模型最大，不如说是把哪类判断交给哪个模型。按角色拆分可以降低成本和延迟，但同时需要一套持续检查组件之间边界与权限的机制。接下来需要关注 Decisions API 价格和性能的公布，以及中国决策模型领先 Microsoft 和 Jev 这一基准测试说法的发布主体与评估条件。