午后简报 · 16:00
智能体设置:看不见的变量
作者 · bombong
工作智能体中设置了什么,正成为左右人类判断的变量。据称,在Anthropic对齐团队的实验中,专业分析师大多跟随了智能体中被暗中植入的倾向38。同一天,DeepSeek和ByteDance推出了将多家公司模型串联进同一工作流程的功能3435。需要检查的设置层级也随之增加。
隐藏设置左右专家结论
智能体的默认设置可能在用户未察觉的情况下改变专家的结论。据社区帖子称,Anthropic对齐团队于10月27日公布了一项实验结果:50名专业分析师使用Claude Code进行接近真实场景的统计分析。研究人员在4项分析决策上,分别通过隐藏的系统提示词(用户看不到的预设指令)让智能体偏向一侧。偏向哪一侧由抛硬币决定,且未告知分析师。
结果呈现出明显的偏向。据帖子称,分析师选择智能体所偏向一侧的比例为86%。若纯属偶然,应约为50%;按项目分,该比例为81%至92%。即便是事先写下自身偏好的分析师,在智能体持相反意见时也有60%改变了选择,而在对照条件下仅为6%。结果表明,即使具备专业能力,智能体的建议仍会成为强有力的锚点。因此,检查对象不止于智能体的输出,还要延伸到其背后的设置。
串联的模型越多,检查点越多
随着智能体越来越多地采用串联多家公司模型的架构,这一问题也变得更加复杂。据Pandaily报道,DeepSeek Harness v0.2.2-alpha.2加入了名为“subagent_oar”的实验功能,可让主智能体将可单独处理的任务交给用户电脑上安装的Codex CLI或Claude Code。ByteDance的Doubao Work也允许团队和企业套餐客户使用Kimi K3.1 Pro、GLM-5.3、DeepSeek-V4.1-Flash等外部模型。无论在开发工具还是办公服务中,由多个模型参与同一任务的配置都在增加。
当多个模型被串联进同一流程时,用户很难一眼看清每个环节设置了什么指令和默认值。上一节中的偏向是在单个智能体上测得的结果。但如果每个子智能体都附带不同的系统提示词,需要检查的环节也会相应增加。执行环境方面已开始出现应对措施。据InfoQ China报道标题,供应链安全公司Chainguard推出了面向AI编码智能体的安全工作空间和安全验证功能37。这是对智能体引入的依赖项和执行环境进行单独管控的尝试。
依据仍然单薄
不过,要对这一趋势下定论,依据仍显单薄。Anthropic的实验是通过社区帖子传出的,由于摘录不完整,得出6%的对照条件究竟是什么尚未确认。此外,实验处理的是被刻意设置了偏向的情形,普通产品的默认值是否会产生同等程度的影响,需要另行探讨。
产品方面的信号也处于早期阶段。DeepSeek的功能是预发布版本中的实验功能,Chainguard产品的提供范围、形式和价格在摘录中均未得到确认。多模型配置在实际企业场景中的使用程度,以及揭示设置的机制能多快跟进,仍有待观察。
引入智能体的企业,除了比较模型性能,还有必要将“由谁决定、如何记录智能体和子智能体所承载的指令”纳入检查项目。在分析和决策类工作中,也可以考虑让人在看到智能体建议之前先写下自己的判断。接下来需要关注的是:Anthropic实验原文及对照条件是否公开、DeepSeek实验功能是否纳入正式版本,以及Chainguard产品的详细规格。
本文借助 AI 撰写,包含个人观点。
早间简报 · 08:00
云业务增长,以现金为代价
作者 · bombong
AI需求如今正在云业务营收中得到印证。但支撑这一需求的设备成本,也同步体现在现金流恶化和举债上。三家科技巨头的业绩和融资消息在同一天公布,让增长与成本出现在同一幅画面中。
营收率先证明的需求
AI需求真实存在的证据,最清楚地体现在云业务的增速上。Amazon于29日(当地时间)公布,第三季度营收同比增长12%,达2019亿美元2。虽然总营收和每股收益低于市场预期,但据韩国《电子新闻》报道,AWS营收增长39%,创约5年来最高增速。Alphabet方面,据报道Google Cloud营收同比增长103%,自有模型API处理量和Gemini应用用户也大幅增加6。
这些数字之所以重要,是因为增长并不局限于一家公司。继Microsoft Azure和Google Cloud之后,AWS也因AI需求而加快了增长。这意味着越来越多的证据表明,需求增长并非源于某个模型或服务的热度,而是发生在整个基础设施层。
同一份业绩中也包含了成本方面的数字。Amazon因AI基础设施投资增加,自由现金流赤字扩大。Ars Technica报道称,Google的现金流赤字增至90.6亿美元,业绩公布后股价下跌。这可以理解为:即便营收快速增长,设备投资的执行速度仍然更快。
成本转向债券市场
现金流承受的压力正在引发融资方式的变化。据韩国《电子新闻》援引彭博社报道,Microsoft计划在美国债券市场发行至少250亿美元的投资级公司债5。这是Microsoft自2017年以来首次在美国发行公司债。债券分为10个品种,期限从2年到40年不等。
现金充裕的企业开始对外举债,这一点与上一节的业绩指向同一方向。将期限延长至40年的结构,可以解读为用长期负债匹配数据中心这类长期使用资产的设计。这意味着AI基础设施成本已经超出各公司损益表的范畴,进入接受资本市场评判的阶段。
收益结构的变化也同时显现。Google承认AI搜索的收益低于传统搜索,并表示将通过增加广告来弥补。公司亲口证实:在基础设施成本不断增加的同时,原有核心业务的单位收益反而可能变薄。
投资回收的路径仍未确定
既然成本先行投入,剩下的问题就是填满这些设施的需求从何而来。在产品层面,将智能体功能嵌入日常服务的动作仍在持续。据韩国AI Times报道,OpenAI的ChatGPT·Codex负责人Thibault Sottiaux在X上表示“计划在今年内结合聊天与Work的优势”3。整合后,用户无需切换模式,即可在同一对话中撰写文档乃至操作外部程序。不过社区中已有人担心Plus方案的使用上限,智能体任务的成本由谁、以何种方式承担,目前尚无定论。
企业一线的案例表明,需求正在进入实际业务。MoEngage借助Amazon Bedrock AgentCore Gateway,将7个区域约400个私有REST API转换为限定权限范围的智能体工具11。Epsilon则借助Amazon Nova Act,以多租户服务形式运营用普通英语句子编写的UI测试12。
但普及也面临障碍。在GitHub Universe 2026小组讨论中,OpenAI、Anthropic和Google的相关人士将为每个智能体管理访问权限并追踪执行过程列为共同课题24。这些案例能否足够快地转化为营收、以支撑当前的投资规模,目前尚未得到数字上的印证。
云服务商将积极吸引智能体工作负载,以填满不断扩充的设施。引入AI服务的企业不宜假定当前的价格和使用上限会一直维持,而应将成本结构可能变化的情况纳入规划。接下来需要关注的是:ChatGPT聊天与Work整合在各订阅方案中如何适用,Microsoft公布的基于Maia的大规模推理部署效率指标依据何在,以及下个季度科技巨头的现金流将如何变化。
本文借助 AI 撰写,包含个人观点。
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- 对LLM文风的反感 围绕Martin Fowler的“LLM Voice”和GeekNews的《LLM文风造成的恐怖谷》等文章,有讨论认为LLM特有的语气会降低阅读意愿,无论文章是否真的由AI撰写。一篇追踪AI所引用的来源不明统计数据(“僵尸统计”)的文章也受到关注。
- ChatGPT聊天·Work整合与使用额度 聊天与Work整合的消息传出后,有人担心Plus用户会被边缘化。另一方面,也陆续有帖子称使用额度已恢复原状、翻了一倍。
- AI智能体集群与科学难题 r/singularity上流传着多条帖子:称Sam Altman表示智能体集群协调将在三个月内大幅改善、并可用于AI研究自动化;有关在Navier-Stokes问题上投入超过1000万美元算力的发言;以及研究人员称模型接连解决其提出的难题的证言。Claude Sonnet 5智能体进行小鼠脑外科手术的帖子也引发热议。
- 云API模型被悄然替换 一名用户分析了40天的编程智能体日志,声称各提供商在10月19日前后悄悄将deepseek-v4.1-flash端点替换为-1017权重,此后模型替换次数增至原来的6.7倍。
- 决策模型 vs 传统分类器 一名Voyage员工分享实验称,在嵌入之上叠加sklearn模型的传统方法比决策模型Jev更便宜,错误也少37%。一次性完成转写、实体链接和说话人标注的70MB流式语音模型Arc也受到关注。