午后简报 · 16:00
按工作单元打包的企业级AI
作者 · bombong
今天下午的消息显示,企业级AI竞争的单位正从单个模型扩展到整个工作流程。Alibaba和ByteDance为办公AI增加了外部模型选择功能和按岗位划分的组合包。OpenAI公布了可直接操作医院现有软件的智能体的评估结果。供应商的关注点正从性能竞争转向让谁在哪些工作中、以多少成本使用。
工作平台站到了选择模型的位置
最明显的信号来自中国大型科技公司的办公AI产品。据Pandaily报道,Alibaba在企业办公工具QwenWork中,除自家Qwen外,还允许选择Kimi(Moonshot AI)、GLM(Zhipu AI)、DeepSeek等其他公司的模型27。管理员可以按部门、群组、成员设置各模型的访问权限。模型公司将竞争对手的模型引入自家平台,可以理解为其判断企业客户比起单一模型的性能,更看重在一处管理多个模型的功能。
ByteDance则从另一个方向瞄准了同一点。Pandaily报道称,ByteDance的Doubao Work新增了按21个专业工作场景划分的工作台32。工作台将每个场景所需的技能和工具打包在一起,用户可以保存自己创建的配置并与他人共享。如果说QwenWork管理的是谁使用哪个模型,那么Doubao Work整理的是每项工作要搭配哪些工具。这一趋势也与早间简报讨论的成本管理竞争相关联,因为划分使用权限、让配置可重复使用的功能,会成为企业控制AI用量的手段。
贴合现场软件与成本结构
以工作单元切入的动向也出现在特定行业和开发者市场。据韩国媒体报道,OpenAI于16日(当地时间)公布了面向医疗机构的计算机使用智能体的评估结果24。评估采用了电子病历(EHR)管理、保险预授权、转诊、出院准备等医院行政工作。核心在于智能体能否直接操作医护人员已在使用的软件来完成工作。OpenAI称,经医护人员审查的325项任务中,99%被判定为临床安全,在医疗行政基准测试中最高达到94.3%。这种不要求引入新系统、而是进入现有工作环境的方式,与上一节的工作平台方向一致。
计费结构也在向工作流程靠拢。据Pandaily报道,ByteDance正式开放了Seedance 2.5的4K视频生成API26。用户可先用“Draft模式”查看480p预览,4K渲染则单独收费。这一结构针对需要多次修改样片的视频工作,让昂贵的算力只在需要时使用。在韩国,Upstage宣布与专注受监管行业和公共部门的Cohere达成合作31。两家公司将共同开拓韩国及亚太企业级市场,并推进主权AI联合模型开发。监管越严格的客户,越会先关心如何部署模型、如何满足合规要求,而非模型排名,这一点处于同一脉络。
验证与信息尚未跟上的部分
不过,判断这些动向能否转化为实际部署的依据仍然有限。OpenAI的99%和94.3%是公司自行开展的评估得出的数字,报道中未提及是否经过外部验证。样本也只有325项,医院要做出部署决定还需要独立评估。AI越深入工作现场,由谁来核实安全性声明就越重要。
中国办公平台的消息全部依赖于单一媒体的报道。Doubao Work的提供地区和定价、Seedance 2.5的具体价格也尚未公布。组合使用多个模型的方式是否真能减轻企业的成本和管理负担,需要等定价表和运营案例出来才能判断。Upstage与Cohere的合作,联合模型也仍处于推进开发阶段。
从业者在选择企业级AI时,除了模型排名,还应一并考量权限管理、与现有系统的连接以及分阶段计费结构。接下来需要关注是否会出现对OpenAI医疗智能体的独立评估,QwenWork和Doubao Work是否会公布定价和提供范围,以及Seedance 2.5的4K渲染价格将如何确定。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
早间简报 · 08:00
上限与缓存:AI成本管理之争
作者 · bombong
生成式AI竞争的重心,正从提供多少功能转向如何计量和节省用量。Apple开始对操作系统内置的AI功能试行按设备每日上限。AWS与Microsoft Research也先后推出减少编程智能体token消耗的方法。消费级产品与开发工具这两个不同层面开始了同样的算账,这是今天消息的共同点。
进入消费设备的用量上限
据The Verge援引MacRumors报道,Apple在16日推出的iOS 27.3等测试版中,正对部分Siri AI与Apple Intelligence功能试行以设备为单位的每日使用上限3。基本的Siri指令和请求仍免费且不限次数,只有较复杂的功能受上限约束。不过,超出上限后如何计费、是否会在正式版中实施,目前尚未确认。
这一消息之所以重要,是因为操作系统内置的AI功能也正被纳入"按用量"的逻辑。原本被视为包含在设备价格中的AI功能,随着请求变得复杂,算力成本也会上升,总得有人来管理这笔成本。Apple此前已在Logic Pro中引入Intelligence用量包,因此可以将此视为从单个应用开始的用量管理扩展到操作系统层面的过程。将简单指令与高级功能区分开来的结构,也是其他消费级AI服务值得参考的设计。
开发一线以节省token和GPU的技术应对
在企业和开发者一侧,同样的成本压力体现为token节省技术。AWS公开了Bedrock开放权重模型可用的提示缓存(存储已处理的输入以便复用的技术)用法6,说明了通过Chat Completions API使用隐式与显式缓存的两种方式,并展示了在OpenCode编程智能体会话中的应用示例。Microsoft Research的TokenEconomizer则采取不同思路12:着眼于开发者会反复回到同一代码仓库和任务这一点,让智能体学习以往会话的经验,提升后续会话的效率。
这两则消息都瞄准编程智能体。智能体每次会话都要把指令、工具说明和会话记录重新发送给模型,任务越长,输入成本越高。缓存减少的是重复的上下文,而TokenEconomizer针对的是会话与会话之间产生的浪费,两者可以互补。在AWS公开的Bedrock AgentCore应用案例中,AWS也表示Duco通过MCP(让模型调用外部工具的标准协议)技能结构将上下文开销减少了90%,并将对账部署时间缩短为十分之一7。
GPU层面也在进行同样的计算。NAVER表示,SNOW的16项图像AI服务在不更换模型、仅改进服务架构的情况下,节省了折合约67块H100的算力17。无论是token还是GPU,如何减少对现有资源的浪费正成为实务竞争力的一个支柱。
效率提升并不保证总量下降
不过,现在就把这一趋势理解为成本问题正在得到解决还为时过早。首先,效率提升的依据仍然单薄。TokenEconomizer在收集资料中没有节省数据,Duco的数据来自AWS博客。Apple的上限也只是测试阶段的试行,实际上限水平以及是否与付费订阅挂钩尚未确定。
此外,在逐个请求精打细算之外,整体算力规模仍在持续扩大。NVIDIA表示,云服务商Lambda正在使用将光学器件与交换芯片封装在一起的NVIDIA Photonics CPO交换机,互连由1万多块GPU组成的GB300 NVL72机架8。The Verge报道的一篇Nature Sustainability论文估计,美国超大规模数据中心的用电总量超过许多国家的用电量。该论文还指出,这些设施最大的电力来源仍是化石燃料15。即使单位效率提高,如果用量增长更快,总成本和电力负担也可能不会下降。从这个角度看,用量管理与其说是成本压力已被化解的证据,不如说是这种压力正在加大的信号。
对从业者而言,今天消息的含义很明确:评估引入AI时,除了看性能榜单,也要审视用量结构。哪些请求会受上限约束或被计费、重复的上下文能否通过缓存削减、服务架构中是否存在浪费,这些都决定着运营成本。接下来需要关注Apple Intelligence上限是否正式实施以及是否与付费方案挂钩、Hugging Face与OpenRouter合作的计费结构,以及将揭示AI基础设施需求前景的NVIDIA第三季度财报。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- Qwen 4开放权重 在LocalLLaMA上,围绕Qwen 4小型开放权重模型(27B等)何时发布、Qwen 4是否会成为最后一代开放模型,悲观论调与反驳帖子交替出现。Qwen4-Max在Artificial Analysis指数上提升9分、单任务成本降低67%的分享也引发热议。
- 用Claude在Blender中制作3D 接连有人分享案例:让Claude Fable 5.2通过Blender官方MCP编写Python,耗时三天制作埃菲尔铁塔和巴黎街景;一次性生成弹跳球动画;将一本二战部队史书籍重构为交互式3D和可检索的名册。
- AI生成证明与测试的验证 有帖子指出,要信任AI生成的Lean证明,需要核查命题是否一致、能否编译、所用公理乃至内核漏洞;另有人指出OpenAI公开的290个Lean定理中约38个并未表述论文的核心定理。检查智能体修复漏洞的PR中的测试是否在修复前代码上也能通过的工具redfirst也受到关注(智能体14%对人类9%,差异无统计显著性)。
- AI未来叙事之争 奥尔特曼在Semafor活动上表示,"以人类失去主导权为代价换取治愈癌症"之类的说法是糟糕的宣传;奥巴马关于模型自我改进与对齐的担忧,以及美联储主席对AI增长与大规模失业情景进行建模的消息,一同被广泛讨论。
- 企业使用开放权重模型 有分享称,企业中开放权重模型的使用占比从7月的几乎为零增至30%,主要用于大批量处理、编程等以节省成本。也有帖子称在经由推理服务商使用时遭遇审查错误而转向本地LLM,小型Gemma 4分词器修复的消息也一并被讨论。