午后简报 · 16:00
AI风险管理前移至发布之前
作者 · bombong
确认AI风险与效果的时间点,正从发布之后前移到发布之前。Alibaba推出了从训练数据中过滤攻击性网络能力的旗舰模型。Apple开始通过大规模研究先行确认健康AI的回答是否真正有帮助。美国则出现了鼓励尽早报告AI安全事件的建议。
在训练阶段削减风险
早间简报讨论了AI深入专业工作的趋势。午后的消息则引出另一个问题:如何以及何时应对这样深入应用的AI所带来的风险。最直接的案例是Alibaba继预览版之后正式发布的Qwen4-Max18。据公司介绍,训练数据中刻意过滤了攻击性网络能力,同时保留了可用于防御的能力。
这一措施的意义在于,风险应对并未仅交给发布后的过滤器或使用政策,而是放在了数据阶段。据GeekNews摘要,该模型采用2.4万亿参数主干,可处理100万token上下文。Alibaba表示,单个任务的平均成本从4.43美元降至1.67美元,降幅62%。在主打性能和价格的发布中同时强调安全设计,说明对AI驱动网络攻击的担忧已进入产品设计阶段。
消费级服务与制度层面方向一致
模型设计中出现的这一趋势,在消费级服务和政策层面同样可见。据报道,Apple与临床AI平台OpenEvidence合作,在美国启动了最多20万人参与的“Apple Health AI Usage Study”15。研究将考察用户对AI回答的理解准确度和信任程度、结合iPhone健康数据能否让回答更有用,以及实际健康管理行为是否发生变化。这是在推出功能之前先积累效果与信任依据的顺序。
制度层面,有援引Bloomberg的报道称,白宫AI工作组相关人员建议,对善意率先报告涉及AI的网络攻击或漏洞的企业,至少1年内减轻其监管责任20。该方案的重心不在事后处罚,而在于尽早收集事件信息。模型公司从数据入手,服务公司借助事先研究,政策层面依靠报告激励,三者的共同点是都试图提前应对风险。
仍停留在自我评测的数字
不过,现在就说前置验证已成为全行业惯例还为时尚早。今天发布的模型性能数据大多由公司自行测得。Qwen4-Max的Work360得分为自有评测,Reddit上另有帖子称其在Artificial Analysis指数中获得43分。Tencent的MoE(混合专家)模型Hy4 flash主打总参数224B、激活参数12B,以及输出每百万token 2元的价格,但主要性能结果基于自有基准WorkIndex19。
Huawei Cloud声称其面向机器人的世界动作模型CloudRobo-WM1.2在RoboTwin 2.0和LIBERO-Pro 2.0上排名第一。公司预告将开源,但发布时并无权重21。白宫方案也仍处于建议阶段,是否实施及范围尚未确认。风险管理正在前移,但对性能声明的外部验证仍留在发布之后。
对于引入模型的从业者而言,除了性能和单价,还有必要同时考量两点:一是提供方在训练和发布前阶段采取了哪些风险管理措施,二是相关数据能否通过外部评测加以确认。接下来值得关注的是:白宫建议能否转化为实际的机构标准,Apple的研究会给出怎样的结果与依据,以及Huawei能否如预告那样公开权重、其基准结果能否复现。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
早间简报 · 08:00
从物理证明到芯片验证,AI深入专业流程
作者 · bombong
AI模型的用途正从通用对话转向专家工作流程中的特定环节。OpenAI在新开设的科学博客上公开了将GPT-6 Astra用于理论物理证明的过程。在中国,将智能体和模型适配芯片设计验证和机器人搭载芯片的发布接连出现。
成为研究流程一部分的前沿模型
OpenAI通过官方渠道发布了在理论物理研究中使用模型的案例,使这一趋势表现得最为明显。OpenAI发布文章,介绍一种在格点上非微扰地(不依赖近似展开)定义粒子物理标准模型的候选方案1。文章主要讲述的不是结果,而是GPT-6 Astra如何被用于将想法打磨成具体证明。OpenAI称模型帮助完成了详细证明。继杨-米尔斯证明的说法之后,这是第二个将模型用于基础物理长期难题的案例,因此很难视为一次性尝试。
文章的发布位置也有意义。该文刊登在同日开设的科学专用博客上9。这个博客是刊登用AI开展研究者的新成果、实用方法和经验的渠道。它不只宣传成果,还分享模型的使用方式。可以看出,OpenAI希望让模型成为研究流程中的工具。
工程现场工具链中的同类动向
实验室中出现的趋势也体现在工程现场的工具链中。据报道,由S2C与HyperSilicon合并而成的HyperS2C发布了数字前端EDA(电子设计自动化)工具链和芯片验证用智能体HSCompile、HSDebug10。这些智能体并非以通用助手的形式推出,而是直接以编译和调试这两个特定环节命名。这一点很好地体现了今天的主题。
在机器人领域,模型正下沉到现场硬件。据报道,D-Robotics与Infinigence AI将强化学习框架RLinf等开源机器人工具接入Sunrise芯片和RoboGo平台,并通过APXInf在Sunrise S600上运行Pi0.5模型7。这是不依赖云端、直接在机器人搭载芯片上运行VLA(视觉-语言-动作)模型的案例。
在开发现场,把多个模型嵌入工作流的连接层正在完善。LangChain在Mistral、Groq、xAI、DeepSeek集成包的新版本中加入了将聊天模型调用路由至LangSmith网关的功能4。如今,比起选定某一个模型,在一处统一管理多个模型调用正成为实务课题。此次发布移除了对Python 3.10的支持,使用该版本的团队应在升级前确认运行时。
尚待确认之处
现在就将这一趋势断定为已验证的成果还为时过早。OpenAI的物理证明是公司自己的说明,资料中未提及是否经外部研究者验证。HyperS2C和D-Robotics的发布也仅有单一媒体报道,实际性能和应用规模均未公开。因此,目前更宜将其视为显示方向的信号。
下沉到现场的AI终究运行在算力资源之上,因此供应环境的不确定性依然存在。The Verge报道称,美国国会两党议员对收紧AI芯片出口限制的措施和法案表示支持3。据转述路透社分析的报道,中国以受出口限制的NVIDIA芯片为前提的项目和设备合同规模达230亿元人民币6。管制是否会真正落实为立法尚未确定。不过,以特定硬件为前提制定的计划越多,将模型适配本国芯片和工具链的工作比重也可能越大。
对从业者而言,今天的消息含义很明确:比起模型性能排名,把模型放进自身业务的哪个环节成了更具体的问题。今后需要关注三点。一是外界对OpenAI物理证明的审查,二是芯片验证智能体的实际应用案例。最后,还要关注本周NVIDIA财报发布和国会讨论会给算力供应环境带来怎样的信号。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- AI生成代码开源化 一篇题为“AI生成的代码都应该开源”的文章在Hacker News上获得超过1,000分、560余条评论,GeekNews也有介绍。争论焦点包括:用开源代码训练的模型所生成的代码若不公开,属于许可证洗白;以及非人类编写代码的著作权问题。
- 本地推理引擎速度竞赛 多项内容同时引发关注:llama.cpp在Gemma4模型上追平甚至超越自研引擎的基准测试;声称在RTX 5090上以最高每秒770余token运行Qwen 27B的Basalt 0.4.0;展示两个量化模型在哪个token处出现分歧的inside-llm;以及声称在B300上将cudaMemcpy提速5倍的工具。
- Claude Fable 5.2演示与质疑 一则帖子引起关注:作者用Claude Fable 5.2编写的Transformer和Opus 5.5生成的训练数据,制作了一个可装进软盘、能在1990年代奔腾PC上运行的36.7万参数模型。与此同时,GeekNews上也分享了一篇题为“Claude妄想”的文章,批评业界将编码能力视为超级智能证据的风气。
- GPT-6质量下降体感 r/OpenAI上有帖子称Plus套餐的GPT-6 high在对话末尾产生离谱输出,也有帖子抱怨模型与指示反向操作、浪费时间。社区在讨论这是bug还是暂时性问题。
- AI资金循环与安全运动 一段分析视频被广泛分享,称OpenAI去年收入约130亿美元,承诺的算力支出约1.15万亿美元,其中相当一部分流回NVIDIA。同日,前国家安全顾问苏珊·赖斯参加反超级智能抗议的帖子,以及一名OpenAI举报人表示将在IPO后捐出全部股份的帖子也获得反响。