午后简报 · 16:00
用权重、证明和证据检验AI
作者 · bombong
围绕AI的各种说法,如今不再只靠当事方的解释,而是要接受任何人都能核查的公开资料的检验。今天下午有三条消息同时出现:一项仅凭公开权重推断训练硬件的分析,一个用形式化证明核验研究成果的基准,以及一起以企业自身发出的风险警告为依据的诉讼。
公开产出物成为证据的过程
早间文章讨论了以成果和成本衡量智能体的趋势。下午的消息与其说关乎衡量什么,不如说关乎由谁、用什么资料来核查。GeekNews介绍的一项分析称,在DeepSeek、Moonshot AI、MiniMax、Ant Group公开的6个模型的权重中,发现了与NVIDIA Blackwell相吻合的初始化模式28。分析方解释说,若同时还原伪随机种子和GPU并行配置,Hopper和Blackwell会留下不同的数值排列。分析方还表示,将同一方法应用于24个已公开训练硬件的模型,结果与公开信息一致。
这项分析的关键在于,它没有依靠内部爆料,只使用了公开的权重。本周中国企业的芯片获取渠道持续成为争议焦点,在此背景下,这意味着公开模型本身就可能成为暴露训练环境的线索。
研究成果方面也在发生类似的事情。由姚期智和杨植麟共同署名的“TCSExam”,用Lean 4形式化证明和程序检查器来核验AI在理论计算机科学领域得出的结果30。据报道,Kimi K3在此过程中于124个顶点的图中找到630条边,创下纪录。这是一个不靠口头宣称、而是以机器可检查的形式展示模型研究能力的案例。
企业的公开发言也成为证据
如果说上一节讨论的是技术产出物,那么在法庭上,企业说过的话也扮演着同样的角色。据Reuters、AP报道,美国4家非营利组织于12日向旧金山法院提起诉讼32。被告为OpenAI、Anthropic、Google、SpaceX、Meta,原告请求法院禁止它们继续开发或部署前沿AI模型。
原告方主张,AI企业高管曾亲自警告先进AI可能对人类构成严重威胁,因此在安全得到保障之前应当停止。无论法院是否接受这一诉求,企业公开做出的风险判断被对方用作依据,这一点对整个行业都有启示。今后,与安全相关的发言和披露很可能不再被视为宣传话术,而是被当作留档的记录。
证据的分量仍然有限
不过,今天出现的这些证据还不是确定的事实。硬件分析仅以社区摘要的形式流传,分析者身份和原始出处均未得到确认。分析方自己也附加了说明:仅凭这一结果不能认定整个训练过程都是在Blackwell上完成的。相关企业也尚未作出回应。因此,更恰当的看法是,这项分析与其说证明了特定企业使用了某种芯片,不如说展示了用公开权重推断训练硬件的方法可能存在。
TCSExam的纪录同样仍处于报道阶段,诉讼也才刚刚立案。可用于核查的工具和资料在增加,但其结果要获得独立复现并被制度所接纳,还需要更多时间。
公开模型、发布研究成果和风险,如今也意味着拿出供外界检验的资料。因此,企业和从业者有必要提前考虑权重、技术文档和公开发言可能引发哪些质疑。接下来值得关注的是:硬件分析的原文和复现结果是否会出现,此类方法是否会被用于Chip Security Act等芯片位置追踪立法的讨论,以及诉讼的首次庭审将如何进行。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
早间简报 · 08:00
AI智能体开始计算单任务成本
作者 · bombong
评估AI智能体的问题正在改变。如今人们关心的不再是模型有多聪明,而是它能否真正把工作做完、完成这项工作要花多少钱。Google在编码工具中加入了在任务过程中切换大小模型的功能。用真实自由职业工作衡量智能体的指标在一年内大幅上升;云服务方面也出现了建议按单个任务的成本而非token单价进行计算的指南。
模型选择如何变成成本设计
Google的默认“快速模型”换了。Gemini 4 Hydrogen取代Gemini 3.8 Flash,并直接上线搜索AI Mode和Gemini应用1。据社区总结,100万token上下文全区间采用同一价格:每100万token输入1.5美元、输出7.5美元。Google称,该模型能更好地处理包含多个部分的问题和错别字较多的问题。
与本文论点更直接相关的,是编码工具Google Antigravity中加入的“Orchestrator”。该功能根据任务所需的复杂度在Carbon与Hydrogen之间切换。据社区总结转述的Google评估,Orchestrator保持了接近Carbon的成功率,同时平均配额消耗降低24%,完成速度提高19%。过去由用户亲自选择的模型,如今由系统按任务单元代为选择。因此,比较标准也从单个模型的分数,转向以多少资源达成同样的成功率。
小模型与大模型之间差距的缩小,也让这种设计成为可能。据社区总结,Hydrogen在Artificial Analysis Intelligence Index中获得51分,超过Argon(50分)。不过,这些数字转述的是Google的自有评估,并非外部复现的结果。
评测表与运营账本提出的同一个问题
在模型选择方面提出的问题,在评测和企业运营中同样存在。美国AI安全中心(CAIS)与Scale AI公布了以真实自由职业项目衡量智能体的Remote Labor Index(RLI)的最新结果。据报道,AI以与人类专家相当或更好的水平完成的项目占41.3%。该指标去年首次发布时的最高值为2.5%3。该指标考察的不是能否答对知识题,而是能否从头到尾完成能创造收入的工作,这一点与前述趋势相呼应。
在企业运营方面,这个问题体现为成本账本。AWS发布了4篇Amazon Bedrock成本管理指南18。指南讨论了缓存保留时间、服务层级、推理强度和maxTokens设置如何改变成本,也介绍了按IAM主体设置支出上限的方法。尤其是,指南建议以单任务实际成本而非token单价来证明智能体的ROI。Hydrogen的4档推理强度与AWS指南中的推理强度设置指向同一方向:在性能与成本之间权衡的旋钮正在交到用户手中。
落地案例也用同样的语言讲述成效。Natera在Amazon Bedrock AgentCore之上构建了承载检测实验室运营知识的智能体系统SWARM。该公司称,支持工单的首次响应速度提高约130倍,96.2%的工单实现自动处理20。消费市场也出现了为任务定价的现象。Meta为智能体Muse新增了代用户致电美国商家的功能,该功能需付费使用8。
完成率背后的验证空白
完成率这一数字越高,它在何种条件下得出就越重要。RLI的41.3%出自何种模型和条件,报道中并未说明。Orchestrator的效率数据目前也仍停留在公司自有评估层面。
把事情做完与把事情做好是两回事。同一天就出现了说明这一点的案例。知识产权保护公司Podqi向ChatGPT、Gemini、Perplexity提出购物问题,据The Verge报道,结果出现了将用户引导至仿冒网站等危险网店的情况14。一名Google研究员声称利用AI智能体团队发现了地图上未标注的玛雅遗址候选地,但据The Verge报道,该遗址去年已在学术期刊上报道过21。这两个案例表明,核查结果是一项需要单独投入的工作。既然如此,在计算单任务成本时,也应把验证成本计算在内。
从业者如今很难再凭单一基准分数选择模型,而需要把各任务的成功率、单任务成本以及验证结果所需的投入放在同一本账上权衡。眼下有三件事需要确认。首先,要看CAIS和Scale AI是否以原文形式公开RLI 41.3%所对应的评估模型和条件。其次,要确认Orchestrator的配额节省数据能否在外部使用环境中复现。最后,据报道ByteDance将在数周内推出的Muse类智能体如何定价,也值得关注。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- Gemini 4 Hydrogen HN上的官方文章获得420分、280条评论;Reddit和GeekNews上围绕1.5/7.5美元的定价、Artificial Analysis得分以及Antigravity Orchestrator的模型自动切换持续讨论。
- 黄仁勋辞职梗 第三段关系报道出现后,Reddit上涌现大量讽刺帖和董事会梗图,还有人提出带有阴谋论色彩的说法,称问题在于黄仁勋对本地AI持友好态度。
- Claude过度拒绝 有用户发帖抱怨,Claude连引用用户自己提供的作品或回答基础生物学问题都会拒绝。社区有人表示这是以前版本没有的行为。
- 应对ML会议投稿激增 有人批评CVPR作者注册表等行政负担困扰跨学科合作者,同时也有人提议将三大会议录用论文限制为1000篇,两者一并引发讨论。
- 低配硬件本地LLM 在1GB RAM级电视盒子和2013年款iPad上运行LLM的“smolmaxxing”项目,以及通过电压毛刺(voltage glitching)将矿卡CMP170hx解锁至A100级的破解受到关注。