午后简报 · 16:00
AI提速,验证时钟随之拨快
作者 · bombong
随着AI加快工作速度,能多快确认结果并作出应对,正在重新定义安全和研究两个领域的工作方式。Google Project Zero以LLM加快攻击速度为由,决定分阶段缩短漏洞公开期限。Google则介绍了通过多个智能体相互验证结果而取得的研究成果。
攻击变快,防御的时钟也被拨快
Google Project Zero推出了“Full X”政策:报告后过了规定日期,无论补丁是否已发布都将公开漏洞12。此前的做法是给予最长90天的修复期,并为补丁部署再等待30天。新政策将取代这一结构。首个期限为“Full 90”,2027年2月2日缩短至60天,2028年1月3日缩短至30天。宽限期等例外规定也将大部分取消。
Project Zero方面解释说,LLM正在加快漏洞发现、利用和补丁逆向分析的速度,因此推迟公开对用户的保护效果已不如从前。他们还强调,需要缩短补丁发布后用户实际安装所需的时间。攻击一方变快,防御一方可用于应对的时间也随之缩短。
这一变化将直接影响实际工作。软件供应商和企业安全团队必须以更短的周期完成补丁开发和部署。由于是一支影响力很大的研究团队亲自改变了行业惯例期限,其他机构的公开政策也可能展开同样的讨论。
在研究中把验证纳入结构
如果说在安全领域AI压缩了验证时间,那么在研究领域则出现了把验证流程纳入智能体结构的尝试。据GeekNews摘要,Google与学术界研究人员介绍了借助Gemini 4和Antigravity的多智能体功能“/teamwork”在数学、分子结构、软件重写和基础设施优化领域取得的成果11。其方式是多个智能体同时寻找答案,再相互独立地核查得出的结果。
这一案例的突出之处在于设置了多层验证机制。每个智能体各自保有独立的上下文,以减少持续数天的任务中丢失前文内容的问题。在数学方面,他们称已一般性地证明了Courtade–Kumar猜想,并用Lean 4(一种由机器检查证明的语言)完成了形式化。在分子结构预测方面,以实验数据和运行结果作为评估标准。问题设定、定理含义确认和结果审查由人类研究人员负责。可以认为,这一设计体现了这样的思路:要发挥AI快速多次尝试的能力,就必须以机器和人都能核查的形式留存结果。
面对真实实验仍有差距
不过,具备验证机制并不能保证AI的判断与现实世界相符。据Pandaily报道,UniPat AI发布了基准测试SPU10。该测试基于4,207项实际开展过的湿实验,让AI智能体预测实验结果的排序。在测试的13种配置中,表现最好的配置平均得分也仅为0.486(满分1分)。
这一结果显示了两类领域之间的差异:一类是像形式化证明那样可以由机器核查答案的领域,另一类是必须亲自做实验才能得出答案的领域。AI在后者上仍然薄弱。Antigravity的案例目前也仅通过社区摘要传出,Courtade–Kumar猜想的证明仍需经过学术界确认。速度越快、验证越重要的趋势是明确的,但要说验证已经跟上了这一速度,还为时尚早。
安全团队和研究机构共同面临的课题,是率先建立能够承受AI所提升速度的验证与部署体系。接下来值得关注的有两点:一是其他安全研究团队和软件供应商如何应对Project Zero缩短后的时间表;二是Courtade–Kumar猜想的证明和Lean 4形式化能否通过学术界审查。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
早间简报 · 08:00
AI捆绑:无法拆分的结合
作者 · bombong
AI正从一项可单独选择的功能,变得更像使用基础产品的前提条件。Tesla开始向个人销售无方向盘的汽车,并捆绑自动驾驶订阅1。学校则碰上了Google无法从搜索中单独剥离AI摘要的政策2。Microsoft 365故障表明,在这种捆绑结构中一旦出问题,影响也会一并扩散3。
成为产品使用条件的AI
AI成为产品条件的方式,在Tesla的Cybercab个人销售中体现得最为明显。这款2024年首次亮相的双座电动车既没有方向盘,也没有油门和刹车踏板,此前只用于Robotaxi服务。据报道,车价为29,990美元,要运行车辆还需另外订阅每月299美元的自动驾驶服务。由于没有供人驾驶的装置,订阅不是选配,而是让车辆动起来的前提。这种压低车价、靠软件订阅获利的结构,可视为检验自动驾驶商业模式的案例。
同样的捆绑也出现在搜索中。根据GeekNews上分享的内容,学校无法在学生搜索中单独停用AI Overviews,若要去掉它,就必须屏蔽Google Search本身。在越来越多学区禁止课上使用AI的情况下,就连主张减少技术使用的家长也认为,如果连搜索都被屏蔽,教师会陷入困难。如果说Tesla是把捆绑当作商业模式来选择,那么学校则面临着要么全盘接受捆绑产品、要么整体放弃的选择。
捆绑也扩大了故障范围
产品与AI捆绑后,不仅使用条件,故障的影响也会捆绑在一起。Microsoft在官方X账号上宣布已解决根本原因并完成恢复,并致歉;恢复过程中积压的邮件处理仍在持续检查。此次故障导致Copilot和外部AI业务集成也陷入停摆,但Microsoft表示这并非与网络攻击或AI智能体相关的事故,而是技术问题。其解释称,过去扩容网络时遗留的缺陷,因近期的网络变更而暴露出来。
初步调查显示,部分服务器突然中断后,负载集中到剩余服务器,Microsoft随即重启相关服务器并分散了流量路径。缺陷最初出现的时间和变更内容均未公开。在韩国,科学技术信息通信部与Microsoft Korea组建了应急应对小组,并要求主要平台企业进行自查。
这一案例的启示与其说在AI功能本身,不如说在其底层基础。AI越是叠加在办公工具之上,网络变更管理这类传统运维课题就越会左右AI服务的可用性。如果说上一节的捆绑缩小了用户的选择余地,那么这种捆绑则扩大了单点问题的波及范围。
尚需暂缓判断之处
不过,现在就断定捆绑趋势已经固化还为时过早。有解读认为Google的政策与近期反垄断诉讼中“搜索与AI是一个整合产品”的认定有关,但这只是一位前Google员工的推测。Google方面尚未对此作出回应,专家之间也仍将这一解读视为未经证实的推测。若解读成立,可能影响其他服务设计关闭AI功能的方式,但目前仍停留在假说阶段。Cybercab也仅限Tesla挑选的部分客户购买,预计12月交付,因此市场对订阅模式的实际需求尚未显现。
在基础设施方面,反而也能看到试图摆脱现有捆绑的尝试。初创公司Drogue将海洋温差能发电(OTEC,利用海洋表层与深海水温差发电的方式)与海水冷却相结合,开发无需陆上电网即可运行AI推理的海上数据中心,并融资2,000万美元6。公司称,这样无需等待接入电网,也不必依赖现有燃料供应。不过,其原型船的运行目标定在2028年初,仍处于早期阶段,能否成为真正的替代方案还有待观察。
今天的消息给从业者留下两个问题:所引入的AI能否在需要时剥离;以及底层基础一旦停摆,还有什么会随之停摆。在引入阶段,有必要把AI功能可关闭的范围和故障可能波及的范围作为合同条件加以确认。下周的Anthropic上市日程和NVIDIA季度财报,被视为衡量这类捆绑所吸引的AI投资需求规模的契机。
本文由 AI 起草,发布前已与所引用的公开资料核对链接和数字,发布后由运营者再次审阅。文中包含作者的解读。 写作与审核方式 · 更正记录
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- GPT-6.1 Sol评价两极 有帖子称,在一位前外交官设计的多边谈判评测中,11个模型里只有GPT-6.1 Sol在全部40次测试中均通过。另一方面,也有人抱怨最近一两周Sol频犯低级错误,还有人询问是否该为节省用量从Astra换成Sol。
- Fable 5.2打造97KB水下世界 有人在Claude Code中向Fable 5.2输入一条提示词,在不使用图片、3D模型和库的情况下,仅用一个HTML文件(97KB)就做出了可以自由游动的WebGPU水下世界,该项目被分享到多个subreddit。提示词和代码以MIT许可证公开。
- 本地AI与日益变大的开源模型 r/LocalLLaMA上接连出现“本地AI而非云端才是未来”的帖子、8x3090设备晒图,以及美国应在国家层面训练开源模型的主张。也有人担心,开源模型规模已增大到300B至500B级别,128GB级设备难以承载。
- ICLR 2027 Rebuttal 有人分享了从OpenReview抓取的ICLR 2027初审分数并按大学排名的资料。Rebuttal期间,接连有人询问修改版PDF的修改标记(diff)不显示、能否用不同颜色标出修改部分,以及Anonymous GitHub链接无法使用等问题。
- 黄仁勋卸任反应 多个subreddit出现将黄仁勋三周前称“拯救了世界”的视频与其辞职进行对比的帖子。也有帖子反驳称NYT的报道存在偏颇。