早间简报 · 08:00
模型变小,验证变重
随着 AI 能力通过更小的模型和更多渠道扩散,价值重心正从能力本身转向验证结果、管控流向的机制。同一天,一款能在笔记本电脑上运行的智能体编程模型发布,前沿企业则把能力经由模型输出外流的问题当作安全课题处理。在数学和药物研发领域,如何确认 AI 给出的结果已成为现实争议点。
能力变小,扩散更广
Thinking Machines Lab 发布的开放权重模型 Inkling 2 Mini 展示了能力扩散的速度1。其总参数约 26B,但每个 token 仅激活 5.4B。它还采用每个 token 重复执行中间层的循环结构,在同等规模下增加了计算量。约 20GB 内存即可在 Mac 等本地环境运行,Ollama 发布说明给出的 SWE-Bench Verified(真实软件问题解决评测)得分为 79.2%。这种设计不靠扩大参数、而靠重复计算来提升质量,相当于为智能体编程能力下沉到个人设备又开辟了一条路径。
据 Pandaily 报道,Tencent 也公开了 Hy4 旗舰模型的 Instruct、FP8、Base 权重和系统卡7。不过,由于采用的是附条件许可而非 Apache 2.0,即便权重已公开,可使用的范围仍需另行确认。
能力并不只通过公开权重扩散。OpenAI 公开了应对对抗性蒸馏(知识蒸馏)的方法,即收集其模型输出以窃取能力的行为2。该方法叠加了训练阶段措施、安全防护、检测和使用政策执行。OpenAI 表示,这一分层方法能有效阻止能力提取。有意的公开与无意的外泄在同一天被讨论,说明管理能力的流向已与构建能力本身同样成为课题。
结果的价值由验证决定
能力越普及,剩下的问题就越是结果是否可信。这个问题在数学领域表现得最为鲜明。Anthropic 数学家 Levent Alpöge 声称借助 Claude 证明了黎曼猜想;同一天,Ravi Vakil 宣布提前公开 Alessandro Masullo 的广义黎曼猜想(GRH)证明初稿3。Vakil 表示,这份 940 页的手稿“全部由人完成,没有 AI”,并称 Brian Conrad 已审查数月。Alpöge 则声称与 Claude 一起在不附加额外假设的情况下将论证形式化。两项证明均未经过正式验证。围绕同一难题,AI 协作证明和人类证明同时出现,由谁、通过何种程序来确认,变得与结果本身同样重要。
科学研究和企业实务中也能看到同样的方向。OpenAI 的 MedChemBench 旨在衡量早期药物研发中的实际判断,如分子结构解读、基于实验证据的推理和化合物选择4。AWS 正式发布的 Textract Insights 能从文档中提取用自然语言指定的字段,并为每个值附上置信度分数和作为依据的页面6。Standard Bank Group 使用 Amazon Bedrock 的 LLM-as-a-judge(让模型担任评估者的方式),按照国际标准和内部政策对生成式 AI 用例进行评分14。这样得出的评估会作为可追溯的依据提交给风险委员会。
三个案例领域不同,设计方向却一致:模型不只给出答案,还同时展示答案从何而来、通过了哪些标准。可以说,在受监管行业和研究一线,阻碍 AI 落地的因素正从性能转向可验证性。
管控机制仍有空白
不过,验证和管控是否真正跟上了能力扩散,目前尚不明朗。据 Ars Technica 报道,一名研究者向 AI 供应链投放了约 200 万个含可追踪秘密的提示词,并确认了用户数据未能保持私密的案例8。数据从哪些服务或路径泄露、比例多少,资料中无法确认。即便如此,在经由 API 中转或封装服务等多个环节使用 AI 的结构下,输入的数据可能脱离企业管控范围,这一点足以成为重新检查供应商的理由。
今天出现的许多说法也有待验证。Inkling 2 Mini 的 SWE-Bench 得分是发布说明中的数字,多轮对话和带复杂约束的指令执行被认为是相对弱项。OpenAI 的应对方法中没有具体的检测技术或执行案例数据。MedChemBench 的各模型得分和公开范围也尚不清楚。重视验证的趋势本身仍依赖尚未验证的说法,这是本文论点的局限。
对从业者而言,选择模型时不应只看性能表,还应把依据呈现方式、数据经过的路径和许可条件纳入标准。接下来需要确认三件事:Inkling 2 Mini 的许可和独立评测结果;OpenAI 所说的政策执行是否会落实为封禁账号或修改条款等具体措施;以及两项证明的 Lean 形式化材料和专家审查结果。