早间简报 · 08:00
重新定价的AI身价与GPU
AI行业对资本和算力的定价正在重新调整，以更少资源完成更多工作的效率也因此变得更加重要。同一天，既有Anthropic IPO预期估值下调的报道，也有Microsoft清理基于旧款GPU的租赁容量的报道。与此同时，研究和开源领域接连出现用有限硬件运行大模型的技术。
资本与硬件价签的调整
最直接的信号来自资本市场。据援引Bloomberg报道的AI Times，正在考虑参与Anthropic IPO的投资者将其估值定在1.2万亿–1.3万亿美元，部分投资者下调至1.1万亿美元1。这比此前一度提及的最高2万亿美元低约45%。近期AI相关股票大跌被认为是背景原因，但最终发行价尚未确定，下周路演将照常举行。
硬件方面也有类似的重新评估报道。据Bloomberg援引多位知情人士的消息，Microsoft在数月内逐步缩减了向Oracle租用的计算资源，并决定不再续签现有合同2。这些容量是2023年基础设施不足时租用的，但据称旧款NVIDIA GPU已不符合当前所需规格。报道发出后，Oracle股价盘中一度下跌约3%。
两则消息领域不同，但方向一致：几年前在争抢资源中形成的价值，正在以当下的实际用途为标准重新计算。尤其是，GPU容量作为一种资产，在代际更替时价值可能迅速缩水，这一点已显露出来。
以效率延长硬件用途的方式
在数据中心里旧款GPU被重新定价的同时，软件层面也在持续尝试从既有硬件中榨取更多性能。Tencent研究团队发布了用于投机解码（由小型Drafter先提出多个token、大模型一次性验证以加速推理的技术）的Drafter“DSpine”论文4。该研究针对并行生成的候选token之间不一致、导致接受长度变短的问题，提出了在更早的层将前一个token的信息注入后续token的Adjacent Causal Injection。
本地运行方面也呈现同样趋势。llama.cpp仓库提交的PR #30966“llama_moe_cache”让未加载到显存中的MoE Expert在CPU上计算，并新增了调优脚本6。Reddit发帖者介绍称，在显存较少的环境中卸载速度大幅提升，但尚未确认是否已合并。中国OpenCSG也发布了面向工具选择和失败恢复的“Agentic-27B”，并同时公布了在单张A800 GPU上运行的测试结果5。不过，商业使用需另行授权。
这三个案例都聚焦于不扩大规模、在相同计算量下获得更多成果。在硬件价格被重新评估的阶段，这类技术成为延长现有资源寿命的手段。
规模扩张这一另一种选择
效率变得更加重要，并不意味着规模扩张战略在退场。John Langford在博客中表示，约50人规模的Microsoft Research AI Frontiers团队在被并入Microsoft AI后解散3。他解释称，Microsoft AI专注于数据的获取、生成与改进，难以与该团队的研究方向同行，并主张通过研究实现的效率提升可以独立于规模扩张创造巨大价值。这只是当事人一方的说法，资料中未包含公司方面的立场。
这一案例表明，在大型组织内部，规模与效率是争夺资源的两种不同选项。前文的依据也尚不牢固：估值是转述投资者估算的报道，发行价尚未确定；效率技术也仍处于论文和未合并PR阶段，在实际服务环境中的效果尚未得到验证。
企业和从业者现在签订基础设施合同时，需要同时考虑GPU代际和更换周期，并评估适合自身资源的推理效率技术。引入开源模型时，也应提前确认商业使用条件。接下来值得关注的是：下周Anthropic路演将确定的发行价和需求，以及llama.cpp PR是否合并、DSpine等技术是否会被服务框架采纳。