午后简报 · 16:00
汇聚于OCI的TPU与Vera Rubin
作者 · bombong
AI算力的供给方式正从依赖单一公司芯片的结构,扩展为混合使用多种加速器和资源的结构。一天之内,Oracle云(OCI)同时宣布引入Google TPU和正式推出NVIDIA Vera Rubin,便是证据。与此同时,共享基础设施越复杂,客户之间数据隔离的课题也越大。
同一朵云上并立的加速器
Oracle和Google于10月27日(当地时间)在“Oracle AI World”活动上宣布,将把Google设计的AI芯片TPU(Tensor Processing Unit)引入OCI26。据报道,这是Google首次向自家云以外的超大规模云服务商供应TPU。同一天,NVIDIA和Oracle在OCI上正式推出Vera Rubin NVL72系统和独立式Vera CPU33。云市场竞争对手制造的芯片与GPU主力供应商的新品,同时进驻了同一朵云。
这一组合为双方都拓宽了选择。Google增加了芯片的销路,Oracle则可以将加速器来源分散到多家。结合早间文章提到的算力成本压力来看,供应来源多元化也可视为管理成本的手段。不过,TPU的提供时间、规模和代际尚未公开,实际占比目前还难以判断。
按角色拆分的算力资源
除了芯片种类,按用途分别扩展算力资源的配置也已作为产品推出。将Vera CPU与GPU分开扩容的架构,是针对AI智能体执行代码和检索数据的任务而设计的。两家公司表示,这一架构可以减少昂贵GPU等待任务而闲置的时间。但利用率实际能提升多少尚未公开。两家公司还一并公布了将OCI超级集群扩展至数吉瓦(GW)规模的计划。
在供应链下游的内存领域,需求同样在业绩中得到印证。SK hynix第三季度营收为104.6155万亿韩元,首次突破100万亿韩元。HBM4出货全面展开和服务器用DDR5销量增长推动了增长37。可以概括为:加速器、CPU和内存正各自独立扩展。
以资本绑定的关系与隔离课题
并非所有关系都在走向多元分化。TechCrunch分析称,若Anthropic上市,Amazon将获益最大。其依据是Amazon持有的大额可转换债券转为股票后,实际持股比例将会显现27。像这样最大的云合作伙伴同时也是大股东的情况,需要将算力供给关系与公司治理结构一并考察。
在共享基础设施的运营层面,也有值得关注之处。据称,Cloudflare Workers AI所部署的GLM-5.3在8月27日至9月9日期间,KV缓存(存储先前计算结果以供复用的内存)在请求之间暴露。结果导致155条响应中混入了其他客户的提示词和生成内容34。在多个客户共享同一硬件的环境中,推理服务优化与数据隔离可能会发生冲突。供应商和配置越多样,此类需要检查的环节也会随之增加。
加速器选择增多后,企业可以根据任务性质更精细地选择在哪里运行什么。不过,使用托管推理时,需要通过文档和合同另行确认服务层如何保障隔离。接下来值得关注的有三点:OCI将在何时、以哪一代提供TPU;CPU分离的配置实际能将GPU利用率提高多少;以及Anthropic上市文件中将披露的股东结构。
本文借助 AI 撰写,包含个人观点。
早间简报 · 08:00
AI折扣竞争与不断上涨的GPU成本
作者 · bombong
AI竞争正从单纯的模型性能,转向价格与成本问题。销售端出现了公共市场折扣和收益模式表态;成本端则在GPU租金上涨的背景下,持续出现借助资本和效率提升来分摊成本的动向。
销售价格如何成为竞争手段
Anthropic与美国总务管理局(GSA)签订了新合同。据此,政府客户可以低于定价40%的价格使用Claude for Government、Claude Enterprise和Claude API1。适用对象从联邦机构扩大到州、地方、部落及领地政府。Anthropic表示,这是折扣首次适用于所有产品。不过目前仅限直接采购,经由云服务商的采购预计将在数月内纳入。
这一消息发布于有报道称OpenAI以折扣争夺企业客户之后不久。企业市场中出现的价格竞争已延伸到公共采购。可以说,前沿模型的价格已成为与性能同等重要的竞争手段。
除价格之外,从何处获取收益也正被写入公开文件。AI Times报道称,Anthropic的7位联合创始人在IPO招股说明书所附信函中再次承诺Claude将不带广告运营3。创始人解释说,一旦广告被纳入营收目标,就容易产生过度拉高用户参与度的压力。没有广告,营收就只能更多依赖订阅和API使用费。因此,折扣力度与收益结构是相互交织的问题。
成本压力来自算力市场
在销售价格下降的另一面,算力成本正在上涨。据AI Times报道,a16z基于Ornn指数公布了5款主要GPU的租赁价格,10月份5款价格均高于年初14。H200涨幅最大,约为2.6倍。上市已第6年的A100也在涨价。连旧款设备的租金都没有下降,说明算力供应短缺仍在持续。
在这种环境下,芯片公司与模型开发商正以资本相互绑定。《人工智能新闻》报道称,NVIDIA将向Meta投资30亿美元。两家公司计划共同优化“Muse”模型系列的训练和推理性能以及数据中心效率2。芯片供应商直接投资模型开发商的结构,可被视为在同一关系中同时解决算力获取与成本削减问题的尝试。
一线则以减少现有资源浪费的方式应对。NVIDIA介绍了借助CUDA 13.4在Kubernetes环境中强制执行显存上限、让多个工作负载共享一块GPU的方法10。选择模型时,成本也成为标准。据AWS介绍,Property Finder发现96.8%的评估标签直接沿用了现有模型的输出。该公司重新构建真值数据后在Bedrock上重新选择模型,并称成本降低了86%13。这一案例表明,纠正评估集是成本判断的起点。
尚未得到确认的账本
认为价格与成本已成为竞争核心的判断仍存在空白。NVIDIA对Meta的投资仅见于韩国媒体报道,投资结构和条件尚未经官方资料证实。Anthropic的折扣在扩展到经云采购之前,适用范围也有限。成本节约数字是相关企业自行公布的,在其他条件下能否取得相同结果,需要另行审视。
关于算力成本负担在何处累积,也出现了警告。韩国银行调查局认为,大型领先企业财务状况良好,产生金融风险的可能性不大,但在长期利率上升阶段脆弱性正在累积17。GPU租金上涨将对新型云(专营GPU租赁的云服务商)的盈利能力产生何种影响,目前下结论还为时过早。
引入模型的企业如今需要在看性能表的同时,一并考量折扣条件、供应商的收益模式以及算力成本的走势。接下来需要确认三件事:NVIDIA和Meta是否会正式确认投资并公布条件,Anthropic的折扣何时扩展到经云采购,以及GPU租金是否会继续上涨。
本文借助 AI 撰写,包含个人观点。
社区热议 5
Reddit、Hacker News、GeekNews 等社区广泛讨论的话题。这些是社区反应,可能包含未经核实的说法。
- LFM3本地运行 Liquid AI发布LFM3后,r/LocalLLaMA上接连出现关于1.7B文本模型、Omni-2B GGUF、Audio-2B以及浏览器WebGPU实时视频字幕演示的帖子。4位量化下约1GB、可在手机上运行,以及发布当天即获llama.cpp支持,受到好评。
- Anthropic S-1数字 用户亲自阅读S-1,分享了营收从2025年的46亿美元增至2026年上半年的163亿美元,以及年付超10万美元客户数增长等信息。也有解读认为,807亿美元净亏损大部分源于金融工具价值变动,营业亏损为6.93亿美元。
- Claude训练数据与版权 Stanford Daily报道称Anthropic非法获取十余位斯坦福教授的书籍用于训练Claude,在Hacker News(403分)和GeekNews上引发争论。同时被分享的还有询问商业产品数据是否用于训练的帖子。
- AI数学成果验证 围绕OpenAI反驳ETH等成果,社区流传一则帖子,称Claude Opus 5.5评价这“可能是数学与理论计算机科学史上最重大的一天”。另有说法称,MIT、哈佛和牛津的博士后研究人员以约500美元预算,在杨-米尔斯问题上独立取得了部分结果。
- AI车牌识别盘查 ACLU警告称,美国警方利用自动车牌识别器(ALPR)和AI分析出行模式,甚至拦停没有具体犯罪嫌疑的驾驶员。该文章在Hacker News(321分)和GeekNews上引发热议。