AI 术语表 · 入门 · 效率与基础设施
GPU
GPU（图形处理器）最初是为绘制屏幕画面而设计的芯片，擅长同时处理成千上万个简单计算。凭借这一特性，它如今已成为训练和运行 AI 模型的核心设备。
通俗解释 如果说 CPU 像少数几位什么题都能轻松解答的数学教授，那么 GPU 就像一间教室，里面有几千名只会做加法和乘法的学生，同时分头做一份试卷。单看每道题会慢一些，但遇到大量类似计算堆积如山的任务时，这间教室要快得多。
工作原理
为了同时计算屏幕上无数个点（像素）的颜色，GPU 内置了大量小型计算单元。AI 模型的计算大多也是反复将巨大的数字表格（矩阵）相乘这类相似的工作，因此与 GPU 的结构非常契合。为了快速传递模型参数和中间计算结果，会在芯片旁边配置 HBM 等高速内存。大型模型单靠一块 GPU 无法承载，因此需要用高速网络将数千至数万块 GPU 连接起来共同使用。
为什么重要
LLM 等大型模型在训练时需要海量计算，提供服务时（推理）也持续需要计算。因此，能获得多少 GPU 直接关系到 AI 公司的竞争力。这也是 GPU 供应短缺导致价格上涨、企业和国家公布大规模 GPU 采购计划等事情会成为新闻的原因。数据中心的电力问题归根结底也与 GPU 的耗电有关。
注意事项
AI 计算并非只用 GPU。专为特定 AI 运算设计的 NPU 以及各公司的专用芯片也在增多。此外，软件生态与硬件同样重要，开发工具和库更完善的公司的 GPU 往往使用得更广泛。即使是同一个模型，也可以通过量化等技术减少所需的 GPU 资源。
示例
本站经常出现与 GPU 相关的基础设施新闻。在“AMD CEO 苏姿丰访韩”的新闻中，提到 AMD 将推进把 AMD 的 CPU、GPU 与韩国国产 NPU 整合在一起的异构基础设施，体现了 GPU 与其他 AI 芯片协同使用的趋势。另外，就像 NVIDIA 发布 GPU Kubernetes 集群配置验证工具“AICR v1.0”的新闻所示，将大量 GPU 连接起来并有效运维的软件也正成为重要话题。
本站出现过的地方
- 简报 SpaceX 拟筹资最多 400 亿美元，以获取 121 万块 NVIDIA GPU（报道） 2026-10-08
- 简报 NVIDIA 发布 GPU Kubernetes 集群配置验证工具“AICR v1.0” 2026-10-07
- 简报 AMD CEO 苏姿丰访韩……将在韩国设立“AI CoE”并招聘研究人员，推进整合 AMD CPU、GPU 与韩国国产 NPU 的异构基础设施（报道） 2026-10-07