AI 数据中心

AI 数据中心是集中部署大量用于 AI 训练和推理的 GPU 等加速器，并配备相应电力、冷却和网络的设施。

关于这个术语

通俗解释 如果说普通数据中心像办公楼，那么 AI 数据中心更像耗电量和发热量都极大的钢铁厂。比起把机器搬进来，引入电力和排出热量更难。

有何不同

AI 服务器单台的耗电量和发热量远大于普通服务器。因此，单个机架（堆放服务器的架子）的功率密度很高，仅靠空气难以冷却，引入液冷的情况越来越多。为了让大量 GPU 像一个整体一样协同工作，还要密集部署高速互连网络。其规模往往不以服务器数量，而是以“MW（兆瓦）级”这样的电力容量来表述。

AI 数据中心的构成

服务
模型训练
推理服务
计算
GPU 服务器
存储
网络
NVLink
InfiniBand·以太网
设施
电力供应
液冷·风冷
高密度机架

安全·运维管理

底层的电力和冷却必须跟上，上层的 GPU 才能发挥应有的性能。

训练大模型并向大量用户提供服务需要巨大的算力资源，而这些资源的所在地正是 AI 数据中心。各国和企业在争取 GPU 的同时，也在大规模投资建设数据中心。在主权 AI 的讨论中，将算力基础设施部署在本国境内也是核心议题。它还与电网、地区开发和存储芯片需求相关联，因此经常出现在产业新闻中。

最大的制约是电力保障。即使有场地，如果电网接入和输电审批延误，投产也会推迟。冷却用水和碳排放也是当地社区和监管机构关注的问题。由于建设周期长、投资规模大，公布的计划与实际投产时间和规模可能不同，因此阅读时需要区分“一期”“开工”“投产”等阶段性表述。

本站的资讯中有一则报道称，KT Cloud 作为设计、建设和运营合作伙伴参与仁川青罗“50MW 级”AI 数据中心项目。阅读此类报道时，注意规模是以电力容量而非 GPU 数量来表示，同时留意参与的是建设、运营等哪个阶段，就更容易判断项目的实际情况。