微软机房里 大量NVIDIA GPU在吃灰：原因哭笑不得

在最新的播客节目bg2中，微软ceo纳德拉首次公开承认公司正陷入一个前所未有的困境：尽管手握大量gpu，却因电力不足和空间短缺，只能让这些昂贵的芯片闲置在仓库里。

但真正的瓶颈并不在于算力是否过剩——

真正的问题不在芯片供应，而在于供电能力，以及我们能否迅速建成靠近能源源的数据中心。如果做不到这一点，再多的芯片也只能堆在角落吃灰。

微软面临“有芯无电”的尴尬局面

目前，在微软内部，大量NVIDIA AI芯片处于停摆状态。

并非因为算力已经饱和，而是现有的基础设施根本无法支撑它们运行。

首要原因是电力短缺。

其次是缺乏即刻可用的数据中心——也就是纳德拉所说的“warm shells”，即已建成、具备充足供电与冷却系统的空机房。

这并非他第一次对外表达这一困扰。

去年，当被问及2024年微软是否仍受限于NVIDIA芯片供货时，纳德拉的回答直击要害：

我们受限的是电力，而不是芯片供应。

如今，这个问题已不再是微软独有，而是演变为整个大模型行业的共同挑战。

奥特曼在同一场讨论中也指出，行业面临的最大难题早已超出算力本身，核心在于能源供给与基础设施建设的匹配滞后。

而他对能源问题的关注，远比大多数科技企业更早。

过去两年间，他陆续投资了裂变能源公司Oklo、聚变能源公司Helion，以及太阳能初创企业Exowatt。

然而，这些前沿能源技术距离大规模商用仍有很长一段路要走。短期内，数据中心仍需依赖燃气与可再生能源混合供电来维持运转。

除了缺电，囤积芯片也不再是稳妥策略

近五年来，美国整体电力需求曲线陡然上扬。

随着AI与云计算推动数据中心建设进入爆发期，用电增速远超预期，远远甩开了公用事业公司的发电规划节奏。

供给侧明显跟不上。

传统电厂从立项到并网往往需要数年时间，而AI产业的发展节奏却是按季度推进。为了追赶算力扩张的步伐，越来越多的数据中心开发商开始自建发电设施。

因此，“计量表后”（behind-the-meter）供电模式逐渐流行——将电力直接接入数据中心，绕开公共电网，以此填补能源缺口。

即便如此，数据中心、电力系统与冷却架构的建设速度依然难以匹配现实需求。

光伏太阳能被视为当前部署最快、灵活性最高的能源形式，但从选址、施工到并网仍需数月甚至一年时间。

而AI需求的变化可能仅仅源于一次模型升级或产品发布。

举个例子：当算力需求每季度刷新纪录时，能源项目还在层层审批流程中缓慢前行（摊手无奈.jpg）。

一些业内人士担忧，若未来AI增长放缓，当前为支撑算力而大规模兴建的电厂和储能系统或将面临利用率低下的风险。

但奥特曼持不同看法。

微软爱写作

微软出品的免费英文写作/辅助/批改/评分工具

17

查看详情

他认为，AI的能耗需求不会回落，只会持续攀升。

更高效、更便宜的算力，反而会催生更多应用场景，从而推高总用电量。

从这个角度看，奥特曼俨然是“杰文斯悖论”的坚定支持者。

该理论认为：资源利用效率的提升，反而会导致其总体消耗增加。

如果明天算力成本下降100倍，使用量可能会激增超过100倍。计算越廉价，整体需求就越旺盛。

为此，奥特曼呼吁美国政府每年新增100吉瓦发电能力，并强调这应被视为“国家AI战略资产”。

与此同时，算力企业也在调整战略方向。

纳德拉明确表示，微软今后将不再集中囤积某一代GPU。

原因很现实——

一块高端NVIDIA芯片，若短期内无法通电运行，两三年后又被新一代架构淘汰，那它还没完成折旧就已经贬值。

根据微软的经验，数据中心设备的折旧周期通常为六年。盲目囤货不仅占用巨额现金流，还会造成严重资源浪费。

网友建议：不如研发更低功耗的芯片？

自上世纪90年代末以来，美国年发电量一直维持在约4万亿千瓦时左右。

但世界变化太快了：

人口增长20%，部分电网老化严重，城市生活和科技创新不断推高用电需求。

正如前文所述，GPU可以按季度迭代升级，而电力系统、冷却网络和输配电设施的建设周期却是以年计。

AI算力能否持续扩展，关键已不在于芯片产能，而在于能源与基础设施能否同步跟上。

这也促使业界重新审视上游芯片厂商的角色。

过去，NVIDIA等公司追求的是峰值性能：算力越强越好，速度越快越优。

但当制约因素从“芯片不够”转向“电力不足”时，评判标准是否也该改变？

在Reddit的相关讨论中，有网友提出建议：

如果你受限于电力而非芯片数量，那你最需要的其实是能效最高的芯片。假如你正因能耗限制而被迫闲置设备，这时候NVIDIA推出一款性能提升1.2倍但功耗降低25%的新芯片，那简直太诱人了。

One More Thing

周一，微软宣布已获得批准，将向阿联酋运送NVIDIA芯片，用于建设训练AI模型所需的数据中心。

公司还透露，未来四年将在海湾地区投资80亿美元，用于数据中心、云计算及人工智能项目。

中东资金雄厚，能源充沛，外媒分析认为，这笔交易标志着AI基础设施正逐步从硅谷向能源富集的新兴市场转移。

或许到了那里，微软采购的那些NVIDIA GPU，终于可以不再积灰，真正投入运转……

以上就是微软机房里 大量NVIDIA GPU在吃灰：原因哭笑不得的详细内容，更多请关注php中文网其它相关文章！