据《纽约客》杂志报道，OpenAI的热门聊天机器人ChatGPT每天可能要消耗超过50万千瓦时的电力，以响应用户的约2亿个请求。相比之下，美国家庭平均每天使用约29千瓦时电力，也就是说，ChatGPT每天用电量是家庭用电量的1.7万多倍。如果生成式AI被进一步采用，耗电量可能会更多。荷兰国家银行数据科学家亚历克斯·德弗里斯在一篇论文中估计，到2027年，整个人工智能行业每年将消耗85至134太瓦时(1太瓦时=10亿千瓦时)的电力。
ChatGPT居然这么费电？
最新的等式出现了：
ChatGPT日耗电量≈1.7万家庭日耗电量。
什么概念？一年光电费就要花2亿！
美国普通家庭平均单日用电29千瓦时，而ChatGPT的单日用电量超过了50万千瓦时。
（美国商业用电一度约为0.147美元也就是1.06元，相当于一天53万元）
消息一出就直接冲上热搜第一了。
除了OpenAI，谷歌也“不容小觑”：
在谷歌搜索中应用生成式AI技术，谷歌每年的耗电量将高达290亿千瓦时，也就是每天约7900万度（？）。
而在未来，AI这一“吃电巨兽”的食量还会更惊人。
数据统计：
到2027年，人工智能数据中心的用电量将和荷兰、瑞典等小国用电量相当。
所以AI最后拼的是谁发电多、谁发电成本低？
AI要耗多少电？
如上数据来自一篇论文《The growing energy footprint of artificial intelligence》。
作者是荷兰数字经济学家Alex de Vries，他通过英伟达、OpenAI、谷歌等公开数据进行估算。
结果就得出了很多意想不到的结论。
首先，现在大模型训练时期的耗电量和推理阶段相比，已经不值一提了。
SemiAnalysis数据显示，OpenAI需要3617台英伟达HGX A100、共28936个GPU来支持ChatGPT推理。
ChatGPT每天需要响应1.95亿次请求，预计每天需要消耗564兆瓦时电力，每个请求大约2.9瓦时。
而GPT-3整个训练阶段的耗电量预估为1287兆瓦时，是ChatGPT大约4天的消耗量。
谷歌报告也表示，2019-2021年，与人工智能相关的能源消耗中有60%来自推理部分。
因此论文提出未来研究AI用电量时，更应该从全周期角度考量。
但这也与模型再训练频率、模型性能与功耗之间的平衡有关系。比如BLOOM在推理阶段的耗电量就显著降低。
其次，搜索引擎如果用上AI，耗电量还会更高。
谷歌方面曾在去年2月表示，AI响应请求的成本可能是普通搜索的10倍。
数据显示，使用一次谷歌搜索消耗的电量是0.3瓦时。这和上面分析给出的数据相呼应。
如果要将大模型能力植入到谷歌搜索中，预计需要512821个HGX A100，按照每台设备功耗为6.5千瓦来计算，每天将需要80吉瓦时的电力消耗，一年需要29.2太瓦时。
目前谷歌每天需要处理高达90亿次搜索，换算一下，平均每个请求要消耗6.9-8.9瓦时，已经是普通搜索的20倍+。
同样的现象在英伟达的财报数据中也可以看到。
去年第二季度，英伟达收入创纪录，其中数据中心部门较上季度相比增长了141%，这表示AI方面的需求扩增。
今年，英伟达AI服务器出货量可能达到150万台，总功耗可能达到9.75-15.3吉瓦。这一数量级的服务器，每年的用电量将达到85.4-134太瓦时。
AI用电量会一路飙升吗？
研究认为也不一定。
哪怕像谷歌这样在全球拥有数十亿用户的厂商，也会慎重考虑AI与搜索引擎的融合。硬件、软件和电力成本压力下，厂商脚步或许没那么快。
硬件生产本身还受到掣肘，AI热潮使得台积电CoWoS先进封装产能吃紧，但新建工厂真正可能开始批量生产要等到2027年，这或许也会影响英伟达的出货量。
以及模型本身的算法和架构也会让AI功耗在一定程度上降低。
最终研究认为，关于AI用电量的问题，过于悲观或乐观都不可取。
短期内，在各种资源因素影响下，AI用电量增速会被抑制；但硬件和软件的能效提高，显然也无法抵消长期的电力需求增长。
总之，作者认为在AI开发方面，还是不要铺张浪费的好。监管机构也需要考虑要求厂商披露相关数据，提高整个AI供应链的透明度，从而更好了解这一新兴技术的环境成本。
实际上，此前关于AI消耗资源的话题已经多次引发讨论。
有研究指出，到2027年，数据中心人工智能的用电量将与荷兰或瑞典等小国的用电量相当。
加州大学河滨分校研究表明，问ChatGPT5-50个问题，就可消耗500毫升水。
因为AI超算数据中心需要大量水来散热，微软也承认用水是训练模型的一大成本，从2021年到2022年，其全球用水量飙升了34%，相比研究AIGC前急剧增加。
推荐文章：
