首页科技快讯算力巨兽能耗惊人：英伟达H100 AI芯片总耗电量将超欧洲小国

算力巨兽能耗惊人：英伟达H100 AI芯片总耗电量将超欧洲小国

来源：晰数塔互联网快讯时间：2023年12月27日 19:27

随着人工智能的迅猛发展，对计算能力的需求不断攀升。英伟达的AI处理器H100在市场上非常畅销，然而每块H100的峰值功耗高达700瓦特，超过了普通美国家庭的平均用电量。如果大量H100被部署，专家预测其总功耗将与一座美国大城市相当甚至超过一些欧洲小国。

法国施耐德电气公司去年10月就估计，用于AI应用的数据中心的总功耗已经与塞浦路斯全国相当。那么最热门的AI处理器之一——英伟达的H100功耗究竟如何呢？

微软数据中心技术治理和战略部门首席电气工程师Paul Churnock在领英上发帖表示：“英伟达的H100 GPU峰值功耗为700瓦特，按照61%的年利用率计算，相当于一个美国家庭的平均用电量（假设每个家庭有2.51人）。英伟达预计，2024年底H100销量将达到150万至200万块之间。按城市居民用电量排名，H100总功耗将位居全美第五，仅次于休斯敦，在凤凰城之前。”

按照61%的年利用率计算，每块H100每年将消耗约3740千瓦时（kWh）的电量。如果英伟达在2023年售出150万块H100，在2024年售出200万块，到2024年底将有350万块H100芯片被部署。这些芯片的总年耗电量将达到惊人的130.91亿千瓦时（GWh），即13091.82吉瓦时。

相比之下，格鲁吉亚、立陶宛或危地马拉等国家的年均电力消耗也大约为13092吉瓦时。虽然H100的功耗令人震惊，但值得注意的是，AI和高性能计算（HPC）GPU 的效率正在不断提高。因此，虽然英伟达下一代Blackwell架构的B100芯片的功耗可能会超过H100，但它也将提供更高的性能，从而以更少单位功耗完成更多工作。

随着AI技术的发展，在追求算力与能耗平衡之间需要解决的重要课题已经亟待解决。

发布于：北京