首页 > 其他分享 >全市场都忽视了!大摩:数据中心算力成本正在迅速下降

全市场都忽视了!大摩:数据中心算力成本正在迅速下降

时间:2024-03-26 21:58:43浏览次数:17  
标签:数据中心 电力 AI GPU 算力 大摩

随着AI技术迈入普及与应用的新纪元,其算力需求蓬勃增长的同时,算力成本随技术进步呈现下降趋势。

摩根士丹利在3月24日的AI报告中指出,随着GPU技术的不断进步,例如英伟达从Hopper发展到Blackwell GPU架构,GAI的算力成本正显著降低。

展望未来,大摩预测,AI算力成本将迅速下降,AI算力需求将蓬勃增长,预计2024/27全球数据中心电力需求将占到全球的~2%/4%,但电力基础设施可能跟不上这一增长形势。

因此,大摩指出,能够满足AI快速增长电力需求的公司将从这一趋势中收益,特别是那些能够减少数据中心供电延迟的电力解决方案提供商。

AI算力成本迅速下降

大摩指出,随着GPU效率的提高,数据中心算力成本正在迅速下降,以英伟达最新发布的Blackwell为例,只占到hopper能耗的一半,具体来看:

数据中心模型显示,使用Hopper GPU的数据中心每teraFLOPs(每秒万亿次浮点运算)资本成本为14.26美元,而Blackwell数据中心的成本为7.48美元,这意味着当从Hopper GPU升级到Blackwell GPU时,资本成本每teraFLOPs下降约50%。

数据中心建设成本方面,Blackwell数据中心的总设施资本成本(包括GPU)为33.49亿美元,而Hopper数据中心的总设施资本成本为35.83亿美元。这些成本是针对假设的100MW 数据中心,并且包括了8个芯片/服务器和70%的服务器利用率。

在每兆瓦时电力成本为100美元的假设下,Hopper数据中心的年度电力成本约为每teraFLOPs 0.24美元,而Blackwell数据中心的年度电力成本约为每teraFLOPs 0.14美元。

这种下降主要是由于随着技术进步,GPU在能效方面的改进,使得在相同的电力消耗下能够提供更多的算力。

AI算力需求激增 给电力基础设施带来挑战

与此同时,大摩预测,AI电力需求将迅猛增长,在基准情景下,预计2023-27年全球数据中心电力需求(包括GAI)为430—748太瓦时(TWh),相当于2024/27年全球电力需求的2%—4%。

具体来看:

在基准情景下(GPU利用率从60%提高到70%),数据中心在2023-27年的总电力容量将为70/122吉瓦。2023-27年GAI电力需求的复合年增长率为~105%,而同期全球数据中心电力需求(包括GAI)的复合年增长率将为~20%。

牛市情景下(反映90%的芯片利用率),预计2023-27年全球数据中心电力需求为~446/820太瓦时。

而熊市情景下(反映50%的利用率),预计2023-27年数据中心电力需求为~415/677太瓦时。

此外,大摩还提到,其减少可再生能源服务占新数据中心电力的百分比,因为数据(如亚马逊/Talen交易)表明不可再生能源将发挥更大的作用。

进一步来看,大摩指出,根据对全球数据中心电力需求预测,预计将给电力基础设施带来挑战,包括输电线路容量限制、规划和许可延误以及供应链瓶颈。因此,展望未来,能够满足AI快速增长能源需求的公司,特别是那些能够减少数据中心供电延迟的电力解决方案提供商将受市场欢迎。

大摩表示,全球各地数据中心增长有所不同,但相似之处在于,数据中心公司和超大规模公司经常与电力开发公司合作,以最大限度地减少供电延迟,降低成本并减少排放。

在美国,我们看到了合作伙伴关系的最初迹象,超大规模企业和核电厂所有者在核电厂建立新的大型数据中心,有利于电力公用事业Constellation Energy和独立电力生产商与能源贸易商Vistra等 。而且我们还看到了现场发电的可能,这可能有利于许多电力股。

在欧洲,到2035年,欧洲国家的数据中心需求将推动电力增长五倍,低估值欧洲电力股将受益,入西班牙私营跨国电力公司Iberdrola,芬兰能源企业Fortum。

在东盟,马来西亚、新加坡和泰国电力需求强劲增长。为了最大限度地减少“供电时间”,我们看到数据中心开发商与东盟当地电力公司建立伙伴关系:

英伟达和马来西亚杨忠礼集团合作,计划在马来西亚打造价值43亿美元的人工智能数据中心,泰国最大的私人发电公司海湾Gulf和泰国电信AIS开始建设新的泰国数据中心,

新加坡电信Singtel、印尼电信公司Telkom于印度尼西亚能源公司Medco Power就其在印度尼西亚的第一个数据中心项目建立战略合作伙伴关系。

标签:数据中心,电力,AI,GPU,算力,大摩
From: https://blog.csdn.net/Gabriel100yi/article/details/137059147

相关文章

  • DeepLn算力云:超具性价比的GPU租用体验,还~有~~谁~~?
    AI大模型时代到来,对算力需求越来越高,而很多炼丹党的笔记本电脑显存不到8G,甚至还在用集显裸奔,跑一些模型微调任务的时候根本就不行,压根没有办法畅快炼丹。这时你敢信,DeepLn算力云提供的优质算力,竟然比一些高校的校内算力还便宜,同时还稳定易用,真亮瞎了钛合金眼。到底有多便宜......
  • VMware Live Site Recovery 9.0 - 数据中心灾难恢复 (DR)
    VMwareLiveSiteRecovery9.0-数据中心灾难恢复(DR)VMwareSiteRecoveryManager,VMwareSRM现已更名为VMwareLiveSiteRecovery请访问原文链接:https://sysin.org/blog/vmware-live-site-recovery-9/,查看最新版。原创作品,转载请保留出处。作者主页:sysin.orgVMware......
  • VMware Site Recovery Manager 9.0 - 数据中心灾难恢复 (DR)
    VMwareSiteRecoveryManager9.0-数据中心灾难恢复(DR)VMwareSiteRecoveryManager,VMwareSRM现已更名为VMwareLiveSiteRecovery请访问原文链接:https://sysin.org/blog/vmware-live-site-recovery-9/,查看最新版。原创作品,转载请保留出处。作者主页:sysin.orgVMw......
  • 智能化机房建设方案:提升数据中心运营效率与管理水平
    一、引言随着信息技术的快速发展,数据中心已成为企业运营不可或缺的重要组成部分。然而,传统的机房建设方式已无法满足现代数据中心高效、安全、可靠的需求。因此,智能化机房建设方案应运而生,旨在提升数据中心的运营效率与管理水平。本文将详细介绍智能化机房建设方案的设计思路......
  • 全方位机房建设方案:一站式解决数据中心建设难题
    在信息技术飞速发展的今天,数据中心的建设已成为企业和组织不可或缺的一部分。然而,建设一个高效、稳定的数据中心并非易事,涉及到机房选址、设计、建设、运维等多个环节。本文将为您提供一份全方位的机房建设方案,一站式解决数据中心建设难题。一、机房选址机房选址是数据中心......
  • TSINGSEE青犀视频AI方案:数据+算力+算法,人工智能的三大基石
    背景分析随着信息技术的迅猛发展,人工智能(AI)已经逐渐渗透到我们生活的各个领域,从智能家居到自动驾驶,从医疗诊断到金融风控,AI的应用正在改变着我们的生活方式。而数据、算法和算力,正是构成人工智能技术的三大核心要素,它们之间相互关联、相互影响,共同推动着人工智能的发展。1、数据......
  • 英伟达CEO黄仁勋:10年内算力将提升100万倍
    过去10年AI的算力增加了100万倍,未来10年,英伟达还会把深度学习的计算能力再提高100万倍,让AI计算设备不断训练、推理、学习、应用,并持续改进,未来不断将超级AI转变为现实,NVIDIA英伟达CEO黄仁勋表示,未来不断推动技术进步,将计算的边际成本降低到接近零,让更多人使用上AI算力。 ......
  • 安卓)提升大脑算力 棋牌类
    棋路象棋,官网版本:https://www.mdevs.cn/安卓安装包125.2MB,版本2.6.3,实测可选免登录/微信登录可同步棋谱练习提示次数免费10次,之后需要看广告或支持作者免广告吾爱版本的安卓安装包47.6MB,版本1.5.1https://qoop.lanzouj.com/i1FAVelhewd该版本有悔棋按钮和提示(在悔棋后面......
  • 了解 NVIDIA 的数据中心 GPU 系列
    长话短说NVIDIA拥有数十个GPU,可以为不同大小的ML模型提供服务。但了解这些不同卡的性能和成本(更不用说保持名称正确)是一个挑战。每个GPU的名称是一个字母数字标识符,传达有关其架构和规格的信息。本指南可帮助您浏览NVIDIA数据中心GPU系列并将其映射到您的模型服务需......
  • 中国联通全球托管运维服务:助力企业无忧应对数据中心运维挑战
    在全球化背景下,企业的信息化进程不断加快,数据中心作为支撑关键业务的核心基础设施,在全球范围内的布局与运维变得愈发重要。然而,企业在设立异地或海外数据中心时,常常面临资源有限、人力短缺等问题,特别是在目标地缺乏专业的IT工程师团队时,如何确保数据中心的稳定运行与高效管理成为......