①基础词汇:
算力:计算能力,算力的大小表明了对数字化信息处理能力的强弱。
CPU:中央处理器,常见品牌Intel,AMD。
GPU:图像处理器,显卡的核心,常见品牌AMD,英伟达。
计量单位:FLOPS,表示每秒浮点的运算次数。前缀如T/P代表运算次数,P=每秒1千万亿次。
AI大模型:指人工智能预训练大模型,模型越复杂、参数量越大,所需计算量越大。
上游产业:CPU、GPU、储存器;数据库、中间件、操作系统;IT硬件生产。
中游产业:AI,边缘计算,网络设备,算力安全。
下游产业:互联网、制造业、金融等。
②供给&需求:
供给:国内10座超算中心,7座智算中心。截至23年6月底,全国在用数据中心机架总规模超过760万标准机架,并力总规模达到197EFLOPS(EFLOPS是指每秒百亿亿次浮点运算次数),产业发展迅速。
需求:OpenAI推出的ChatGPT-3训练使用了128台关伟达A100服务器训练34天,对应640P算力,GPT-4模型训练使用了3125台英伟达A100服务子器训练90至100天,对应15625P算力。从GPT-3至GPT-4模型参数规模增加约10倍,但用于训练的GPU教量增加了近24倍。算力需求成倍上升。华为副总裁李鹏表示,到2025年,智能算力需求将达到当前的100倍。
③什么是算力?
算力的字面意思,大家都懂,就是计算能力(Computing Power)。更具体来说,算力是通过对信息数据进行处理,实现目标结果输出的计算能力。我们人类,其实就具备这样的能力。在我们的生命过程中,每时每刻都在进行着计算。我们的大脑,就是一个强大的算力引擎。大部分时间里,我们会通过口算、心算进行无工具计算。但是,这样的算力有点低。所以,在遇到复杂情况时,我们会利用算力工具进行深度计算。远古时期,我们的原始工具是草绳、石头。后来,随着文明的进步,我们有了算筹(一种用于计算的小棍子)、算盘等更为实用的算力工具,算力水平不断提升。
④算力的分类,云计算和数据中心之所以会出现,是因为信息化和数字化的不断深入,引发了整个社会强烈的算力需求。这些需求,既有来自消费领域的(移动互联网、追剧、网购、打车、O2O等),也有来自行业领域的(工业制造、交通物流、金融证券、教育医疗等),还有来自城市治理领域的(智慧城市、一证通、城市大脑等)。不同的算力应用和需求,有着不同的算法。不同的算法,对算力的特性也有不同要求。通常,我们将算力分为两大类,分别是通用算力和专用算力。大家都知道,AI人工智能是一个算力大户,特别“吃”算力。在人工智能计算中,涉及较多的矩阵或向量的乘法和加法,专用性较高,所以不适合利用CPU进行计算。在现实应用中,人们主要用GPU和前面说的专用芯片进行计算。尤其是GPU,是目前AI算力的主力。GPU虽然是图形处理器,但它的GPU核(逻辑运算单元)数量远超CPU, 适合把同样的指令流并行发送到众核上,采用不同的输入数据执行,从而完成图形处理或大数据处理中的海量简单操作。因此,GPU更合适处理计算密集型、高度并行化的计算任务(例如AI计算)。这几年,因为人工智能计算的需求旺盛,国家还专门建设了很多智算中心,也就是专门进行智能计算的数据中心。除了智算中心之外,现在还有很多超算中心。超算中心里面,放的都是“天河一号”这样的超级计算机,专门承担各种大规模科学计算和工程计算任务。
⑤算力的衡量,算力既然是一个“能力”,当然就会有对它进行强弱衡量的指标和基准单位。大家比较熟悉的单位,应该是FLOPS、TFLOPS等。其实,衡量算力大小的指标还有很多,例如MIPS、DMIPS、OPS等。MFLOPS、GFLOPS、TFLOPS、PFLOPS等,都是FLOPS的不同量级。
需要算力可以联系我!或者直接访问我们的平台 gpu.icloud.cn
标签:需求,AI,弄懂,概念,计算,GPU,算力,CPU From: https://blog.csdn.net/liaaaa998/article/details/141895781