首页 > 其他分享 >ChatGPT 背后的英雄——AI芯片

ChatGPT 背后的英雄——AI芯片

时间:2023-06-02 18:15:08浏览次数:45  
标签:FPGA AI 人工智能 ASIC 芯片 GPU ChatGPT

本文分享自天翼云开发者社区《ChatGPT 背后的英雄——AI芯片》,作者:w****n

AI芯片能为人工智能应用提供所需的基础算力;按技术架构主要分为GPU、FPGA和ASIC。ChatGPT 有着大量复杂计算需求的 AI 模型, AI 芯片专门用于处理人工智能应用中的大量计算任务,是不可或缺的底层硬件。随着 AI 技术快速发展,AI 应用场景扩大至智能制造、家居、教育、医疗和金融等领域;而智能产品种类不断丰富,包括 ChatGPT 等 AIGC 产品持续升级对芯片算力提出更高要求,AI 芯片算力和需求旺盛增长。据 Frost&Sullivan 预计,2022-2026 年全球 AI 芯片市场规模将以 26.3%复合增速增长。从基础预生成 AI 到机器学习,最终达到深度学习,主要依赖于审阅庞大的数据集合、处理数据、生成算法模型、训练算法模型的能力,而 AI 芯片就是从处理数据到终端赋能的算力基础。AI 芯片主要分为三种,分别是 GPU, FPGA 与 ASIC 芯片。不同种类别的 AI 计算芯片有各自突出的优势和适用的领域,贯穿 AI 训练与推理阶段。目前 CPU 在人工智能领域中的应用有限,主要受限于 CPU 在 AI 训练方面的计算能力不足。

一 、GPU

GPU 作为显示芯片是可在个人电脑、工作站、游戏机和智能手机/平板电脑上做图像和图像相关运算工作的微处理器。随着互联网用户和网络应用兴起,数据体量逐渐庞大,数据中心对计算需求快速增加,GPU 凭借其相对通用灵活和适应并行计算等特性成为主要选择,GPU 也从最初专用于图像处理制作后逐渐应用于计算,是核心计算资源基础。目前来看,GPU 仍然是 AI 应用的主导芯片,主要因为它具有强大的计算能力和高通用适用性,广泛应用于各种图形处理、数值模拟及人工智能算法领域。较低的开发成本也时期能够快速在各个垂直下游领域被广泛应用,加速优化拓展。ChatGPT 作为有着大量复杂计算需求的 AI 模型,GPU 芯片成为能帮助其完成计算任务的关键硬件之一;随着深度学习技术发展,GPU 成为 AI 算法训练中重要硬件组成部分。同时,随着云计算技术发展,云端对 GPU 算力要求在不断提升。据机构 JPR 预测显示,2022-2026 年全球 GPU 出货量将以 6.3%复合增速增长;预计 2027 年行业市场规模将超320 亿美元。

二、FPGA

FPGA 是支持 AI 算力芯片的更优解,优点主要在于低延迟、优秀的能效比、较短的开发周期以及高度可编程能力,可以供给不同垂直行业使用。FPGA 是一种硬件可重构的集成电路芯片,通过在硅片上预先设计实现具有可编程特性,可通过软件重新配置芯片内部的资源来实现不同功能,广泛应用于数据中心、航空航天工程、人工智能、工业、物联网以及汽车等领域。FPGA 拥有软件的可编程性和灵活性、兼具硬件的并行性和低延时性,相较于 ASIC、GPU 等处理器更为灵活,具备上市周期和成本优势。在 5G 通信、人工智能等迭代升级周期频繁、技术不确定性较大的领域,FPGA 是较为理想的解决方案。随着全球新一代通信设备部署以及人工智能与自动驾驶技术等新兴市场领域需求的不断增长,前瞻产业研究院预计全球 FPGA 市场规模将从 2021 年的 82.9 亿美元增长至 2025 年的 125.2亿美元,年均复合增长率约为 10.8%,中国 FPGA 市场规模快速增长,预计 2021-2025 年规模复合增速 17.1%。

三、 ASIC

ASIC 是为特定用途而定制的集成电路,具有高性能、低能耗的特点,专用化程度最高,其特点同时适合 AI 训练和推理阶段的使用。ASIC 芯片包括 DPU 和 NPU 类别,其中,DPU主要承担网络、存储和安全的加速处理任务,旨在满足网络侧专用计算需求,适用于服务器量多、对数据传输速率要求严苛的场景。ASIC 应用领域广泛,包括医疗、工业、军事、航空等。其中虚拟币是主要应用领域之一,因相对 GPU、FPGA,ASIC 能效更高。目前 ASIC渗透率依然较低,主要由于其较高的研发成本与研发壁垒,因此市场份额显著小于 GPU。随着人工智能行业愈加成熟,蓬勃发展的下游应用对于上游研发成本的优化力不断增高,ASIC 芯片依赖于它的卓越性能及低功耗,将成为人工智能技术的首选。根据贝哲斯咨询预测,到 2027 年,全球 ASIC 市场规模预计将达 1677.49 亿元,2021-2027 年均复合增长率为 8.9%。

标签:FPGA,AI,人工智能,ASIC,芯片,GPU,ChatGPT
From: https://www.cnblogs.com/developer-tianyiyun/p/17452596.html

相关文章

  • 项目访问的端口是8018,但是真实接口地址是19080,导致访问这个地址http://9.6.237.104:80
    这个问题是由于您的前端页面与后端应用程序的接口地址不在同一个域名下所引起的跨域请求。在浏览器中,出于安全考虑,通常不允许JavaScript从一个域名下访问另一个不同域名下的资源,这种行为被称为跨域请求(Cross-OriginResourceSharing,CORS)。有一些方法可以解决跨域问题,下面是......
  • iostat相关参数说明——await:平均每次设备I/O操作的等待时间 (毫秒),如果%util接近 100
    iostat是I/Ostatistics(输入/输出统计)的缩写,iostat工具将对系统的磁盘操作活动进行监视。它的特点是汇报磁盘活动统计情况,同时也会汇报出CPU使用情况。同vmstat一样,iostat也有一个弱点,就是它不能对某个进程进行深入分析,仅对系统的整体情况进行分析。iostat的语法如下:iostat[......
  • AI视频融合平台EasyCVR接入国标GB28181设备,视频无法播放是什么原因?
    EasyCVR可拓展性强、视频能力灵活、部署轻快,可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等,以及支持厂家私有协议与SDK接入,包括海康Ehome、海大宇等设备的SDK等,能对外分发RTSP、RTMP、FLV、HLS、WebRTC等格式的视频流。有用户反馈,将设备通过国标GB28181协议接入EasyCVR......
  • str.contains()输出True False 或 na
    str.contains()输出TrueFalse或na容易混淆的是:value_counts()不会忽略truefalse但是会忽略na......
  • AI安防视频汇聚融合平台EasyCVR v3.2版本托盘显示优化
    EasyCVR基于云边端协同,可支持海量视频的轻量化接入与汇聚管理。平台兼容性强、拓展度高,可提供视频监控直播、视频轮播、视频录像、云存储、回放与检索、智能告警、服务器集群、语音对讲、云台控制、电子地图、平台级联等功能。为了便于用户二次开发、调用与集成,我们也提供了丰富的A......
  • Photoshop 2023 Beta(PS2023Beta) v24.6 AI测试版 win/ mac版
    Photoshop2023Beta内置Ai绘图功能版,这是世界上第一个创意和设计工作流程的副驾驶,为用户提供了一种神奇的新工作方式。这将两个强大的成像引擎结合在一起——Photoshop和生成式AI,使您能够通过文本提示从Photoshop内部生成内容,并使用Photoshop的全面工具对其进行编辑以创建非凡的结......
  • LangChain入门(三)-对超长文本进行总结
    GitHub-liaokongVFX/LangChain-Chinese-Getting-Started-Guide:LangChain的中文入门教程LangChain的中文入门教程.ContributetoliaokongVFX/LangChain-Chinese-Getting-Started-GuidedevelopmentbycreatinganaccountonGitHub.https://github.com/liaokongVFX/LangCh......
  • LangChain入门(一)访问LLM模型
    GitHub-liaokongVFX/LangChain-Chinese-Getting-Started-Guide:LangChain的中文入门教程LangChain的中文入门教程.ContributetoliaokongVFX/LangChain-Chinese-Getting-Started-GuidedevelopmentbycreatinganaccountonGitHub.https://github.com/liaokongVFX/LangCh......
  • LangChain入门(二)-通过 Google 搜索并返回答案
    GitHub-liaokongVFX/LangChain-Chinese-Getting-Started-Guide:LangChain的中文入门教程LangChain的中文入门教程.ContributetoliaokongVFX/LangChain-Chinese-Getting-Started-GuidedevelopmentbycreatinganaccountonGitHub.https://github.com/liaokongVFX/LangCh......
  • foxmail导入mht模板
    在安装目录下找到下面文件夹(dir搜*.mht文件)D:\ProgramFiles\Foxmail7.2\Global\Template将自定义模板文件放入该目录......