首页 > 其他分享 >华为昇腾助力大模型,算力国产化时代已来

华为昇腾助力大模型,算力国产化时代已来

时间:2023-08-17 10:05:58浏览次数:42  
标签:视频 AI 模型 带宽 已来 华为 内存 算力

去年世界人工智能大会(WAIC 2022)上,只有屈指可数的几家大厂推出大模型,但在科技部新一代人工智能发展研究中心5月底发布的《中国人工智能大模型地图研究报告》显示,我国10亿参数规模以上的大模型已发布79个,几乎进入“百模大战”。



而中国有一半左右的大模型创新,都是由昇腾AI来支持的,开发者数量从90万到180多万,原生孵化和适配30多个大模型,已发展1200多家ISV(独立软件开发商),联合推出2500多个行业AI解决方案。昇腾AI正是国内唯一一个完成千亿参数大模型训练并商用的系统。


此外,华为推出“昇腾伙伴网络”(简称APN)合作伙伴计划,将通过总经销商供货的销售支持、华为与总销售商双方的技术支持模式,思腾合力凭借多年在AI行业的积累和自身的实力成为首家签署APN合作协议的公司,共同打造基于昇腾的软硬件AI基础架构解决方案,推进人工智能国产算力替代的进步和发展。昇腾产品应用覆盖比较全面,产品型号也比较丰富,接下来我们就逐一介绍一下:



Atlas 300T pro

华为昇腾助力大模型,算力国产化时代已来_解决方案

T代表training,训练卡,pro是升级版,其性能特点是:

1. 高度集成:AI算力、通用算力、I/O能力三合一,处理器集成30个华为达芬奇AI Core +16个TaiShan核 + 1 * 100GE RoCE v2网卡。

2. 超强算力:提供业界领先的280 TFLOPS FP16算力。

3. 高速带宽:支持PCIe 4.0和 1*100G RoCE高速接口,出口总带宽56.5 Gb/s;无需外置网卡,训练数据和梯度同步效率提升10%~70%。

4. 32GB HBM内存支持ECC,专为训练设计,训练一个好的模型,需要使用大量数据,内存带宽要够大,内存容量要足够大,相比传统的DDR4内存,HBM内存的带宽可以提高10倍以上,功耗也更低。



 Atlas 300V pro

华为昇腾助力大模型,算力国产化时代已来_应用场景_02

V代表Video,视频解析卡,pro是升级版,其性能特点是:

1. 内置DVPP预处理单元,它是昇腾AI处理器内置的图像处理单元,提供强大的媒体处理硬加速能力,主要功能包括缩放、抠图、色域转换、图片编解码、视频编解码等。具有超大视频解析路数、高性能特征检索、安全启动等优势,支持128路高清视频实时分析。

2. 48G LPDDR4X 内存容量,LPDDR4X的特点是低功耗、高带宽、高频率,专为视频解析这种高带宽、多路数、视频解析流畅度高的应用场景而设计。

3. 强大的视频编解码能力可广泛应用于智慧城市、智慧交通、智慧园区、智慧金融、智慧制造等诸多AI行业场景。



 Atlas 300I Pro

华为昇腾助力大模型,算力国产化时代已来_人工智能_03

I代表 Inference, 推理卡,Pro升级款,基于昇腾310 芯片开发最高功耗72W,被动散热,半高半长单宽,达芬奇架构。性能特点:

1.拥有超强算力:单卡最大提供140 TOPS INT8算力,为数据中心推理提供更强大支持。

2. 超高能效:提供 2 TOPS/W 超高能效比,达到业界2.1倍。

3. 算力与显存平衡,搭载24G LPDDR4X内存,且支持ECC,保证推理的及时性。

4. 强大的AI 推理性能,可用于:内容审核、搜索推荐、票据识别、信息录入、资料对比、身份证实名认证、电子签名识别、语音识别等应用场景。


标签:视频,AI,模型,带宽,已来,华为,内存,算力
From: https://blog.51cto.com/u_15749144/7118300

相关文章

  • 华为数通方向HCIP-DataCom H12-821题库(单选题:101-120)
    第101题可用于多种路由协议,由if-match和apply子句组成的路由选择工具是A、route-policyB、IP-PrefixC、commnityfilterD、as-path-filter答案:A解析:Route-policy(路由策略)是一个用于多种路由协议的工具,它由if-match子句和apply子句组成。if-match子句用于匹配路由属性条件,而apply......
  • 华为认证 | HCIE-Cloud Computing V2.0实验考试延期下线公告
    尊敬的考生:为保障考生学习连续性,响应考过HCIE-CloudComputingV2.0笔试的考生参加HCIE-CloudComputingV2.0实验考试的需求,综合考虑将HCIE-CloudComputingV2.0实验考试下线日期延期至2023年12月31日。请广大考生尽早预约参加考试,如有任何疑问,请至华为人才在线官网提交问题单进......
  • 华为认证考试每日刷题与解析 Part1
    1、如图所示,路由器RE分别存在去往三个SiteA、SiteB和Site_C三个网段的静态路由,管理员需要配置将Site_A和Site_B路由引入至0SPFDomain中,请将以下配置RE的命令补全。1:______2:______3:______?(英文,全小写)答案:permit,permit,if-match解析:常用命令2、针对MAC地址欺骗atta......
  • 华为开发者大会2023:云空间筑牢鸿蒙生态“云基因”
    8月4日,华为开发者大会2023在东莞·松山湖举办,众多开发者及合作伙伴共赴盛会,见证鸿蒙生态的最新进展。在本届大会的HarmonyOS应用开发(端云能力)分论坛上,华为DriveKit生态架构技术总监官宣云空间服务升级,赋能开发者高效开发,为鸿蒙生态应用注入“云基因”。构建端云数据同步服务,为......
  • 百望云联合华为发布票财税链一体化数智解决方案 赋能企业数字化升级
    随着数据跃升为数字经济关键生产要素,数据安全成为整个数字化建设的重中之重。为更好地帮助企业发展,中央及全国和地方政府相继出台了多部与数据相关的政策法规,鼓励各领域服务商提供具有自主创新的软件产品与服务,帮助企业在合规的前提下,完成数字化建设的提档加速。 基于此,百望云与华......
  • 每日一练 | 华为认证真题练习Day96
    1、下列协议中属于动态IGP路由协议的是?A.StaticB.BGPC.OSPFD.Direct2、路由器进行数据包转发时需要修改数据包中的目的IP地址。A.对B.错3、route-static10.0.2.2255.255.255.25510.0.12.2preference20,关于此命令说法正确的是?A.该路由一定会出现在路由表当中B.该路由的......
  • 网页播放海康,威视,大华,华为摄像头RTSP流,延迟毫秒级,支持多路播放、H.264/H.265
    一、背景:在遍地都是摄像头的今天,往往需要在各种信息化、数字化、可视化B/S系统中集成实时视频流播放等功能,海康、大华、华为等厂家摄像头或录像机等设备一般也都遵循监控行业标准,支持国际标准的主流传输协议RTSP输出,而Chrome、Firefox、Edge等新一代浏览器从2015年开始取消了NPAPI......
  • 华为云API Explorer:自动化运维的得力助手
    华为云APIExplorer为开发者提供一站式API解决方案统一平台,集成华为云服务所有开放API,支持全量快速检索、可视化调试、帮助文档、代码示例等能力,帮助开发者快速学习API,使用API开发代码实现自动化运维。本文分享自华为云社区《深度开发者故事|华为云APIExplorer自动化运维的......
  • 华为认证欧拉openEuler-HCIA文本编辑器及文本处理
    文本编辑器及文本处理文本编辑器介绍常见的Linux文本编辑器有:emacsnanogeditkeditvivimLinux文本编辑器-emacsemacs是一款功能强大的编辑器,与其说是一款编辑器,它更像一个操作系统。emacs带有内置的网络浏览器、IRC客户端、计算器,甚至是俄罗斯方块。当然,emacs需要在图形......
  • 【产品人卫朋】专栏及配套资料更新:华为流程体系、产品经理、IPD与BLM模型
    目录前言01华为流程体系专栏02产品经理进阶专栏03华为战略方法论专栏04IPD进阶100例专栏作者介绍前言截止目前,本号已上线四大干货专栏,内容涉及:01华为流程体系(图文+视频);02硬件产品经理(图文+视频);03BLM战略方法论(图文+视频);04集成产品开发IPD体系(图文)。四大专栏具体内容......