首页 > 其他分享 >存算一体方案解析

存算一体方案解析

时间:2023-05-27 11:45:29浏览次数:33  
标签:存储 架构 一体 内存 计算 解析 存算 处理器


存算分离是将计算和存储功能分开部署在不同的节点或设备上的概念。在存算分离架构中,计算任务通常在独立的计算单元(如CPU或GPU)中执行,而数据存储在独立的存储设备中。这种架构可以提供更大的灵活性和可伸缩性,但可能需要进行大量的数据传输和通信。【冯诺依曼架构的特点为存算分离】
存算分离不可避免地存在以下问题:

内存墙计算机系统中处理器速度远远快于内存访问速度而导致的性能瓶颈。解决内存墙问题可以考虑高速缓存、内存层次结构优化、内存访问模式优化以及使用更快速的内存技术(快闪存、非易失性内存等)。

功耗墙指的是处理器和其他组件的功耗增加速度超过了散热和功耗管理技术的改进速度,从而导致系统性能增长受限的现象。为了应对功耗墙,处理器制造商和系统设计者采取了多种策略。其中包括优化芯片设计和电源管理,改进散热技术,采用节能的制造工艺,以及引入新的架构和技术,如低功耗处理器、异构计算和功耗管理技术等。


存算一体方案可以分为三类:近存计算(Processing Near Memory),存内处理(Processing in Memory,PIM)和行内计算(Computing in Memory,CIM)。


近存计算是将存储单元和计算单元集成,增加访存带宽、减少数据搬移,提升整体计算效率。近存计算仍是存算分离架构,本质上计算操作由位于存储外部、独立的计算单元完成,其技术成熟度较高,主要包括存储上移、计算下移两种方式。(华为昇腾910系列芯片为冯诺依曼架构和达芬奇架构的组合,达芬奇架构的本质应为采用多级cache实现近存计算。)

  1. 存储上移(Memory Uplift):存储上移是指将计算操作或部分计算操作移到内存子系统中执行。传统上,计算主要在中央处理器(CPU)中完成,而内存主要用于数据存储。但通过存储上移,内存子系统可以提供一些计算功能,使其具备在处理数据时进行一些简单的计算能力。这样做的好处是可以减少数据从内存到CPU的数据传输量,从而降低数据传输延迟和功耗。
  2. 计算下移(Compute Offloading):计算下移是指将计算任务从主处理器(如CPU)下移到内存子系统中的专用计算单元或加速器中执行。通过计算下移,计算密集型任务可以在专用硬件加速器或内存中的计算单元中进行处理,从而释放主处理器的负担,提高计算效率和能效。计算下移可以采用定制的硬件加速器,如图形处理器(GPU)、向量处理器、FPGA(可编程逻辑门阵列)等,这些加速器专为特定类型的计算任务进行优化。

存内处理的关键点是将计算操作和数据紧密结合,以在存储器内部进行计算,而不需要将数据从存储器传输到计算单元。这种架构可以减少数据传输的需求,降低延迟,并提高计算效率和能效。存内处理的本质是将计算操作直接嵌入到存储器中,以在数据存储位置附近进行计算。


存内计算是真正的存算一体,在芯片设计过程不再区分存储和计算单元,真正实现存算融合。存内计算是计算新范式的研究热点,本质是利用不同存储介质的物理特性,对存储电路重新设计使其同时具备计算和存储能力,直接消除存算界限,在存储原位上实现计算。(后摩时代在2023.5.12发布的H30车载芯片应满足存算一体架构方案。)

标签:存储,架构,一体,内存,计算,解析,存算,处理器
From: https://www.cnblogs.com/yuxuliang/p/MyPIM.html

相关文章

  • 【触想智能】工业安卓一体机的基本组成结构你了解吗?
    工业安卓一体机是指采用ARM架构的工业一体机,也被称为安卓工控一体机。工业安卓一体机的主要作用是采集各渠道信息,并给出精确计算,同时发出正确的操作指令让外设完成设计的相应工作任务。目前工业安卓一体机已经在社会各行各业得到广泛应用,比如在工厂生产车间、智慧小区、......
  • 基于可穿戴的GPS定位存储模块方案特色解析
    前记 GPS作为一个位置定位手段,在日常生活中扮演着非常重要的角色。在研发动物可穿戴产品的同时。团队一直在做产品和模块标准化的事情,尽量把研发出来的东西标准化。按照任老板的说法,在追求理想主义的路上,不断孵化现实主义的产品与解决方案,攀登珠峰的征途中沿途下蛋。笔者非常赞......
  • 解析SQL语句
    为鉴权/血缘解析SQL语句背景:公司的数仓是集中式数仓,大部分业务公用hive环境,少部分业务通过数仓透出的文件进行数据交换。问题:所有业务都可以访问所有的hive表,急需要权限管控。那解析各个业务提交的SQL文件就成了首要任务。解决方案1.Jsqlparser是一个java的jar包,可以解析简......
  • xpath解析
     1.环境安装pipinstalllxml2.解析原理2.1实例化一个etree的对象,且将待解析的页面源码数据加载到该对象中2.2调用etree对象的xpath方法结合着不同的xpath表达式实现标签的定位和数据提取3.实例化etree对象etree.parse('filename'):将本地html文档加载到该对象中etree.HT......
  • Java大文件分片上传/多线程上传实例解析
    ​ javaweb上传文件上传文件的jsp中的部分上传文件同样可以使用form表单向后端发请求,也可以使用ajax向后端发请求    1. 通过form表单向后端发送请求         <formid="postForm" action="${pageContext.request.contextPath}/UploadServlet" method="pos......
  • Unity中的InitializeOnLoad特性:深入解析与实践
    Unity中的InitializeOnLoad特性:深入解析与实践在Unity开发过程中,我们经常需要在编辑器启动时或脚本重新编译后执行一些操作,例如初始化数据、注册事件等。这时,我们可以使用InitializeOnLoad特性来实现这一需求。本文将详细介绍InitializeOnLoad特性的用法,并通过三个实际案例来展示其......
  • 深度解析线程的正确停止方法
    深度解析线程的正确停止方法一、解惑1.什么情况下,线程需要被停止?线程和任务被创建和启动之后,大部分情况下都是自然运行到结束的,自然停止,但有些情况会需要用到停止线程,如:用户主动取消服务被快速关闭运行出错或超时情况下等线程都需要被停止这些情况都需要主动来......
  • 深度解析 slab 内存池回收内存以及销毁全流程
    在上篇文章《深入理解slabcache内存分配全链路实现》中,笔者详细地为大家介绍了slabcache进行内存分配的整个链路实现,本文我们就来到了slabcache最后的一部分内容了,当申请的内存使用完毕之后,下面就该释放内存了。在接下来的内容中,笔者为大家介绍一下内核是如何将内存......
  • 怎样才能建成成智慧绿色八防一体化的温湿度档案馆呢?!
    智慧档案馆八防环境监控系统一体化解决系统方案智慧档案库房一体化平台通过智慧档案管理,实现智慧档案感知协同处置功能;实现对档案实体的智能化识别、定位、跟踪监控;实现对档案至智能密集架、空气恒湿净化一体设备、安防设备,门禁设备等智能化巡检与即时处理。智慧档案平......
  • 【❧消息队列】解析 RocketMQ 业务消息——“事务消息”
    在分布式系统调用场景中存在这样一个通用问题,即在执行一个核心业务逻辑的同时,还需要调用多个下游做业务处理,而且要求多个下游业务和当前核心业务必须同时成功或者同时失败,进而避免部分成功和失败的不一致情况出现。简单来说,消息队列中的“事务”,主要解决的是消息生产者和消费者的......