• 2024-07-02C# 中的并发和并行
    介绍并发和并行是现代编程中的关键概念,可帮助开发人员创建高效、响应迅速、高性能的应用程序。在C#中,这些概念尤其重要,因为该语言对多线程和异步编程提供了强大的支持。本文介绍了C#中的并发和并行,包括关键概念、优点和实际示例。并发C#中的并发涉及同时管理多个任
  • 2024-07-01探秘数据库中的并行计算技术应用
    本文分享自华为云社区《【GaussTech技术专栏】数据库中并行计算技术应用探秘》,作者:GaussDB数据库。并行计算是提高系统性能的重要手段之一。该技术是通过利用多台服务器、多个处理器、处理器中的多核以及SIMD指令集等技术,实现任务的并行化处理,从而加快任务处理的速度。同时,在多个
  • 2024-06-21transformer原理
     Transformer注意力架构原理 输入层 embedding词嵌入向量 将文本中词汇的数字表示转变为向量表示,在这样的高维空间捕捉词汇间的关系 语义相近的词语对应的向量位置也更相近 每个词先通过词典转换成tokenId,在把tokenId转化为一个512纬的向量 位置编码 将每个词的位置
  • 2024-06-17【简单讲解下OneFlow深度学习框架】
  • 2024-06-15Java并行世界的钥匙:一文带你了解Java ForkJoin并行框架
    Fork/Join框架是Java7引入的一个并行计算框架,主要用于处理可以通过递归分解成更细小的任务的场景。其基本结构和工作流程可以从以下几个方面进行详细解析:核心类ForkJoinPool:这是一个线程池类,用于执行ForkJoinTask任务。ForkJoinWorkerThread:这是执行任务的具体线程实体
  • 2024-06-15并行和并发
    并行我们举个例子,如果有条高速公路A上面并排有8条车道,那么最大的并行车辆就是8辆,此条高速公路A同时并排行走的车辆小于等于8辆的时候,车辆就可以并行运行。CPU也是这个原理,一个CPU相当于一个高速公路A,核心数或者线程数就相当于并排可以通行的车道;而多个CPU
  • 2024-06-13线程、进程、并发和并行的概念
    线程、进程、并发和并行的概念进程:是指一个在内存中正在运行的程序,是操作系统分配资源(文件、io、网络、内存等资源)的基本单位。一个程序文件(也就是我们编写、编译好的程序,是保存在磁盘中的,例如.exe程文件),当我们点击,程序文件就被加载到内存中,也就创建了一个进程。同一个程
  • 2024-06-12GitHub标星破千!这份Python并行编程手册,可以封神了!
    现在这个时代是并行编程与多核的时代,硬件成本越来越低,如何充分利用硬件所提供的各种资源是每一个软件开发者需要深入思考的问题。若想充分利用所有的计算资源来构建高效的软件系统,并行编程技术是不可或缺的一项技能。今天给小伙伴们分享的这份手册一共分为6章,从原理到实践系统
  • 2024-06-12一个串行程序,94%的执行时间花费在一个可以并行化的函数中。现使其并行化,问该并行程序在10个处理机上执行所能达到的加速比是多少?能达到的最大加速比是多少?2)一个并行程序,在单个处理机上执行,6
    经测试发现,1)一个串行程序,94%的执行时间花费在一个可以并行化的函数中。现使其并行化,问该并行程序在10个处理机上执行所能达到的加速比是多少?能达到的最大加速比是多少?2)一个并行程序,在单个处理机上执行,6%的时间花费在一个I/O函数中,问要达到加速比10,至少需要多少个处理机?
  • 2024-06-09Star-ccm+网格划分技巧之网格类型及适用场合
    大家在进行网格划分时有没有遇到这样的情况:1、画网格时间很长;2、画网格到中途发生错误,这时候就要用到并行网格划分(ParallelMeshing)。并行网格划分(ParallelMeshing)就是使用多个内核数来加速网格生成,同时比单个内核创建更大的网格。在对大型零件进行网格划分时,此功能特别有
  • 2024-06-09Java虚拟机,并发与并行的并存
    ZYCEONGAO:场景:尽管多核处理器提供了并行执行的物理条件,但并非所有场景都能够或应该完全并行化。 线程数超过核心数:当应用程序创建的线程数量超过了处理器的核心数,操作系统会采用类似单核处理器上的时间片轮转策略,轮流将线程分配到各个核心上执行。这意味着,即使在多核环
  • 2024-06-08快速使用 ThreadPoolExecutor 并行加速
    总览一般的Python脚本只会用上单线程。对于IO密集型任务,用多线程加速会快得多。本文会给出一个模板,使用ThreadPoolExecutor进行并行加速。注意,由于GIL的存在,对于CPU密集型任务ProcessPoolExecutor是更好的选择。快速使用ThreadPoolExecutor请看以下模板。fro
  • 2024-06-06Ascend训练软件栈了解
    一.分布式大模型训练的完整流程及注意事项1.迁移分析模型选取与约束说明:确保模型能在GPU或CPU上运行并获取性能基线,了解不支持场景,如DP模式、APEX库、bmtrain框架等。支持度分析:使用msFmkTransplt工具分析模型算子、三方库、亲和API和动态shape在昇腾平台上的支持情
  • 2024-06-05ParallelStream
    目录前言认识和开启并行流测试并行流的性能并行流可以随便用吗?可拆分性影响流的速度共享变量修改的问题并行流的使用注意前言在Java7之前,如果想要并行处理一个集合,我们需要以下几步手动分成几部分为每部分创建线程在适当的时候合并并且还需要关注多个线程之间共
  • 2024-05-29《JAVA基础》stream流操作--从0开始上操作!!
    小蒋:        在java开发的不同场景下,会出现很多种可能性。所以掌握多种编程的方法可以让开发更多可能。Java中的Stream流操作是Java8及更高版本中引入的一种高级数据处理机制,它提供了一种声明式的编程模型,用于处理集合、数组或其他数据源中的数据序列。StreamAPI使
  • 2024-05-25端到端自适应大规模分布式训练技术
    端到端自适应大规模分布式训练技术随着2020年GPT-31750亿超大语言预训练模型的提出,语言、视觉、多模态等领域也随即发布多种超大规模预训练模型,不仅模型参数量越来越大,训练数据量和计算量也相应变大。针对大规模稠密参数模型高效训练问题,飞桨于2021年初在业内首发4D混合
  • 2024-05-21进程&线程、并行&并发
    什么是进程开发写的代码我们称为程序,那么将开发的代码运行起来。我们称为进程。通俗解释当我们运行一个程序,那么我们将运行的程序叫进程。专业解释进程是申请一块内存空间,将数据放到内存空间中去,是申请数据的过程是最小的资源管理单元进程是线程的容器程序与进
  • 2024-05-19php 异步并行后续--兼容FPM使用的组件
    上次给人推荐了这篇文章,关于PHP异步并行的文章,之后有人评论问这个组件能不能给fpm用,我测试了一下发现不行,于是又找到一个可以给fpm用的http请求组件.安装很简单,就这样  composerrequireguzzlehttp/guzzle 进行安装一下.然后代码示例如下:我们先建一个文件作为一个长
  • 2024-05-16并行排除任务代码
    classSuperTask{   constructor(parallelCount=2){    this.parallelCount=parallelCount;    this.tasks=[];    this.runningCount=0;   }   add(task){    returnnewPromise((resolve,reject)=>{
  • 2024-04-23记一个简单工作流引擎的变更历史
    记一个简单工作流引擎的变更历史: 老板要我开发一个简单的工作流引擎 第1关一天,老板找到我,说要做个简单的工作流引擎。我查了一天啥是工作流,然后做出了如下版本:按顺序添加任意个审批人组成一个链表,最后加一个结束节点记录当前审批人,当审批完后,审批人向后移动一位当审批人
  • 2024-04-18ETLCloud中多并行分支运行的设计技巧
    在大数据处理领域,ETL(Extract, Transform, Load)流程是至关重要的一环,它涉及数据的提取、转换和加载,以确保数据的质量和可用性。而在ETL流程中,多并行分支的运行设计是一项关键技巧,可以有效提升处理效率和性能。在本文中,我们将探讨优化ETLCloud中多并行分支运行的设计技巧和最佳实
  • 2024-04-17MapReduce:简化集群上的大数据处理.18139822
    本文是论文《MapReduce:SimplifiedDataProcessingonLargeClusters》的翻译。原作者:JeffreyDeanandSanjayGhemawat@Google,Inc.为了刷MIT6.8242021,分布式系统课程,可以去B站看下,也有Lab可以刷概述MapReduce是一个针对处理大数据集的编程模型以及关联实现。用户
  • 2024-04-14深入理解并发和并行
    深入理解并发和并行1并发与并行为什么操作系统上可以同时运行多个程序而用户感觉不出来?因为操作系统营造出了可以同时运行多个程序的假象,通过调度进程以及快速切换CPU上下文,每个进程执行一会就停下来,切换到下个被调度到的进程上,这种切换速度非常快,人无法感知到,从而产生了多个任
  • 2024-04-14哪(个)些特性功能不用于数据的查询优化?() 并行查询 索引 视图 分区
    哪(个)些特性功能不用于数据的查询优化?()并行查询索引视图分区视图并不在数据库中以存储的数据值集形式存在,而仅仅是一个给用户展示的逻辑虚表,其在数据库中底层还是以完整的数据存储。数据的查询优化策略:避免全表扫描,采用分区的形式,找到指定区域来避免全表查询。建
  • 2024-04-13深入理解并发和并行
    1并发与并行为什么操作系统上可以同时运行多个程序而用户感觉不出来?因为操作系统营造出了可以同时运行多个程序的假象,通过调度进程以及快速切换CPU上下文,每个进程执行一会就停下来,切换到下个被调度到的进程上,这种切换速度非常快,人无法感知到,从而产生了多个任务同时运行的错觉。