首页 > 其他分享 >算子并行度和全局并行度

算子并行度和全局并行度

时间:2024-03-12 14:57:49浏览次数:7  
标签:map stream 并行度 setParallelism 算子 全局

在Flink中,有两种类型的并行度:算子并行度(Operator Parallelism)和全局并行度(Global Parallelism)。

  1. 算子并行度(Operator Parallelism):

    • 算子并行度指的是每个算子实例的并行度。在Flink中,每个算子(例如mapfilter等)都可以独立设置其并行度。这表示算子将会有多个并发的实例,每个实例处理输入数据的一个子集。你可以通过setParallelism方法来设置算子的并行度。
    java DataStream<T> stream = ...; stream.map(new MyMapFunction()).setParallelism(4);
  2. 全局并行度(Global Parallelism):

    • 全局并行度是整个应用程序中并行度的一个全局设置。你可以通过setParallelism方法在执行环境或数据流上设置全局并行度。这会影响到所有算子,除非某个算子显式设置了自己的并行度。
    java StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.setParallelism(3); DataStream<T> stream = ...; // 此处的 map 算子将会继承全局并行度,除非它自己显式设置了并行度 stream.map(new MyMapFunction());

总体而言,全局并行度是整个应用程序的默认并行度,而算子并行度是对某个具体算子的设置。算子并行度可以覆盖全局并行度,如果某个算子设置了独立的并行度,它将以自己的并行度为准。

标签:map,stream,并行度,setParallelism,算子,全局
From: https://www.cnblogs.com/guoyu1/p/18068298

相关文章

  • 全局地图+router-view实现方式
    框架构建:业务需求:地图或者cesium为项目基本组件,且公用,在各个页面中开发对应功能方法实现:1,构建layout//原则上我们使用router-view控制页面,即使用路由调用各个页面//在layout中我们需要给一个div挂载对应的地图实例//将router-view覆盖于实例之上//注意//router-view的tr......
  • Spring-@ControllerAdvice-全局处理注解
    1,@ControllerAdvice介绍@ControllerAdvice是Spring框架提供的一个注解,用于定义全局的异常处理器和全局数据绑定。它通常用于集中处理应用程序中的异常,并提供统一的异常处理逻辑。2,@ControllerAdvice的基本使用packageorg.springframework.web.bind.annotation;importj......
  • Java自定义异常和全局异常处理
    1、自定义异常:自定义异常类 BusinessExceptionextendsRuntimeException:RuntimeException是Java提供的一个运行时异常类。publicclassBusinessExceptionextendsRuntimeException{privateintcode;//使用枚举构造publicBusinessException(HttpCodeEn......
  • ULID(Universally Unique Lexicographically Sortable Identifier)是一种用于生成全局唯
    ULID(UniversallyUniqueLexicographicallySortableIdentifier)是一种用于生成全局唯一、可按字典序排序的标识符的格式。ULID结合了时间戳和随机数的特性,旨在提供高性能、低碰撞、可排序和易读的标识符。ULID的主要特点包括:全局唯一性:通过结合时间戳和随机数的方式,ULID可以生......
  • python接口自动化系列(10):保存全局变量
     本系列汇总,请查看这里:https://www.cnblogs.com/uncleyong/p/18033074实现目标如果后续有请求依赖本次请求的响应结果,那么把依赖数据保存到全局变量,比如token 安装模块jsonpath用于解析json数据pipinstalljsonpath 修改工具类global_variable_tool.py添加方法,用于......
  • pnpm link --global 用于全局链接本地开发的包
    pnpmlink--global是pnpm(一个更快、更节省磁盘空间的Node.js包管理器)中的命令,它用于全局链接本地开发的包。当你在开发一个自定义的npm包,并希望在全局环境中像已安装的全局包那样试用它时,可以使用pnpmlink--global命令。具体步骤如下:首先,确保你已经在你的包目录中......
  • Vue3通过provide/inject设置全局变量
    在Vue3中,你可以使用组合API来注入和使用全局变量。组合API提供了一种更灵活的方式来组织和重用组件逻辑,包括全局状态的管理。以下是在Vue3中使用组合API来注入和使用全局变量的基本步骤:创建全局变量:在一个单独的文件中,创建全局变量并导出它,使其可在整个应用中使用......
  • Vue CLI 系列之(十二)全局事件总线
    全局事件总线【GlobalEventBus】......
  • 假期vue学习笔记09 全局事件总栈
     <template>  <div class="school">    <h2>学校名称:{{name}}</h2>     <h2>学校地址:{{address}}</h2>  </div></template><script>  exportdefault{    name:'School'......
  • FastAPI系列:全局routes参数的使用
    全局routes参数的使用fromfastapiimportFastAPI,Requestfromfastapi.responseimportJSONResponsefromfastapi.routingimportAPIRouteasyncdeffastapi_index():returnJSONResponse({'index':'fastapi_index'})asyncdeffastapi_about()......