首页 > 其他分享 >Hadoop YARN生产环境核心配置参数

Hadoop YARN生产环境核心配置参数

时间:2023-12-17 13:22:07浏览次数:35  
标签:resource Hadoop yarn 默认 参数 YARN nodemanager 核数 内存

1.ResourceManager相关

配置参数 说明 默认值 备注
yarn.resourcemanager.scheduler.class 配置调度器,默认为容量调度器(Apache) org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler 对并发度要求高,首选公平调度器,对并发度要求不高,则选择容器调度器
yarn.resourcemanager.scheduler.client.thread-count ResourceManager处理调度器请求的线程数量 50 根据资源和任务的数量调控

2.NodeManager相关

管理单节点上面的资源

配置参数 说明 默认值 备注
yarn.nodemanager.resource.detect-hardware-capabilities 是否让yarn自己检测硬件进行配置,默认false false 小白就true,大佬就false
yarn.nodemanager.resource.count-logical-processors-as-cores 是否将虚拟核数当作cpu核数,默认false false 强悍的cpu应该开启?
yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数,例如:4核心8线程,该参数应设置为2,默认1.0 1.0 强悍的cpu应该配置?
yarn.nodemanager.resource.memory-mb NodeManager使用内存,默认8G 8192 根据实际物理内存调整
yarn.nodemanager.resource.system-reserved-memory-mb NodeManager为系统保留多少内存,和NodeManager使用内存配置一个即可 -1 根据实际环境调整
yarn.nodemanager.resource.cpu-vcores NodeManager使用CPU核数,默认8个 8 根据实际环境调整
yarn.nodemanager.pmem-check-enabled 是否开启物理内存检查限制container,默认打开 true 推荐打开,防止内存使用溢出
yarn.nodemanager.vmem-check-enabled 是否开启虚拟内存检查限制container,默认打开 true 推荐打开,防止内存使用溢出
yarn.nodemanager.vmem-pmem-ratio 虚拟内存和物理内存的比例 2.1 根据实际环境调整

标签:resource,Hadoop,yarn,默认,参数,YARN,nodemanager,核数,内存
From: https://www.cnblogs.com/fanqisoft/p/17908975.html

相关文章

  • 前端歌谣-第伍拾九课-路由获取请求参数
    前言我是歌谣微信公众号关注前端小歌谣一起学习前端知识今天继续给大家讲解获取请求参数的讲解案例1api.jsfunctionrender(res,data,type=""){res.writeHead(200,{"content-Type":`${type?type:"application/json"};charset=utf-8`})res.write(data)res.en......
  • 自动巡航汽车的系统稳定性参数调整
    自动巡航汽车的系统稳定性参数调整,Lyapunov稳定性公式的matlab编程。资源文件列表fichierspoursimulation/Copiedesys_cond.m , 93fichierspoursimulation/DEMO11.M , 1252fichierspoursimulation/DEMO11.MAT , 4072fichierspoursimulation/demo11V2.m , 1371fichiers......
  • Java之可变参数和Collections的详细解析
     1.可变参数在JDK1.5之后,如果我们定义一个方法需要接受多个参数,并且多个参数类型一致,我们可以对其简化.格式:修饰符返回值类型方法名(参数类型...形参名){}底层:其实就是一个数组好处:在传递数据的时候,省的我们自己创建数组并添加元素了,JDK底层帮我们自动创建数组并添加元素了......
  • Hadoop YARN
    1.Yarn资源调度器Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式的操作系统平台,而MapReduce等运算程序则相当于运行于操作系统之上的应用程序。1.Yarn基础架构Yarn主要由ResourceManager、NodeManager、ApplicationMaster和Container等组件构成。1.......
  • SpringBoot-Validate优雅实现参数校验
    1、是什么?它简化了JavaBeanValidation的集成。JavaBeanValidation通过JSR380,也称为BeanValidation2.0,是一种标准化的方式,用于在Java应用程序中对对象的约束进行声明式验证。它允许开发人员使用注解来定义验证规则,并自动将规则应用于相应的字段或方法参数为了我们......
  • Hadoop 数据压缩
    1.概述1.好处&坏处优点:减少磁盘IO、减少磁盘存储空间缺点:增加CPU开销2.压缩的原则运算密集型的Job,少用压缩IO密集型的Job,多用压缩2.MR支持的压缩编码1.压缩算法对比介绍压缩格式Hadoop自带?算法文件扩展名是否可切片换成压缩格式后,原来的程序是否需要修改......
  • 用户参数变量和用户定义变量的区别
    一、用户定义变量1:用户定义变量只在启动时获取一次值,在运行过程中不再动态获取变量的值,以下为单线程、单循环的结果  2、继续使用用户定义变量,改为单线程多循环 二、用户参数1、用户参数在启动时会自动获取一次值,在后面运行的过程中也会重新获取一次值设置参数: 使......
  • 前端歌谣-第伍拾九课-路由获取请求参数
    前言我是歌谣微信公众号关注前端小歌谣一起学习前端知识今天继续给大家讲解获取请求参数的讲解案例1api.jsfunctionrender(res,data,type=""){res.writeHead(200,{"content-Type":`${type?type:"application/json"};charset=utf-8`})res.write(data)res.en......
  • Hadoop快速入门
    Hadoop快速入门一、大数据思维分而治之所谓“分而治之”,就是把一个复杂的算法问题按一定的“分解”方法分为等价的规模较小的若干部分,然后逐个分别找出各部分的解,再把各部分的解组成整个问题的解。传统的计算都是基于内存去完成的,但是内存是有限的,数据量太大,导致无法在较短......
  • 14. 从零用Rust编写正反向代理, HTTP文件服务器的实现过程及参数
    wmproxywmproxy是由Rust编写,已实现http/https代理,socks5代理,反向代理,静态文件服务器,内网穿透,配置热更新等,后续将实现websocket代理等,同时会将实现过程分享出来,感兴趣的可以一起造个轮子法项目++wmproxy++gite:https://gitee.com/tickbh/wmproxygithub:https://github.com/tic......