首页 > 其他分享 >mapreduce和yarn集群

mapreduce和yarn集群

时间:2022-09-21 13:46:21浏览次数:59  
标签:mapreduce yarn 架构图 容错性 集群 计算

mapreduce :

 先分再合,分而治之

 

 

 

 

 

 分布式计算概念:

计算方式,与集中式计算相对。将应用拆分成小的部分,分配给多台计算机处理,mapreduce是分布式的计算框架。

MR的特点:易于编程,良好的扩展性,高容错性,海量数据的离线处理

局限性:实时计算性差,不能进行流式计算

 

 

  

 

 

 

 练习了一下mapreduce提交到yarn,运行求pi和求wordcount

 

 

 

 

  

 

 

 

  

 

 yarn:

 

 yarn是一个通用的资源管理系统

 

 

 

 yan的官方架构图:

 

 

 

 

 yarn的三大组件

 

  

 

 

 

 

 

 

 

标签:mapreduce,yarn,架构图,容错性,集群,计算
From: https://www.cnblogs.com/diandianzai/p/16715299.html

相关文章

  • 基于Kuboard实现k8s单master集群安装
    一、安装要求采用Kuboard方式安装有一定的安装要求:至少2台 2核4G 的服务器CentOS7.6/7.7/7.8/7.9kubernetesv1.19.x版本采用的Docker,而之上的版本使用的是......
  • 第二章 ES数据操作与集群
    一、回顾1.介绍ES2.ES原理3.ES功能4.ES使用场景5.ES安装1)ES配置文件(单点配置)[root@es01~]#grep'^[a-z]'/etc/elasticsearch/elasticsearch.ymlnode.name:es-1......
  • 出现yarn启动项目失败
    $yarnrunserveyarnrunv1.22.19$vue-cli-serviceserve'vue-cli-service'不是内部或外部命令,也不是可运行的程序或批处理文件。errorCommandfailedwithexit......
  • 27-MapReduce架构设计和企业最佳案例(上)_ev
            MapReduce流程图    播客  ......
  • elasticsearch集群搭建
    1、配置java环境2、配置内核参数vim/etc/security/limits.conf*softnofile65536*hardnofile65536*softnproc2048*hardnproc2048*softmemlockunlimi......
  • sentinel集群限流
    1、概述1.1、背景第三方接口有限流,需要根据第三方的限流提前控制流量,防止调用第三方接口被限流。1.2、目的研究sentinel中间件的限流是否符合我们需要的业务场景。......
  • RabbitMQ集群脑裂故障处理
    网络抖动或故障均可能会导致RabbitMQ集群发生脑裂故障,在不同节点的RabbitMQ管理界面上可以看出其他节点存在红色不可用,显示错误信息如下NetworkpartitiondetectedMnesi......
  • Hadoop集群启动没有DataNode进程
    问题状况:问题原因:在启动Hadoop之前,进行了多次格式化,导致DataNode的ID发生了变化解决方案:我们可以删除从节点所有的DataNode资料,并重新格式化解决流程1、根据core-si......
  • 集群启动/停止方式总结
    1)各个模块分开启动/停止(配置ssh是前提)常用(1)整体启动/停止HDFSstart-dfs.sh/stop-dfs.sh(2)整体启动/停止YARNstart-yarn.sh/stop-yarn.sh2)各个服务组件逐一启动/停......
  • MongoDB集群的variety执行
    创建结果数据库   1.创建一个新的存储数据库用来保存分析结果     usekeyTest     db.createUser({       user:"root",   ......