首页 > 其他分享 >Hadoop-MapReducer学习

Hadoop-MapReducer学习

时间:2022-08-31 19:12:33浏览次数:71  
标签:文件 逻辑 自定义 分区 Hadoop 默认 学习 MapReducer 排序

一、InputFormat

1.默认的是TextInputFormatkey偏移量,value一行内容。

2.处理小文件CombineTextInputFormat把多个文件合并到一起统一切片。

二、Mapper

setup()初始化;map()用户的业务逻辑;clearup()关闭资源

三、分区

1.默认分区HashPartitioner,默认按照keyhash值%numreducertask的个数

2.自定义分区

四、排序

1.部分排序:每个输出的文件内部有序。

2.全排序:一个reducer,对所有数据大排序。

3.二次排序:自定义排序范畴,实现writableCompare接口,重写compareTo方法(总流量排序 按照上行流量 正序)

五、Combiner

1.前提:不影响最终的业务逻辑(求和)

2.提前聚合map => 解决数据倾斜的一种方法

六、Reducer

1.用户的业务逻辑

2.setup()初始化;reducer()用户的业务逻辑;clearup()关闭资源

七、OutputFormat

1.默认TextOutputFormat按行输出到文件

2.自定义

标签:文件,逻辑,自定义,分区,Hadoop,默认,学习,MapReducer,排序
From: https://www.cnblogs.com/lzp0927/p/16644242.html

相关文章

  • vue3进阶学习
    vue3进阶学习官方网站:https://v3.vuejs.org/中文文档:https://staging-cn.vuejs.org/guide/introduction.html目的:加强对vue3的学习了解vue3在生产环境下需要安装......
  • 2022-8-31 第一组 (≥▽≤) 学习笔记
    目录1.JSPJSP表达式JSP声明片段JSP的指令标识JSP标签内置标签JSTL标签自定义标签JSP的作用域2.EL表达式EL表达式的内置作用域对象EL表达式的缺陷面试题1.JSPJSP脚本片段:......
  • 移动测试学习
    移动测试一、兼容性测试1、WEBWEB:EDGE,Chrome,Firefox,苹果浏览器移动互联网:UC浏览器,QQ浏览器2、APP①、操作系统:需要考虑APP在主流平台上的页面展示和样式的加载,目前考......
  • HTML入门2(学习Head First HTML与CSS 第2版)
    <a>元素的内容会成为Web页面中可单击的文本。href属性告诉浏览器链接的目标文件。<ahref="链接地址">链接名称</a>1.一个页面链接到另一个页面,要使用<a>标签。2.<a>元......
  • AI智能分析网关包含哪些深度学习算法?如何赋能场景应用?
    AI深度学习技术正在呈现飞速增长的状态,有数据分析预测,到2030年,AI有望实现13万亿美元的市场规模。尤其是伴随着智慧城市、智能交通、工业互联网、生产制造等应用场景对视频......
  • fastjson漏洞利用学习
    FastJson漏洞利用学习前置知识了解Fastjson反序列化漏洞我们还需要一些前置知识。好比如什么是JNDI,JNDI注入?JNDI简介JNDI(JavaNamingandDirectoryInterface,Java命......
  • VUE学习2
    目录分析public目录index.html是起始的html文件#这是关键<divid="app"></div>src目录main.js是Vue项目的入口文件属性props:接受父组件传过来的值props:{m......
  • Hadoop优化
    天气案例随机生成温度代码;并写入到文件中需求:求每年2月份的最高温度packageutils;importjava.io.BufferedWriter;importjava.io.FileWriter;importjava.io.IO......
  • [ROS学习]11. 服务数据(srv)的定义与使用
    笔记参考:ROS学习笔记】11.服务数据(srv)的定义与使用内容参考:基于B站ROS公开课:【古月居】古月·ROS入门21讲本节说明前面讲了两个Service模式的例子,分别用到了两种服务......
  • shell脚本学习
    shell学习1、解释器#!/bin/bash#是注释符号#!是特殊的符号2、赋权限chmod700fliename#没有赋执行权限的文件不能用./执行用户,所在组,其他3、特殊符号解......