首页 > 其他分享 >实践一下前几天的wordCount案例

实践一下前几天的wordCount案例

时间:2023-10-06 16:23:09浏览次数:24  
标签:wordCount 实践 hadoop 案例 job import apache org class

1、自己准备一个数据量比较小的txt文件

然后将其上传到虚拟机本地:

之后上传到hdfs里面:

2、编写代码

1、引入相关依赖

<dependencies>
        <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-common -->
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>3.3.0</version>
        </dependency>

        <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client -->
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-client</artifactId>
            <version>3.3.0</version>
        </dependency>

        <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-hdfs -->
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-hdfs</artifactId>
            <version>3.3.0</version>
            <scope>test</scope>
        </dependency>

        <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-mapreduce-client-core -->
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-mapreduce-client-core</artifactId>
            <version>3.3.0</version>
        </dependency>

        <!-- https://mvnrepository.com/artifact/junit/junit -->
        <dependency>
            <groupId>junit</groupId>
            <artifactId>junit</artifactId>
            <version>4.12</version>
            <scope>test</scope>
        </dependency>

    </dependencies>

2、编写mapper类

package org.example;

import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Mapper;

import java.io.IOException;

public class WordCountMapper extends Mapper<LongWritable,Text,Text,LongWritable> {
    @Override
    protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
        Text text=new Text();
        LongWritable longWritable=new LongWritable();

        String[] split=value.toString().split(",");

        for(String word:split){
            text.set(word);
            longWritable.set(1);
            context.write(text,longWritable);
        }
    }
}

3、编写reduce类

package org.example;

import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Reducer;

import java.io.IOException;

public class WordCountReducer extends Reducer<Text, LongWritable,Text,LongWritable> {
    @Override
    protected void reduce(Text key, Iterable<LongWritable> values, Context context) throws IOException, InterruptedException {
        long count=0;

        for(LongWritable value:values){
            count+=value.get();
        }

        context.write(key,new LongWritable(count));
    }
}

4、编写主类代码

package org.example;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.lib.input.TextInputFormat;
import org.apache.hadoop.mapreduce.lib.output.TextOutputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;

public class JobMain extends Configured implements Tool {

    @Override
    public int run(String[] strings) throws Exception {
        //创建一个job任务对象
        Job job=Job.getInstance(super.getConf(),"wordCount");

        //指定文件读取的路径和对象
        job.setInputFormatClass(TextInputFormat.class);
        TextInputFormat.addInputPath(job,new Path("hdfs://node1:2181/wordcount"));

        //指定map阶段的处理方式和数据类型
        job.setMapperClass(WordCountMapper.class);
        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(LongWritable.class);

        //指定reduce阶段的处理方式和数据类型
        job.setReducerClass(WordCountReducer.class);
        job.setOutputKeyClass(Text.class);
        job.setOutputValueClass(LongWritable.class);

        //设置输出类型
        job.setOutputFormatClass(TextOutputFormat.class);
        TextOutputFormat.setOutputPath(job,new Path("hdfs://node1:2181/wordcount"));

        //等待任务结束
        boolean b1=job.waitForCompletion(true);
        return b1?0:1;
    }

    public static void main(String[] args) throws Exception {
        Configuration configuration=new Configuration();
        //启动job任务
        int run= ToolRunner.run(configuration,new JobMain(),args);

        System.exit(run);
    }
}

3、代码运行

1、进行代码打包

clean之后package:

在target下面看到jar包啦:

将jar包上传到虚拟机本地:

使用rz -E命令在本地查找jar包并上传;

然后使用hadoop命令进行使用:

hadoop jar testHadoop1006-1.0-SNAPSHOT.jar org.example.JobMain

然后运行即可;

标签:wordCount,实践,hadoop,案例,job,import,apache,org,class
From: https://www.cnblogs.com/liuzijin/p/17744547.html

相关文章

  • 架构案例收集
    淘宝技术这十年饿了么交易系统5年演化史:https://mp.weixin.qq.com/s/pZlFov4irxAMclY_628Zug50份架构文档荟萃(分布式事务-缓存-消息-搜索、电商、支付,多活...  https://mp.weixin.qq.com/s/nPjTV11NgPUvvn1kO11UPg......
  • 深度学习模型部署与优化:策略与实践;L40S与A100、H100的对比分析
    ★深度学习、机器学习、生成式AI、深度神经网络、抽象学习、Seq2Seq、VAE、GAN、GPT、BERT、预训练语言模型、Transformer、ChatGPT、GenAI、多模态大模型、视觉大模型、TensorFlow、PyTorch、Batchnorm、Scale、Crop算子、L40S、A100、H100、A800、H800随着生成式AI应用的迅猛发展......
  • linux 新增磁盘通过fstab自动挂载重启系统后系统故障案例
    鱼弦:内容合伙人、新星导师、全栈领域创作新星创作者、51CTO(Top红人+专家博主)、github开源爱好者(go-zero源码二次开发、游戏后端架构https://github.com/Peakchen)当在Linux系统中新增磁盘并通过fstab自动挂载后,如果在重启系统后发生系统故障,可能是由于磁盘挂载不正确导致的。下......
  • 《软件工程:方法与实践》读书笔记1
    精益的思想本来就是源于汽车制造业,这本书就直接用日本丰田的实例很形象的告诉了我们什么是精益的思想。精益思想的核心是“消除浪费”,但是这个“浪费”和普遍被认可的观点有一些区别比如:仓库里还有原材料的剩余,普遍思想是全力生产产品以降低每个产品的平均的设备成本;然而,对于精......
  • SQL SERVER 存储过程执行日志记录方法(有案例)
    查询历史执行总体情况SELECTTOP100db_name(d.database_id)asDBName,s.nameas存储名称,s.type_descas存储类型,d.cached_timeasSP添加到缓存的时间,d.last_execution_timeas上次执行SP的时间,d.last_elapsed_timeas[上次执行SP所用的时间(μs)],......
  • 武汉星起航:注重实践与理论相结合的亚马逊卖家孵化专家
    在跨境电商的激烈竞争中,拥有扎实的实践经验和深入的理论知识是成功的关键。武汉星起航电子商务有限公司就是一个以自营起家的企业,我们开设的亚马逊店铺不仅为自身带来了商业成功,更为星起航的卖家孵化业务做出了有力的支撑和铺垫。自营起家,实践经验为基石:我们深知亚马逊平台的运营规......
  • uniapp项目实践总结(二十七)苹果应用商店上架教程
    导语:之前介绍了如何打包一个苹果安装包文件,如果想要上架苹果ios应用商店,那么就来这里学习一下方法吧。目录准备材料上架步骤审核事项准备材料基本信息构建版本:需要一个ipa格式安装包;logo:你应用的logo图标;应用名称:名称经过审核后才会显示在AppStore中;应用......
  • 汽车之家主机厂离线化 H5 Hybrid 实践
    1.背景H5页面做秒开优化是业务的常规操作,一般正常通过网络请求的H5页面,我们都是围绕资源加载速度优化展开。优化手段主要分两个方向,一个是提升网络速度,一个是减少资源大小。提升网络速度,一般的手段有DNS预解析、多域名、升级HTTP2、使用CDN、SSR。而即使有......
  • 汽车之家主机厂离线化 H5 Hybrid 实践
    1.背景H5页面做秒开优化是业务的常规操作,一般正常通过网络请求的H5页面,我们都是围绕资源加载速度优化展开。优化手段主要分两个方向,一个是提升网络速度,一个是减少资源大小。提升网络速度,一般的手段有DNS预解析、多域名、升级HTTP2、使用CDN、SSR。而即使有......
  • 汽车之家主机厂离线化 H5 Hybrid 实践
    1.背景H5页面做秒开优化是业务的常规操作,一般正常通过网络请求的H5页面,我们都是围绕资源加载速度优化展开。优化手段主要分两个方向,一个是提升网络速度,一个是减少资源大小。提升网络速度,一般的手段有DNS预解析、多域名、升级HTTP2、使用CDN、SSR。而即使有......