首页 > 其他分享 >Hadoop 配置的优先级

Hadoop 配置的优先级

时间:2023-12-11 13:22:53浏览次数:37  
标签:xml hdfs 优先级 default 配置 Hadoop IOException import throws

从低到高

1.默认配置

默认文件 文件存放在Hadoop的jar包中的位置
core-default.xml hadoop-common-3.3.6.jar/core-default.xml
hdfs-default.xml hadoop-hdfs-3.3.6.jar/hdfs-default.xml
yarn-default.xml hadoop-yarn-common-3.3.6.jar/yarn-default.xml
mapred-default.xml hadoop-mapreduce-client-core-3.3.6.jar/mapred-default.xml

2.自定义配置文件

core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置存放在$HADOOP_HOME/etc/hadoop这个路径上,用户可以根据项目需求重新进行修改配置。

3.调用API程序的资源目录下的配置文件

core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置存放在项目的src/main/resources/ 路径下

4.调用API程序的配置类

package cn.coreqi.hdfs;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.After;
import org.junit.Before;
import org.junit.Test;

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

/**
 * 客户端代码步骤
 * 1.首先获取一个客户端对象
 * 2.执行相关的操作命令
 * 3.关闭资源
 */
public class HdfsClient {

    /**
     * 客户端对象
     */
    private FileSystem fs;

    /**
     * 初始化客户端对象
     * @throws IOException
     * @throws InterruptedException
     * @throws URISyntaxException
     */
    @Before
    public void init() throws IOException, InterruptedException, URISyntaxException {
        // 需要连接的Hadoop NameNode地址
        URI uri = new URI("hdfs://192.168.58.130:8020");
        // 创建一个配置文件
        Configuration configuration = new Configuration();
        configuration.set("dfs.replication","7");   //设置默认副本数量为7
        // 用户
        String user = "root";
        // 获取客户端对象
        fs = FileSystem.get(uri, configuration,user);
    }

    /**
     * 释放客户端资源
     * @throws IOException
     */
    @After
    public void close() throws IOException {
        // 关闭资源
        fs.close();
    }

    /**
     * 创建目录
     * @throws IOException
     */
    @Test
    public void testMkdirs() throws IOException{
        // 创建一个文件夹
        fs.mkdirs(new Path("/coreqi"));
    }

    @Test
    public void testPut() throws IOException {
        // 参数解析
        // 参数一,表示是否删除源数据
        // 参数二,是否允许覆盖
        // 参数三,源数据路径
        // 参数四,目标路径
        //fs.copyFromLocalFile(false,false,new Path("C:\\Users\\fanqi\\Desktop\\bda6f29e-29de-4b9d-aa01-8c0fa850f99b.webp"),new Path("\\coreqi\\1.webp"));
        fs.copyFromLocalFile(false,false,new Path("C:\\Users\\fanqi\\Desktop\\bda6f29e-29de-4b9d-aa01-8c0fa850f99b.webp"),new Path("hdfs://192.168.58.130/coreqi/2.webp"));
    }
}

标签:xml,hdfs,优先级,default,配置,Hadoop,IOException,import,throws
From: https://www.cnblogs.com/fanqisoft/p/17894162.html

相关文章

  • jmeter常用配置、脚本
    一、CSV数据文件读取、和写入CSV读取MYSQL数据库的配置可参考:https://www.cnblogs.com/snailon/articles/17102671.html1.读取CSV文件(读取文件可以放bin目录下,就可以不用写绝对路径,写文件名称即可)2.提取的值(encryToken,signToken,vin,userId)写入csv,代码如下:FileWriterfstream......
  • Nacos 配置中心源码
    客户端入口在引入配置中心maven依赖的jar文件中找到spring-cloud-starter-alibaba-nacos-config-2.2.5.RELEASE.jar!/META-INF/spring.factories,在该配置文件找到NacosConfigBootstrapConfiguration配置类,该类是nacos配置中心的入口类,类中注册了三个bean。NacosCon......
  • [linux] [Centos8] 一台虚拟机的安装配置全过程
    今年7月的时候刚学linux,写过几篇配置,结果学得越多才发现已经过时了,这两天重装的时候被自己的文章搞晕了......
  • SpringBootTest测试配置
    在使用SpringBootTest测试的时候,如果配置文件里面使用了属性判断,使用logback-spring.xml时,有下面的配置:<ifcondition='!property("spring.profiles.active").contains("dev")'><then><appendername="stash"class="......
  • Net Core 伪静态配置
    创建伪静态类usingMicrosoft.AspNetCore.Mvc.ApplicationModels;usingSystem.Text;namespaceMicro.Web{publicclassHtmlExtensionPageRouteModelConvention:IPageRouteModelConvention{publicvoidApply(PageRouteModelmodel){......
  • 分布式配置中心
    为什么要有分布式配置中心:1、项目背景现在有一个项目,使用SSM进行开发的,配置文件的话我们知道是一个叫做application.properties的文件。#业务参数相关配置user.register.default.name=小强user.register.default.sex=男这个配置文件会在项目启动的时候被加载到内......
  • java中C3P0、Druid、HikariCP 、DBCP连接池的jar包下载与IDEA配置
    ##一、什么是连接池连接池是应用程序与数据库之间的一个缓冲区,它存储了一定数量的空闲数据库连接,当应用程序需要连接数据库时,可以从连接池中获取一个可用连接,使用完毕后再将连接归还给连接池,从而避免了每次连接都需要创建和销毁连接的开销,提高了应用程序的性能和可伸缩性。连接池......
  • C语言中的运算符优先级
    C语言中的运算符优先级前言这几天在调试一个程序,遇到了一个bug,就是需要读取寄存器的数据。该数据是一个16bit的数据,按照高8位一个byte和低8位一个byte分别存放在了不同的寄存器地址中。但是在我读取数据的时候,总是会出现数据不符合预期的情况。在程序中是这样子的,读取的高8位数......
  • nginx配置php
    usernginx;worker_processes4;work_cpu_affinity0001001001001000;#error_loglogs/error.log;#error_loglogs/error.lognotice;#error_loglogs/error.loginfo;#pidlogs/nginx.pid;events{worker_connections65535;useepoll;......
  • Java实现对Hadoop HDFS的API操作
    1.配置Hadoop的Windows客户端Hadoop配置Windows客户端2.新建Maven项目[略]3.添加依赖<!--https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client--><dependency><groupId>org.apache.hadoop</groupId>......