首页 > 编程语言 >Java操作HDFS

Java操作HDFS

时间:2022-08-22 23:36:12浏览次数:69  
标签:HDFS fs Java System 操作 println new bigdata19 out

Java操作HDFS

```java
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;
import org.apache.hadoop.fs.permission.FsPermission;

import java.io.IOException;
import java.text.SimpleDateFormat;
import java.util.Arrays;
import java.util.Date;

public class TestHdfsApi {
    /**
     * 使用java操作HDFS
     * 创建文件夹,上传文件,下载文件,列出日志,查看block块的信息
     *
     * @param args
     */
    public static void main(String[] args) throws IOException {
        Configuration conf = new Configuration();//org.apache.hadoop.conf
        //配置主节点信息
        conf.set("fs.defaultFS","hdfs://master01:9000");
        //通过hadoop提供的FileSystem抽象类中的方法,可以根据我们自己提供的配置来获取操作hdfs的对象
        FileSystem fs = FileSystem.get(conf);

        boolean b = fs.mkdirs(new Path("/shujia/bigdata19/"));
        System.out.println(b);

        //上传文件-本地文件路径写绝对路径
//        fs.copyFromLocalFile(new Path("F:\\software\\IdeaProjects\\bigdata19-project\\bigdata19-hadoop\\src\\data\\students.txt"),new Path("/shujia/bigdata19/students.txt"));

        //下载文件
//        fs.copyToLocalFile(new Path("/shujia/bigdata19/students.txt"),new Path("F:\\software\\IdeaProjects\\bigdata19-project\\bigdata19-hadoop\\src\\data\\students2.txt"));

        //列出当前目录下所有文件
        RemoteIterator<LocatedFileStatus> listFiles = fs.listFiles(new Path("/shujia/bigdata19"), true);
        while (listFiles.hasNext()){
            LocatedFileStatus fileStatus = listFiles.next();
            BlockLocation[] blockLocations = fileStatus.getBlockLocations();
            for (BlockLocation location : blockLocations) {
                String[] names = location.getNames();
                String s = Arrays.toString(names);
                System.out.println(s);
            }
            //获取文件所属用户
            System.out.println(fileStatus.getOwner());
            //获取文件的名字
            String name = fileStatus.getPath().getName();
            System.out.println(name);
            //获取文件的权限
            FsPermission permission = fileStatus.getPermission();
            System.out.println(permission);
            //获取文件最后修改的时间
            long accessTime = fileStatus.getAccessTime();
            System.out.println(accessTime);
            Date date = new Date(accessTime);
            SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
            System.out.println(sdf.format(date));


        }

        //释放资源
        fs.close();



    }
}

标签:HDFS,fs,Java,System,操作,println,new,bigdata19,out
From: https://www.cnblogs.com/bfy0221/p/16614654.html

相关文章

  • JavaIO流
    JavaFile类的功能非常强大,利用java基本上可以对文件进行所有操作。我们看看源码/***Internalconstructorforalready-normalizedpathnamestrings.*......
  • ssh 报错hibernate java.lang.ClassCastException: [Ljava.lang.Object; cannot be ca
    ssh报错hibernatejava.lang.ClassCastException:[Ljava.lang.Object;cannotbecasttoXXX这个应该说是hibernate报错:hibernatejava.lang.ClassCastException:[L......
  • linux 下如何离线安装java
    如果能在线安装就在线安装把,我的Ubuntu16的版本太老了,在线安装总是失败这里我就选择离线安装了进入网址https://www.oracle.com/java/technologies/downloads/#java1......
  • hadoop day3-java实现hdfs
    如何用javaApi的方式来操作hdfs 新建maven项目,然后建立一个子工程在父工程中引入依赖(maven中hadoophdfs,hadoopcommon和hadoopclient) <!--https://mvnrepository......
  • java输出小数点后n位
    用DecimalFormat类的实例化对象的format的方法,在DecimalFormat构造的时候将所需要的格式传进去;具体代码为: 也可以for循环定义format的数量 但是如果输出0.22222......
  • 数据结构(java版)
    复杂度什么是算法算法是用于解决特定问题一系列执行步骤如果单从执行效率上进行评估,可能会想到这么一种方案比较不同算法对同一组输入的执行处理时间,这种叫事后统计法......
  • Java流程控制02(狂神说Java)
    一、While循环while是最基本的循环,他的结构为:while(布尔表达式){//循环内容}只要布尔表达式为true,循环就会一直执行下去。大多数情况是会让......
  • 【Java基础】求数组的最大值,最小值,和值,平均值
    1.实现int[]arr=newint[10];//赋值for(inti=0;i<arr.length;i++){arr[i]=(int)(Math.random()*90+10);......
  • 【Java基础】二维数组实现杨辉三角
    1.什么是杨辉三角每一行头尾都为1,每个数都等于上面两个数之和arr[3][1]=arr[2][0]+arr[2][1];arr[3][2]=arr[2][1]+arr[2][2];2.实现int[][]arr=new......
  • 【并发操作】协程,线程,进程是什么,在Python中怎么应用?
    前言生活中的多任务时时刻刻存在,例如小张一边码字一边看屏幕,又例如小蔡可以一边跳舞一边打篮球,这就是生活中的多任务。那么计算机中的多任务是什么呢、怎么使用呢?就让我们......