首页 > 其他分享 >HDFS读写数据流程

HDFS读写数据流程

时间:2023-02-17 12:56:52浏览次数:32  
标签:HDFS 文件 读写 DataNode NameNode HDFSClient 上传 流程

文件写入

(1)HDFSClient上传文件到集群,HDFSClient会创建本地的分布式文件系统(Distributed FileSystem),向集群NameNode请求上传文件

(2)NameNode检查目录树是否允许创建文件,检查权限,检查目录结构。然后给客户端做出响应。

(3)若响应可以上传文件,HDFSClient会请求上传第一个Block,请求NameNode返回对应的DataNode信息。

(4)NameNode在返回对应的DataNode信息时会优先考虑节点距离和负载均衡等要素返回DataNode信息。

(5)HDFS创建文件传输流并与第一个DataNode建立传输通道,DataNode之间再建立传输通道。

(6)HDFS会创建缓冲队列,传输数据,传输数据的基本单位为Packet(每个Packet大小为64k,由chunk组成,每个chunk由512b和4b检验序列组成)ByteBuffer在DataNode的存储是并发的,有两份相同数据在操作,一份在存入DataNode另一份在传入到其它DataNode

文件读取

与文件写入类似。

标签:HDFS,文件,读写,DataNode,NameNode,HDFSClient,上传,流程
From: https://www.cnblogs.com/20203923rensaihang/p/17129754.html

相关文章

  • HDFS文件块
    知识点补充HDFS优缺点:优点(1)高容错性。节点存放的副本比较多。(2)适合处理大数据。GB、TB、PB级别的数据都可以处理。(3)可以构建在廉价的机器上,通过多副......
  • docker目录迁移流程
      概述在安装测试最新版本的HOMER7的过程中,docker作为基础工具碰到一些问题,针对问题进行总结。docker的默认工作目录在/var目录,而在我们的环境中,/var目录空间预留不......
  • SPI读写官方Demo
    //SPDX-License-Identifier:GPL-2.0-only/**SPItestingutility(usingspidevdriver)**Copyright(c)2007MontaVistaSoftware,Inc.*Copyright(c)......
  • Java流程控制
    流程控制用户交互Scanner(java5新特性)通过Scanner类来获取用户的输入基本语法:Scanners=newScannner(System.in);方法:next()获取输入字符串nextLine()获取......
  • jenkins 流水线构建发布流程
    jenkins流水线构建发布流程:1.输入一个任务名称:xxx.xxxx.WebApi.prod2.选择-》pipeline3.流水线:pipelinescriptfromSCM4.SCM--Subversion5.RepositoryURL:http://......
  • Create port ip分配流程梳理
    Createportip分配流程梳理self.ipam.allocate_ips_for_port_and_store(context,port,port_id)#/usr/lib/python2.7/site-packages/neutron/db/ipam_pluggable_......
  • Windows 10 无网络的情况下手动升级补丁的流程和方法:
    Windows10无网络的情况下手动升级补丁的流程和方法:从微软官网下载需要的更新补丁;将下载的更新补丁保存到本地;打开“设置”,点击“更新和安全”;点击“查看可用更新”,......
  • nginx热更新流程记录
    已经做过不止一次的nginx热更新了,之前都是按照别人的路子照葫芦画瓢,现在根据我在的项目单独写一个nginx热更新流程备份自用。nginx热升级流程上传新tar到/home/cp命令复制......
  • 测试流程管理
    1、项目排期 #项目名称状态QA提测时间测试时间备注1【CPA全真机考】测试中张增2020.2.12200.2.12-2020.2.17 ........
  • hdfs操作——hdfs的shell命令和hdfs的JavaAPI操作
    hdfs解决hadoop海量数据的存储。shell命令(所有hadoopfs可由hdfsdfs代替)(1)在hdfs上创建目录hadoopfs-mkdir目录名(2)本地文件的上传hadoopfs-copyFromLoc......