首页 > 其他分享 >HBase架构

HBase架构

时间:2024-05-11 10:21:55浏览次数:19  
标签:HDFS 存储 架构 Region HBase 数据 region

HBase架构

HBase概述:HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,用于存储海量的结构化或者半结构化,非结构化的数据(底层存储的类型只有一种,是字节数组)

1、HBase是可以提供实时计算的分布式数据库,数据保存在HDFS分布式文件系统上,由HDFS保证其高容错性

2、HBase上的数据是以StoreFile(HFile)二进制流的形式存储在HHDFS上的block块中

3、HBase存储的数据对于HDFS来说是透明的

HBase相关概念

1、分布式数据库

image-20240415190436150

2、列式存储

image-20240415190527266

3、稀疏性

image-20240415192059742

4、数据模型

:HBase的数据同样是由行和列组成的,行和列的交叉坐标就是一个单元格

:每个表都由若干行组成,每个行都有唯一标识符(行键),访问单个行的方式只有三种:通过单个行键进行查询、通过一个行键的区间来访问、全表扫描

列簇:一个HBase被分成许多"列簇","列簇"是基本的访问控制单元(操作时可以不加列明,但是必须要有列簇名)

列修饰符(列限定符):列簇里面的数据需要通过列名拉进行定位

单元格:在HBase中,行列交叉确定的的单元格中存储的数据没有数据类型一旦被存储进HBase中就是字节数组的方式进行存储

时间戳:版本号时根据时间戳来进行索引的

HBase数据库与关系型数据库的不同之处:

行按行键排序,列划分为列簇,单元格有版本号,没有数据类型

5、数据坐标

Hbase通过四个键定位到单元格,四个键是(列簇、行键、列限定符、时间戳),没有数据类型,全部由字节码形式存储

image-20240415194218736

6、Hbase区域

HBase自动把表水平划分为区域(Region),每个区域都是有若干连续行构成的,一个区域由所属的表、起始行、终止行(不包括这行)三个要素来表示。

一开始,一个表只有一个区域,但是随着数据的增加,区域逐渐变大,等到它超出设定的阈值(128M)大小,就会在某行的边界上进行拆分,分成两个大小基本相同的区域。然后随着数据的再增加,区域就不断的增加,如果超出了单台服务器的容量,就可以把一些区域放到其他节点上去,构成一个集群。也就是说:集群中的每个节点(Region Server)管理整个表的若干个区域。所以,我们说:区域是HBase集群上分布数据的最小单位

image-20240415194613602

HBase系统架构

1、架构图

image-20240415194827140

2、组件介绍

HBase由三种类型的服务器以主从模式构成:

Region Server:
负责数据读写服务,用户通过与Region server交互来实现对数据的访问
HBase HMaster:
负责Region的分配及数据库的创建和删除等操作
Zookeeper:
负责维护集群的状态(某台服务器是否在线,服务器之间数据的同步操作和master的选举)

Client

包含访问HBase的接口并维护cache来加快对HBase的访问

Zookeeper

保证任何时候,集群中只有一个master

存贮所有Region的寻址入口。

实时监控Region server的上线和下线信息。并实时通知Master

存储HBase的schema和table元数据的meta信息(存储HBase的表结构和元数据的元数据)

Master

为Region server分配region

负责Region server的负载均衡

发现失效的Region server并重新分配其上的region

管理用户对table的增删改操作

RegionServer

Region server维护region,处理对这些region的IO请求

Region server负责切分在运行过程中变得过大的region 

HLog(WAL log):

HLog文件就是一个普通的Hadoop Sequence File,Sequence File 的Key是 HLogKey对象,HLogKey中记录了写入数据的归属信息,除了table和 region名字外,同时还包括sequence number和timestamp,timestamp是” 写入时间”,sequence number的起始值为0,或者是最近一次存入文件系 统sequence number。

HLog SequeceFile的Value是HBase的KeyValue对象,即对应HFile中的 KeyValue

Region

HBase自动把表水平划分成多个区域(region),每个region会保存一个表里面某段连续的数据;每个表一开始只有一个region,随着数据不断插 入表,region不断增大,当增大到一个阀值的时候,region就会等分会两个新的region(裂变);

当table中的行不断增多,就会有越来越多的region。这样一张完整的表被保存在多个Regionserver上。

Memstore 与 storefile

  1. 一个region由多个store组成,一个store对应一个CF(列簇)

  2. store包括位于内存中的memstore和位于磁盘的storefile写操作先写入 memstore,当memstore中的数据达到某个阈值,hregionserver会启动 flashcache进程写入storefile,每次写入形成单独的一个storefile

  3. 当storefile文件的数量增长到一定阈值后,系统会进行合并(minor、 major compaction),在合并过程中会进行版本合并和删除工作 (majar),形成更大的storefile。

  4. 当一个region所有storefile的大小和超过一定阈值后,会把当前的region 分割为两个,并由hmaster分配到相应的regionserver服务器,实现负载均衡。

  5. 客户端检索数据,先在memstore找,找不到再找storefile

  6. HRegion是HBase中分布式存储和负载均衡的最小单元。最小单元就表 示不同的HRegion可以分布在不同的HRegion server上。

  7. HRegion由一个或者多个Store组成,每个store保存一个columns family。

  8. 每个Strore又由一个memStore和0至多个StoreFile组成。

image-20240415200610329

3、一些注意事项的理解:

1、flush刷新在HDFS上是什么过程:
	刚学习的时候添加数据是一条一条put进去的,比较小(小于128M)的时候,在HDFS上并不能看到添加进去的数据,因为这些数据小到内存能直接进去,所以这些数据还在memStore中,想要在HDFS中看到这些数据的flush刷新进去,就是将memStore中的数据刷新到StoreFile中去,这样我们就能在HDFS中查看了
	
2、为什么HBase不能像MySQL一样进行查询:
	HBase中的数据并不能保证完整,他是可以缺少值的,而MySQL数据库中的数据必须是完整的,比如一行没有值,但是在那个位置会显示null
	
3、HBase的数据最终是存储在HDFS上的,而HDFS是不支持删改的,为什么HBase可以删改:
	虽然HBase数据是以HFile的新式存储在HDFS上的,但是这里的删除并不是真正的删除,而是对数据进行标记,当我们再去查询的时候,查询到整个打上标记的值的时候并不会去查到这个值,这些被打上标记的值HMaster每过一小时会进行清理,HBase会取最新的数据,过期的数据也是这种方式进行清理

标签:HDFS,存储,架构,Region,HBase,数据,region
From: https://www.cnblogs.com/peculiar/p/18185900

相关文章

  • HBase API
    HBaseJavaAPI<dependency><groupId>junit</groupId><artifactId>junit</artifactId><version>4.12</version></dependency><!--https://mvnrepository.com/artifac......
  • HBase Meta 元信息表修复实践
    作者:vivo互联网大数据团队-HuangGuihu、ChenShengzunHBase是一款开源高可靠、高可扩展性、高性能的分布式非关系型数据库,广泛应用于大数据处理、实时计算、数据存储和检索等领域。在分布式集群中,硬件故障是一种常态,硬件故障可能导致节点或者集群级别服务中断、meta表损坏......
  • 前端架构重构 - 设计文档
    框架选型:React-写React的感觉就是在写JavaScript。但React的缺点是冗余,它只是个View层,也只处理View层。Vue-Vue的定位是一个渐进式的MVVM框架。渐进式,就是学习曲线比较平缓,没那么陡峭。但这并不意味着Vue比React简单,React就比Vue复杂。Vue在框架层面......
  • Dapr IoT Architecture是一个基于.NET平台的物联网系统架构
    DaprinIoT.UnderstandingofconceptbuildingdistributedapplicationinIoThttps://docs.dapr.io 在构建一个网联网系统(InternetofThings,IoT)或数字化系统的C#开源系统架构中,通常需要考虑以下关键方面:1.设备连接和数据采集:使用C#编写设备连接模块,支持多种通信协......
  • Redis高可用架构
    redis架构的演进单机、主从、集群特性/配置Redis主从复制Redis哨兵Redis集群主要目的数据备份与读写分离高可用性和故障自动切换高并发和数据分散处理架构一个主节点和多个从节点监控主从结构并自动切换多个主节点,数据分片数据复制主节点到从节点监控并管......
  • 架构师狂掉1024根头发,总算搞定SSL通配证书
    ......
  • b/s架构和c/s架构(重点)
    1.bs:浏览器---服务器(web)b:broeser浏览器s:server服务器bs的应用:论坛,百度,知乎,豆瓣,csdn,博客园2.cs架构:客户端----服务器(app)c:client客户端s:server服务器cs应用:抖音,微信,qq,快手,酷狗区别:(1):bs不需要更新,直接通过浏览器输入网址进行访问cs需要下载客户端才能使用,需要定期更新......
  • 微服务 架构图 参考
    https://go-zero.dev/https://sca.aliyun.com/......
  • 为什么要使用微服务架构?
    一、传统的单体架构1、什么是单体架构?单体架构(MonolithicArchitecture)是一种传统的软件架构模式,将整个应用程序作为一个单一的、统一的单元进行开发、部署和扩展。在单体架构中,所有的功能模块都被打包在一起,共享同一个代码库和数据库。 2、单体架构的缺点复杂性高一个......
  • Flink架构与原理
    Flink集群运行剖析Flink运行时由两种类型的进程组成:一个 JobManager 和一个或者多个 TaskManager。Client:Client是提交作业的客户端,虽然不是运行时和作业执行时的一部分,但它负责准备和提交作业到JobManager,它可以运行在任何机器上,只要与JobManager环境连通即可。JobManager......