首页 > 数据库 >数据库分库分表 (水平拆分,垂直拆分)分库分表的方式在生产中通常包括:垂直分库、垂直分表、水平分库和水平分表四种。

数据库分库分表 (水平拆分,垂直拆分)分库分表的方式在生产中通常包括:垂直分库、垂直分表、水平分库和水平分表四种。

时间:2023-05-13 09:44:25浏览次数:36  
标签:分库 数据库 垂直 拆分 分表 数据

1.分库分表产生的背景

采用单数据库存储存在以下的性能瓶颈:

①IO瓶颈:热点数据太多,数据库缓存不足,产生大量磁盘IO,效率较低。请求数据太多,带宽不够,网络IO瓶颈。

②CPU瓶颈:排序,分组,连接查询,聚合统计等SQL会消耗大量的CPU资源,请求数太多,CPU出现瓶颈。

分库分表将数据分散存储,使得单一数据库/表的数据量变小来缓解单一数据库的性能问题。

2.拆分策略:

水平拆分:水平分表,水平分库;

垂直拆分:垂直分表,垂直分库。

垂直拆分:垂直分库:以表为依据,根据业务将不同表拆分到不同库中。特点:①每个库的表结构都不一样;②每个库的数据也不一样;③所有库的并集是全量数据。

 

总结

分库分表的方式有四种,它们分别是:垂直分表、垂直分库、水平分库和水平分表。

垂直分表:可以把一个宽表的字段按照访问频率、是否是大字段的原则拆分为多个表,这样既能使业务清晰,还能提高部分性能。拆分后,尽量从业务角度避免联查,否则性能方面将得不偿失。

垂直分库:可以把多个表按照业务的耦合性来进行分类,分别存放在不同的数据库中,这些库可以分布在不同的服务器,从而使访问压力被分摊在多个服务器,大大提高性能,同时能提高整体架构的业务清晰度,不同的业务库可根据自身情况定制优化方案。但是它需要解决跨库带来的所有复杂问题。

水平分库:可以把一个表的数据(按数据行)分到多个不同的库,每个库只有这个表的部分数据,这些库可以分布在不同的服务器,从而使访问压力被多服务器负载,提升性能。它不仅需要解决跨库带来的问题,还需要解决数据路由的问题。

水平分表:可以把一个表的数据(按数据行)分到多个同一个数据库的多张表中,每个表的数据只有这个表的部分数据,这样做能小幅提升性能,它仅仅作为水平分库的一个补充优化。

最后,一般来说,在系统设计阶段就应该根据业务耦合程度来确定用哪种分库分表的方式(方案),在数据量及访问压力不是特别大的情况,首先考虑缓存、读写分离、索引技术等方案。若数据量极大,且连续增长,再考虑水平分库水平分表的方案。

 

 

 

 

 

 

 

 

 

 

下图为垂直分库案例。

还是以商品信息表为例:用户在浏览商品列表时,只有对商品感兴趣时才会点进去查看商品的详细描述信息。因此,商品信息中商品描述字段访问频率比较低,且该字段存储占用空间较大,访问单个商品IO时间较长;商品信息表中商品名称、商品图片、商品价格等其它字段数据访问频率较高。

由于这两种数据特性不一样,因此考虑将商品信息表拆分为两个小表(t_goods_01,t_goods_02),将访问频率低的商品描述信息单独存放在一张表中(t_goods_01),将访问频率高的商品基本信息单独放在另一张表中(t_goods_02)。

  

以上这种优化操作,就叫垂直分表。

其定义:将一个表按字段分成多表,每个表存储其中一部分字段。

带来的提升是:

  1. 为了避免IO争抢并减少锁表的几率,查看详情的用户与商品信息浏览互不影响。
  2. 充分发挥热门数据的操作效率,商品信息的操作的高效率不会被商品描述的低效率拖累。

为什么大字段IO效率低:

第一由于数据量本身大,需要更长的读取时间;

 

第二是跨页,页是数据存储单位,很多查找及定位操作都是以页为单位,单页内的数据行越来越多数据库整体性能越好,而大字段占用空间大,单页内存储行数少,因此IO效率低。

第三,数据库以行为单位将数据加载到内存中,这样表中字段长度较短且访问频率较高,内存能加载更多的数据,命中率高,减少了磁盘IO,从而提升了数据库性能。

一般来说,某业务实体中的各个数据项的访问频率是不一样的,部分数据项可能是占用存储空间比较大的。例如商品描述。所以,当表数据量大时,可以将表按字段切开,将热门字段、冷门字段分别放一个表。

 ---------------------------------------------------------------------------------

垂直分库

 

通过垂直分表性能得到了一定程度的提升,但是还没有达到要求,并且磁盘空间也快不够了,因为数据还是始终限制在一台服务器,库内垂直分表直接就了单一表数据量过大的问题,但没有将表分布到不同的服务器上,因此每个表还是竞争同一个物理机的CPU、内存、网络IO和磁盘。

所以,经过思考,把原有的卖家表,分为了商品库和店铺库,并把这两个库分散到不同的服务器,如下图:

 

由于商品信息与商品描述业务耦合度较高,因此一起被存放在商品库;而店铺信息相对独立,因此单独被放到店铺库。

以上这种优化就叫:垂直分库。

垂直分库是指按照业务将表进行分类,分布到不同的数据库上面,每个库可以放在不同的服务器上,它的核心理念是专库专用。

它的提升是:

  • 解决业务层面的耦合,业务清晰
  • 能对不同业务的数据进行分级管理、维护、监控和扩展等
  • 高并发场景下,垂直分库一定程度上提升IO、数据库连接和降低单机硬件资源的瓶颈

最后,垂直分库通过将表按业务分类,然后分布不同的数据库,并且可以将这些数据库部署在不同的服务器上,从而达到多个服务器共同分摊压力的效果,但是依然没有解决单表数据量过大的问题。

------------------------------------------------------------------------------

 垂直分表:以字段为依据,根据字段属性将不同字段拆分到不同表中。特点:①每个表的结构都不一样;②每个表的数据也不一样,一般通过一列(主键/外键)关联;③所有表的并集是全量数据。下图为垂直分表的案例,两张表以主键id关联。

  id做关联的时候垂直分表,例如用户的个人信息和用户的行为信息,可以用主键关联

 

 

======-=========================================================================================

 水平分库

经过垂直分库后,数据库性能得到了一定程度上的解决,但是随着业务的增长,商品库单库存储数据已经超出预估。粗略估计,目前有8w个店铺,每个店铺平均150个不同规格的商品,再算上增长,商品数量得往1500w+上预估,并且商品库属于访问频率非常高的资源,单台服务器已经无法支撑。

此时此刻该如何优化呢?

再次分库?但是从业务角度来分析,目前情况已经无法再垂直分库了。

尝试水平分库,将店铺ID为单数的和店铺ID为偶数的商品信息分布存在两个表中。

 

 

以上的优化就叫:水平分库。

水平分库就是把同一个表的数据按一定规则拆到不同的数据库中,每个库可以放在不同的服务器上。

对比:垂直分库是不同表拆到不同数据库中,它是对数据行的拆分,不影响表结构。

水平分库的提示是:

  • 解决了单库大数据,高并发的性能瓶颈。
  • 提高了系统的稳定性和可用性。

当一个应用难以再细粒度的垂直拆分,或切分后数据量行数巨大,存在单库读写、存储性能瓶颈,这时就需要进行水平分库了,经过水平切分的优化,往往能解决单库存储量及性能的瓶颈。但是由于同一个表被分配在不同的数据库,需要额外进行数据操作的路由工作,因此大大提示了系统的复杂度。

 

=============================================================================================

 

水平分表

按照水平分库的思路对商品库内的表也进行水平拆分,其目的是为了解决单表数据量大的问题,如下图所示:

 

水平分表就是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中(对数据的拆分,不影响表结构)。

它带来的提升是:

  • 优化单一表数据量过大而产生的性能问题
  • 避免IO争抢并减少锁表的几率

库内的水平分表,解决了单一表数据量过大的问题;分出来的小表中只包含一部分数据,从而使得单个表的数据量变小,提高检索性能。

 

 

 

 

 

水平拆分:每个表的结构一样,数据不同     定策略,将一个库的数据拆分到多个库中。特点:①每个库的表结构都一样;②每个库的数据都不一样;③所有库的并集是全量数据。下图为水平分库。

 

标签:分库,数据库,垂直,拆分,分表,数据
From: https://www.cnblogs.com/ZhangZiXue/p/17396782.html

相关文章

  • 8.6 空间直线、平面的垂直
    \(\mathbf{{\large{\color{Red}{欢迎到学科网下载资料学习}}}}\)【高分突破系列】高一数学下学期同步知识点剖析精品讲义!\(\mathbf{{\large{{\color{Red}{跟贵哥学数学,so\quadeasy!}}}}}\)必修第二册同步拔高,难度3颗星!模块导图知识剖析线线垂直1异面直线所......
  • 前端面试题-常见的水平垂直居中实现方案
    方案一:<!DOCTYPEhtml><htmllang="en"><head><metacharset="UTF-8"><metahttp-equiv="X-UA-Compatible"content="IE=edge"><metaname="viewport"content="w......
  • 读写分离与分库分表
    MySQL中间件Atlas一atlas简介Mysql的proxy中间件有比较多的工具,例如,mysql-proxy(官方提供),atlas,cobar,mycat,tddl,tinnydbrouter等等。而Atlas是由Qihoo360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Pro......
  • 分表分库解决思路
    阅读大约3分钟,建议收藏阅读随着公司业务快速发展,数据库中的数据量猛增,访问性能也变慢了,优化迫在眉睫。分析一下问题出现在哪儿呢?关系型数据库本身比较容易成为系统瓶颈,单机存储容量、连接数、处理能力都有限。当单表的数据量达到1000W或100G以后,由于查询维度较多,即使添加从库......
  • 动态分库分表策略
    关键字:动态分库分表策略参考网址:http://dragonsoar.iteye.com/blog/1769101其他相关软件:matrixOceanus(不支持spring)matrix没开源所以很多人还是用mycatdiamond里面可以配置读写比读写比权重那个是atom和group的作用吧国美好牛,以前后台ora......
  • 8.6.3 平面与平面垂直
    \({\color{Red}{欢迎到学科网下载资料学习}}\)[【基础过关系列】高一数学同步精品讲义与分层练习(人教A版2019)](https://www.zxxk.com/docpack/2921718.html)\({\color{Red}{跟贵哥学数学,so\quadeasy!}}\)必修第二册同步巩固,难度2颗星!基础知识二面角(1)定义从一条......
  • 8.6.2 直线与平面垂直
    \({\color{Red}{欢迎到学科网下载资料学习}}\)[【基础过关系列】高一数学同步精品讲义与分层练习(人教A版2019)](https://www.zxxk.com/docpack/2921718.html)\({\color{Red}{跟贵哥学数学,so\quadeasy!}}\)必修第二册同步巩固,难度2颗星!基础知识定义若一条直线垂直于平......
  • 8.6.1 直线与直线垂直
    \({\color{Red}{欢迎到学科网下载资料学习}}\)[【基础过关系列】高一数学同步精品讲义与分层练习(人教A版2019)](https://www.zxxk.com/docpack/2921718.html)\({\color{Red}{跟贵哥学数学,so\quadeasy!}}\)必修第二册同步巩固,难度2颗星!基础知识异面直线所成的角(1)范......
  • 水平分库分表排雷帖
    一、背景提起分库分表,对于大部分服务器开发来说,其实并不是一个新鲜的名词。随着业务的发展,我们表中的数据量会变的越来越大,字段也可能随着业务复杂度的升高而逐渐增多,我们为了解决单表的查询性能问题,一般会进行分表操作。同时我们业务的用户活跃度也会越来越高,并发量......
  • AI客服问答机器人-基于ChatGPT实现一个垂直领域的AI问答机器人
    我们大家都知道,ChatGPT的强大之处。但是呢,如何让ChatGPT基于我们自己的数据进行回复呢,如何将垂直领域的最新数据“喂”给ChatGPT,使其成为一名领域专家呢。下面是我自己实现的客服系统,整合好问答知识后的ChatGPT功能,具体的演示如下 登录到后台以后,可以开启向量知识库AI功能,集合......