首页 > 数据库 >后端架构师必知必会系列:高可用数据库与数据一致性

后端架构师必知必会系列:高可用数据库与数据一致性

时间:2023-12-24 19:02:43浏览次数:39  
标签:架构 读写 必知 数据库 必会 架构师 2.1 数据 节点


作者:禅与计算机程序设计艺术

1.背景介绍

什么是数据库?数据库(Database)是一个建立在计算机存储设备上的文件,用来存储、组织、管理和保护敏感的数据,其中的数据包括结构化数据和非结构化数据。数据库通过控制数据访问权限、提供数据备份功能、实现数据共享、确保数据完整性等功能,从而帮助用户有效地整合、分析和处理数据。随着互联网的发展,越来越多的应用和网站需要将海量数据存入数据库中进行查询、统计和分析,同时需要保证数据安全、稳定运行、可靠性能等一系列要求。如何设计一个高可用的数据中心架构需要解决以下三个关键问题:

  1. 数据中心的规模和复杂程度。单机数据库架构不能满足需求时,可以考虑采用分布式数据库架构,将数据库分布到不同的服务器上,并且使数据库集群能够自动容灾,保证数据的高可用。在分布式数据库架构下,数据同步、数据迁移、故障恢复、扩缩容等都成为一个重要的环节。
  2. 存储介质的选择。现阶段,硬盘、SSD、内存等存储介质都对数据库性能的提升起到了重要作用。同时,越来越多的新型数据中心产品采用了云计算技术,由服务商托管数据库服务器,降低了部署和运维成本,提升了服务的易用性。但由于云计算环境缺少对数据库服务器的配置、管理和监控能力,导致数据库的故障无法及时发现和处理,进而影响业务运行和数据的正确性。因此,对于数据库服务器的部署、配置、管理等方面,还需要有专业的数据库管理员和工程师为之打造一套高效、可靠、可靠的运营体系。
  3. 数据一致性问题。随着分布式数据库的发展,不同节点之间的数据往往存在延迟或差异,导致数据的不一致。数据库一致性的定义是指多个节点的数据具有相同的值,并保持一致的时间窗口内不受影响。在分布式数据库架构下,数据的一致性问题也变得尤为复杂。为了保证数据的正确性、一致性和完整性,需要引入一系列的技术手段,如复制、分区、事务、日志等。目前业界主要采用的是主从模式,即数据库的主库负责数据写入,并将数据同步到其他节点,从库负责读取数据,但是这种架构模式不能很好地适应实时的增删改查需求。另外,针对实时业务处理场景,还需要引入流水线机制,通过顺序执行多个读写请求的方式来提升性能。

基于以上分析,根据业务特点、技术选型、解决方案和经验总结出了一套具有一定普适性的数据库高可用架构体系。其核心要素如下:

  1. 主从模式。将数据库的写入工作负载均摊到主库上,通过异步复制技术实现数据的实时同步。
  2. 分布式集群。采用主流分布式数据库中间件软件,如MySQL、MongoDB等,部署到不同物理机器上,保证数据库集群的高可用。
  3. 高可用切换策略。在主从架构下,如果主库出现故障,则需要进行主备切换,以确保服务的正常运行。此外,还需考虑通过负载均衡器实现自动故障转移,并通过流水线机制优化数据库的读写性能。
  4. 流水线机制。通过合并多个读写请求,来提升数据库的读写性能。在实时业务处理场景下,通过流水线机制,实现并行处理请求,加快响应速度。
  5. 副本集。当主从架构的性能无法满足业务需求时,可以考虑部署副本集。副本集是一组数据服务器,保存着完整的数据集合,其中任意两台服务器的数据都相同。为了保证数据一致性,副本集通常由一个 Primary 和一个或多个 Replica 组成,Primary 是生产服务器,负责接收客户端写入请求,并且将写入请求的结果通知所有的 Replica;Replica 是备份服务器,只负责复制 Primary 的数据,并向客户端返回请求的结果。当 Primary 服务器出现故障时,可以通过切换操作将当前 Primary 升级为 Replica 服务器,从而保证服务的连续性和高可用性。
  6. 无共享模式。当业务规模达到一定程度时,单个数据库的资源占用过多,可以使用 NoSQL 数据库,如 Cassandra、HBase 等。这些数据库采用无共享模式,每个节点存储数据的一部分,以充分利用服务器资源,且不会因数据分布不均匀而导致数据热点问题。

基于以上理论和技术实现,我们可以制作一套完整的数据库高可用架构设计文档。

2.核心概念与联系

2.1.数据库基础知识

2.1.1.数据库概念

数据库(Database)是按照数据结构来组织、储存和管理数据的仓库,其目的是为了更快、更可靠、更直观的Retrieve、Insert、Update、Delete信息。简单的说,数据库就是保存各种相关数据的文件。

传统意义上的数据库可分为关系数据库和非关系数据库两种类型,分别对应于行列式结构数据和海量非结构化数据。关系数据库最早起源于IBM开发的System R及其之后的Oracle、DB2等,它借助表格数据结构来组织数据,每张表中记录都是相互关联的,称为实体-联系(Entity-Relationship)模型。而非关系数据库则是NoSQL(Not Only SQL)的简称,以键值对存储、查找数据,其典型代表是Redis、Memcached、Couchbase等,它们的优点在于可扩展性高、快速查询、降低耦合度、易部署。

虽然传统数据库概念可以概括清楚,但实际上,理解数据库的一些基本原理和术语还是非常重要的。下面就介绍一下数据库领域中比较重要的几个基本术语。

2.1.2.数据库名词解释

  1. 数据库系统(DataBase System): 指存放、组织、管理数据的大型软件系统,它包括数据库管理系统、数据库、数据库管理员、客户/用户以及应用系统等。
  2. 数据库(Database):数据库,也称为仓库,用于存放、组织和管理数据。
  3. 数据库管理员(Database Administrator):管理者,是指负责管理数据库系统的人员。
  4. 数据库管理系统(DataBase Management System):是指管理数据库的软件系统,是数据库管理员和计算机系统之间的接口。
  5. 数据库管理语言(DataBase Management Language):数据库管理语言,又称为数据库命令,是用来操纵数据库的一种特殊编程语言。
  6. 数据库模式(DataBase Schema):数据库模式,是指数据库对象的集合,包括表、视图、索引、过程、触发器等。
  7. 数据库实例(Database Instance):数据库实例,也称为库,是指一个特定的数据库系统,如 MySQL、Oracle、PostgreSQL 等。
  8. 数据字典(Data Dictionary):数据字典,是指用来描述数据库结构的文档。
  9. 数据项(Data Item):数据项,是指数据的最小单位,例如一张表单中一个字段。
  10. 数据记录(Data Record):数据记录,是指数据的完整单元,例如一行数据。
  11. 数据文件(Data File):数据文件,是指存放数据的实际物理文件。
  12. 数据结构(Data Structure):数据结构,是指数据的逻辑特性。
  13. 数据类型(Data Type):数据类型,是指数据的类别,例如整数、字符、日期等。
  14. 数据视图(Data View):数据视图,是指基于已有的数据库对象创建的新的虚拟表。
  15. 查询(Query):查询,是指从数据库中获取信息的动作。
  16. 数据文件(Data File):数据文件,是指存放数据的实际物理文件。
  17. 事务(Transaction):事务,是指一组作为一个逻辑工作单元执行的一系列操作,这些操作务必要作为整体完成,要么都做,要么都不做。
  18. 事务处理(Transaction Processing):事务处理,是指事务的管理。

2.1.3.数据库的基本操作

2.1.3.1.创建数据库

CREATE DATABASE 数据库名称;

示例:CREATE DATABASE mydatabase;

2.1.3.2.删除数据库

DROP DATABASE 数据库名称;

示例:DROP DATABASE IF EXISTS mydatabase;

2.1.3.3.显示所有数据库

SHOW DATABASES;

示例:SHOW DATABASES;

2.1.3.4.选择某个数据库

USE 数据库名称;

示例:USE mydatabase;

2.1.3.5.创建表

CREATE TABLE table_name (
column1 data_type(size),
column2 data_type(size) PRIMARY KEY | UNIQUE,
column3 data_type(size),

FOREIGN KEY (column_name) REFERENCES other_table(other_column)
);

示例:CREATE TABLE employees (
id INT UNSIGNED AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(50) NOT NULL,
email VARCHAR(50) NOT NULL UNIQUE,
department CHAR(50),
salary DECIMAL(10,2) DEFAULT 0.00
);

2.1.3.6.显示所有表

SHOW TABLES;

示例:SHOW TABLES;

2.1.3.7.查看表结构

DESCRIBE table_name;

示例:DESCRIBE employees;

2.1.3.8.插入数据

INSERT INTO table_name (columns) VALUES (values);

示例:INSERT INTO employees (name,email,department,salary)
VALUES (‘John Doe’,‘[email protected]’,‘IT’,90000.00);

2.1.3.9.更新数据

UPDATE table_name SET columns = new_value WHERE condition;

示例:UPDATE employees SET salary=100000.00 WHERE id=1;

2.1.3.10.删除数据

DELETE FROM table_name WHERE condition;

示例:DELETE FROM employees WHERE department=‘Sales’;

2.1.3.11.删除表

DROP TABLE table_name;

示例:DROP TABLE employees;

2.2.主从模式架构

主从模式(Master Slave Architecture),是一种常用的数据库架构模式,在该模式下,数据库被划分为两个角色,一个为主节点(Master Node),另一个为从节点(Slave Node)。主节点负责数据的写入、修改,从节点负责数据读取。

主从模式的主要优点是:

  1. 提升数据库的可靠性和可用性。由于主节点负责数据的写入,所以它所在的物理服务器一般具有较好的性能,同时也具备备份功能,可以避免数据丢失的风险。当主节点发生故障时,可以立刻启用从节点,提供服务。
  2. 增加吞吐量。由于主从节点的数据同步延迟较小,可以支撑高并发的写入操作。另外,通过读写分离的方式,可以分担主节点的压力,提升整个数据库的性能。
  3. 支持读写分离。读写分离允许多个应用程序连接到同一个数据库,从而减轻数据库负荷。

主从模式的部署方式一般有三种:

  1. 双主架构。一主两从,即两个主节点,两个从节点,通常情况下,存在两个不同的区域。只有主节点才能接受写入请求,从节点只能从主节点同步数据。双主架构最大的问题是延时。
  2. 一主多从。一主多从,即一个主节点,多个从节点。此架构下,当主节点发生故障时,数据库仍然可以继续工作。可以通过设置多个从节点,实现读写分离。
  3. 多主架构。多主架构,即多个主节点。在多主架构下,每个主节点都可以进行写操作,并提供服务。当某些主节点发生故障时,另一些主节点依然可以提供服务。该架构下,数据库需要额外的软件支持,如数据库路由组件或负载均衡组件。

2.3.读写分离架构

读写分离架构(Read Write Splitting Architecture),是一种通过读写分离,来提升数据库性能的数据库架构模式。读写分离架构把数据库的读和写操作进行分离,读操作由主节点负责,写操作由从节点负责。

读写分离架构的主要优点是:

  1. 负载均衡。读写分离架构可以将负载均衡的压力从主节点转移至从节点。通过读写分离架构,可以有效减少主节点的写压力。
  2. 满足用户的访问要求。读写分离架构可以满足用户的访问需求,读操作可以在主节点完成,写操作可以在从节点完成。
  3. 提升数据库的扩展性。读写分离架构能够提升数据库的扩展性,当数据库读写负载发生变化时,只需增加或减少从节点就可以了。

读写分离架构的部署方式一般有三种:

  1. 镜像架构。镜像架构,即主节点将所有数据直接拷贝至从节点。镜像架构的最大问题是数据冗余,当主节点发生数据写入时,需要将写入的数据再次写入从节点。
  2. 轮询调度。轮询调度,即按照一定的规则,周期性地将主节点的数据同步到从节点。
  3. 数据缓存。数据缓存,即在从节点上预先缓存一定数量的数据,当主节点发生数据写入时,只需要将数据写入缓存。

2.4.分片架构

分片架构(Sharding Architecture),是一种通过把同一个大型数据库按照一定的规则拆分为多个子数据库,然后各自处理自己的部分数据,来解决单个数据库的容量和性能瓶颈问题的数据库架构模式。

分片架构的主要优点是:

  1. 提升数据库的扩展性。分片架构能够将单个大型数据库按指定的规则拆分为多个子数据库,可以有效地提升数据库的扩展性。
  2. 缓解数据库的单点故障。分片架构可以缓解数据库的单点故障问题,当某个子数据库发生故障时,其他子数据库仍然可以提供服务。
  3. 防止数据倾斜。分片架构可以防止数据倾斜,因为每个子数据库仅承担一定的数据量。

分片架构的部署方式一般有两种:

  1. 垂直切分。垂直切分,即按照功能模块进行数据库拆分,每个子数据库仅承担特定功能模块的数据。该方法能够提升数据库的性能,但其局限性是数据共享困难,开发维护困难。
  2. 水平切分。水平切分,即按照业务规则进行数据库拆分,每个子数据库承担一定的数据量。该方法能够缓解数据库的性能瓶颈问题,但其局限性是单个子数据库的性能无法满足需求,同时也存在数据冗余。


标签:架构,读写,必知,数据库,必会,架构师,2.1,数据,节点
From: https://blog.51cto.com/universsky/8956574

相关文章

  • Spring Boot框架必知,满满干货!
    1、初识SpringBoot框架1.1SpringBoot框架定义SpringBoot并不是替代Spring框架的解决方案,而是和Spring框架紧密结合用于提升Spring开发者体验的工具,同时SpringBoot还集成了大量常用的第三方库配置,本质上是基于Spring的Web应用程序开发框架。1.2SpringBoot框架的优点可快速构......
  • 聊聊Flink必知必会(七)
    WhatisState虽然数据流中的许多操作一次只查看一个单独的事件(例如事件解析器),但某些操作会记住多个事件的信息(例如窗口算子)。这些操作称为有状态的(stateful)。有状态操作的一些示例:当应用程序搜索某些事件模式(eventpatterns)时,状态(state)将存储迄今为止遇到的事件序列。......
  • 专业人士必知,渗透测试工具的类型!
    伴随着互联网技术的高速发展,网络攻击事件频繁,渗透测试工作也变得尤为重要。而回想过去,很多工作都需要手动操作来完成,浪费时间、浪费人力,然而随着技术的不断发展,渗透测试工作也变得智能化,衍生了很多工具,相对于以往不少重复性的工作均可以借助工具来完成。本文主要为大家介绍一下......
  • 聊聊Flink必知必会(六)
    Flink是一个分布式系统,需要有效地分配和管理计算资源才能执行流应用程序。它集成了所有常见的集群资源管理器,如HadoopYARN和Kubernetes,但也可以设置为作为一个独立的集群运行,甚至作为一个库。Flink集群的剖析Flink运行时由两种类型的进程组成:一个JobManager和一个或多个taskma......
  • 《Java架构师的第一性原理》31分布式计算之微服务RPC(Dubbo)
    1 互联网架构,究竟为啥要做服务化互联网架构,究竟为啥要做服务化?2 微服务架构,多“微”才合适?微服务架构,多“微”才合适? 3 离不开的微服务架构,脱不开的RPC细节离不开的微服务架构,脱不开的RPC细节3.1服务化解决的问题1)服务化需要解决的问题:一套序列化、反序列化、网络框......
  • 《Java架构师的第一性原理》30分布式计算之分布式算法
    极客时间 韩健 121.分布式协议与算法实战00 开篇词|想成为分布式高手?那就先把协议和算法烂熟于心吧为什么要单独讲分布式协议和算法呢?在我看来,它其实就是决定分布式系统如何运行的核心规则和关键步骤。如果一个人想真正搞懂分布式技术,开发出一个分布式系统,最先需要掌握的......
  • 《Java架构师的第一性原理》32分布式计算之分布式缓存第3篇LevelDB
    互联网业务,绝大部分场景,会使用缓存服务。但有时候,确实会使用到进程内存缓存/数据库,这个时候,LevelDB就能派上用场了。啥是LevelDB?LevelDB是Google开发的,一个速度非常块的KV存储库(storagelibrary),它支持字符串的key与字符串的value,并且这种映射关系按key排序(orderedmapping)。L......
  • 《Java架构师的第一性原理》32分布式计算之分布式缓存第1篇如何使用Redis搭建玩家排行
    今天我们用Redis搭建一个玩家的排行榜,假设一个服务器存储了10万名玩家的数据,我们想给这个区(这台服务器)上的玩家做个全区的排名,该如何用Redis实现呢?不妨一起来思考下面几个问题:MySQL是如何实现玩家排行榜的?有哪些难题需要解决?如何用Redis模拟10万名玩家数据?Redis里......
  • 《Java架构师的第一性原理》33分布式计算之分布式注册中心、分布式配置中心
    待补充1分布式注册中心2分布式配置中心2.1Apollo2.1.1Apollo是怎样注入到SpringBean的容器里的   99直接读这些牛人的原文apollo不使用MQ如何实现pub/sub场景?13张图彻底搞懂分布式系统服务注册与发现原理为什么@Value可以获取配置中心的值?Spring8:一些......
  • 《Java架构师的第一性原理》32分布式计算之分布式锁(Redis、Zookeeper)
    1 这才是真正的分布式锁技术领域,我觉得了解来龙去脉,了解本质原理,比用什么工具实现更重要:(1)进程多线程如何互斥?(2)一个手机上两个APP访问一个文件如何互斥?(3)分布式环境下多个服务访问一个资源如何互斥?归根结底,是利用一个互斥才能访问的公共资源来实现分布式锁,具体这个公共资源是r......