首页 > 数据库 >数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力

时间:2023-07-19 14:06:26浏览次数:44  
标签:DBMotion 校验 支持 卷不动 MySQL 迁移 数据

又双叒叕,丝滑的零停机数据库在线迁移工具Squids DBMotion再发新版

Squdis DBMotion新增了多种数据库的迁移能力:SQLServer to SQLServer、Redis to Redis、MySQL to Kafka,增加了列映射、校验任务独立、抽样校验、校验复检和限速等十多项功能

本次版本更新,DBMotion新增了三种数据库迁移同步的场景。目前,DBMotion已经支持8种不同的数据库迁移同步场景(5款同构数据库和3款异构数据库)

  • MySQL to MySQL
  • Redis to Redis
  • SQLServer to SQLServer
  • MongoDB to MongoDB
  • openGauss to openGauss
  • Oracle to GaussDB
  • MySQL to ClickHouse
  • MySQL to Kafka

SQLServer迁移和校验

本次新增了SQLServer到SQLServer结构、全量迁移和结构、数据校验能力。用户可以选择要迁移的SQLServer源库和目标库,进行对象和数据迁移。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据

目前支持SQLServer 2017和2019版本的多种不同对象迁移,包括table、user、view、procedure、function、trigger、event、type、sequence、synonym和xmlschema。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_oracle_02

数据迁移,支持常规数据类型,支持包括LOB类型、uniqueidentifier、hierarchyid、rowversion、geometry、geography等特殊数据类型特殊字段属性支持identity列和computed列。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_MySQL_03

SQLServer迁移完成以后,可以执行对象校验,对比各种对象和表结构的一致性

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据校验_04

或者执行数据校验来对比迁移后数据是否完全一致。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_MySQL_05

Redis迁移和校验

本次新增Redis到Redis数据迁移和数据校验能力,支持Redis 5.0及以上版本。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_06

新建任务之后,DBMotion就会将您在Redis上的16个DB中的所有key和value都同步到目标端。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_07

接下来进入数据校验页面,可以对迁移过去的数据进行校验,DBMotion将对比所有DB中的key和value值是否一致。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据校验_08

MySQL to Kafka

新增MySQL到Kafka数据同步功能,用户可以选择需要抽取的MySQL数据库。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_oracle_09

源库中MySQL的数据如下:

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据_10

数据同步到Kafka以后,显示如下:

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据校验_11

列映射

DBMotion之前仅支持库级别和表级别的名称映射,本次新增了列级别的映射,用户可以在映射和过滤阶段,设置库和表的映射

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_MySQL_12

点击进入某个表的“映射与过滤”页面,设置列的映射。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_13

迁移完成后,进入目标库查看,可以看到库、表和字段均显示为迁移过程中我们所设置的映射名。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_14

限速

迁移同步期间,源库/目标库还在提供业务访问。如果迁移的流量过大,可能会对源库造成一定影响,从而对业务产生一定的影响。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_oracle_15

为了避免对系统造成过大的负担,有效地控制数据迁移的速度,DBMotion在本版本中支持按照吞吐量(MB/s)对传输任务进行限速

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_MySQL_16

限速后,DBMotion保证吞吐量最大不超过设置的最大值,保护数据库业务的正常运行。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据_17

校验任务独立

部分客户会自己使用MySQLdump或者其他类似的工具来做迁移或者同步,但是希望使用我们的校验工具对比一下迁移对象和数据是否完全一致。在DBMotion这个新版本中,开始支持独立的校验任务。用户可以进入“数据校验”任务列表展示页面上,点击“添加任务”进入页面。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据校验_18

与新建数据传输任务一样的页面,您可以根据向导填好任务相关选项并进行预检查,新建一个纯对象/数据校验的任务。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_19

任务新建成功以后,就可以在任务详情页面查看对象对比和数据对比的结果,确认到底有哪些对象/数据存在不一致的问题。校验不一致的数据可以点击“详情”查看具体的不一致情况,或者点击“订正SQL”,查看要执行怎样的SQL才能让目标库跟源库保持一致。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_数据_20

抽样校验

对于数据量特别大的表,由于校验时间太长,客户可能并不想校验所有的数据。DBMotion在本期提供了抽样校验的选项,在新建校验任务阶段可以配置校验的抽样比例

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_redis_21

在抽样校验任务完成后,查看校验结果。51232行数据,进行30%的抽样后,共校验了17171行数据,符合目标预期。

数据迁移卷不动了?Squids DBMotion新增多种数据库迁移能力_oracle_22

总结

总体来说,本次共修复和更新了二十多项功能:

SQL Server

  • 对象迁移:支持table、 view、function、 procedure、trigger、sequence, synonym、type和xml schema
  • 全量数据迁移:支持常规类型,支持LOB类型、uniqueidentifier、hierarchyid、rowversion、 geometry和geography等特殊数据类型;支持identity列和computed列
  • 对象校验:支持对各种迁移过去的对象进行校验,展示对象校验详情,生成订正SQL
  • 数据校验:支持各种数据类型的校验,查看不一致数据,生成订正SQL
  • 其它:支持一次迁移多个数据库

Redis

  • 数据迁移:支持全量迁移、全量的断点续传
  • 数据校验:全量校验、抽样校验、不一致详情查看

MySQL

  • 新增MySQL到Kafka,支持全量数据迁移,全量迁移断点续传
  • MySQL到ClickHouse支持无主键表迁移
  • MySQL到ClickHouse数据类型优化
  • 支持列映射,创建任务时可以指定目标端列名
  • 支持列脱敏,对于敏感信息可以选择脱敏
  • 支持敏感信息识别
  • 增量失败后支持修正或跳过错误
  • 支持快速复检
  • 优化对象校验详情展示,详情新增具体校验内容

其它功能

  • 支持创建独立校验任务,支持结构校验和数据校验,校验不再依赖迁移任务
  • 数据校验支持周期停止
  • 支持分片续传,在全量迁移阶段,暂停任务后,已经完成的分片不再重新传输
  • Docker线下版开始支持限速

问题修复

  • 修复了目标端未开启binlog,结束迁移时任务失败问题
  • 修复了MySQL mrg_myisam表迁移失败问题
  • 修复了MySQL 表中有生成列迁移失败问题

全新的功能,想先人一步使用吗?

赶紧上Squids体验吧!

SaaS产品,永久免费使用,点击即达!


标签:DBMotion,校验,支持,卷不动,MySQL,迁移,数据
From: https://blog.51cto.com/u_15739379/6775291

相关文章

  • 迁移原Jenkins数据到新搭建的Jenkins中
    如果我们有一个运行了很久的Jenkins,但想要把运行的数据备份和恢复到我们新部署的Jenkins中,如何操作呢?Jenkins本身其实是提供了备份插件的,我们在Jenkins中安装ThinBackup插件即可实现。安装成功后,可以在系统管理中找到插件的入口: 进入后页面如下: 首先进入settings修改配......
  • phpcms本地网站迁移至虚拟主机的教程_PHPCms教程
    本人已成功将2008调试的网站迁移至虚拟主机中,现将有关设置和应注意的地方拿来与大家一道分享。由于是一次性成功,迁移后没有碰到任何问题(至少现在没有),因此以下提到的不一定全面,请大家谅解。[首先要在虚拟主机中根据第一、二条全新安装phpcms2008]第一,安装环境:本机电脑到虚拟主......
  • DBConvert Studio - 数据库迁移和同步
    概述DBConvertStudio是一款强大的跨数据库迁移和同步软件,可以在不同数据库格式之间转换数据库结构和数据。它将成熟、稳定、久经考验的DBConvert和DBSync核心与改进的现代UX设计相结合。 数据库迁移场景 支持所有流行的数据库-从旧的基于文件的格式到现代的本......
  • 自建sqlserver迁移到aliyun的rds for sqlserver实战
    一、背景有些客户有上云的需求,需要把线下自建的sqlserver迁移至aliyun的rdsforsqlserver。大家第一时间想到的是用dts工具,根据工作经验,DTS迁移mysql类的数据库比较成熟,但是迁移sqlserver之类的会有问题。首先面临的一个问题就是源库日志膨胀的问题,也就是说是迁移过程中,源库的日......
  • Docker迁移到指定目录
    目录Docker迁移到指定目录Docker迁移到指定目录要将docker迁移到另一个目录,需要执行以下步骤:停止docker服务sudosystemctlstopdocker备份原来的docker数据目录将原来的docker数据目录(默认为/var/lib/docker)备份到新的目录。这里假设我们将docker迁移到/......
  • docker迁移默认的/var/lib/docker 到指定数据盘目录
    1、先停止docker 服务systemctlstopdocker2、创建docker挂载数据盘目录mkdir-p/data/docker/lib3、安装迁移工具yuminstallrsync-y4、迁移数据到新目录rsync-azP/var/lib/docker/data/docker/lib/5、修改docker配置文件docker.service vim/usr/lib/syst......
  • 中电金信:技术实践|异构数据库迁移之“痛”
    导语:近几年,国产化创新潮流席卷全国,异构数据库迁移成了不少同行、客户争相讨论的话题,大家或争论方案、或求解答疑、或讨论产品,总之问题林林总总,涉及的面还很多,笔者也在近期的几个项目中做了几个异构数据库迁移的项目,项目过后感觉大家最感兴趣的还是异构数据库迁移有哪些注意事项,所以......
  • rclone工具迁移MinIO至华为云OBS
    下载rclone工具[root@ceshi-minio~]#wgethttps://downloads.rclone.org/v1.62.2/rclone-v1.62.2-linux-amd64.zip--2023-07-1415:01:15--https://downloads.rclone.org/v1.62.2/rclone-v1.62.2-linux-amd64.zipResolvingdownloads.rclone.org(downloads.rclone.org).........
  • Rump迁移RedisDB至DB0
    下载Rump#wget下载包[root@ceshi-redis6~]#wgethttps://github.com/stickermule/rump/releases/download/0.0.3/rump-0.0.3-linux-amd64--2023-07-1414:34:20--https://github.com/stickermule/rump/releases/download/0.0.3/rump-0.0.3-linux-amd64Resolvinggithub.c......
  • 万字长文 | Hadoop 上云: 存算分离架构设计与迁移实践
    一面数据原有的技术架构是在线下机房中使用CDH构建的大数据集群。自公司成立以来,每年都保持着高速增长,业务的增长带来了数据量的剧增。在过去几年中,我们按照每1到2年的规划扩容硬件,但往往在半年之后就不得不再次扩容。而每次扩容都需要花费大量精力。为了解决包括扩容周期......