首页 > 其他分享 >电商项目-数据同步解决方案(一)

电商项目-数据同步解决方案(一)

时间:2024-12-23 22:20:14浏览次数:10  
标签:canal binlog 同步 log 解决方案 数据库 mysql 电商 数据

  一、 canal简介


  canal是阿里旗下的开源项目,其内部是基于java开发。主要作用是用于监控数据库内部数据的改变。从而获得新增数据,或者修改的数据。canal主要支持mysql数据库。

  canal是应对阿里巴巴存在杭州和美国的双机房部署,存在跨机房同步的业务需求而提出的。

  阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务。

  工作原理图:

 

 

  工作原理:

    canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议
    mysql master收到dump请求,开始推送binary log给slave(也就是canal)
    canal解析binary log对象(原始为byte流)


  二 、搭建环境


2.1 mysql开启binlog模式
(1)查看当前mysql是否开启binlog模式。

SHOW VARIABLES LIKE '%log_bin%'

 


如果log_bin的值为OFF是未开启,为ON是已开启。

(2)修改/etc/my.cnf 需要开启binlog模式。

[mysqld]
log-bin=mysql-bin
binlog-format=ROW
server_id=1

 


修改完成之后,重启mysqld的服务。

 

(3) 进入mysql

 

mysql -h localhost -u root -p

 


(4)创建账号 用于测试使用

使用root账号创建用户并授予权限

 

create user canal@'%' IDENTIFIED by 'canal';
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT,SUPER ON *.* TO 'canal'@'%';
FLUSH PRIVILEGES;

 


2.2 canal服务端安装与配置
(1)下载地址canal

Release v1.1.7 · alibaba/canal · GitHub

 

 

(2)下载之后 上传到linux系统中,解压缩到指定的目录/usr/local/canal

解压缩之后的目录结构:

(3)修改 exmaple下的实例配置

vi conf/example/instance.properties

 


修改下面的几个参数。

 

canal.instance.Master.address = 192.16.200.128:3306
canal.instance.dbUsername= canal
canal.instance.dbPassword = canal

 


(3)指定读取位置

进入mysql中执行下面语句查看binlog所在位置

mysql> show master status;

 


如果file中binlog文件不为 mysql-bin.000001 可以重置mysql

mysql> reset master;

 


查看canal配置文件

vim /usr/local/canal/conf/example/meta.dat

 



找到对应的binlog信息更改一致即可

"journalName":"mysql-bin.000001","position":120,"

 


注意:如果不一致,可能导致以下错误

2023-06-18 16:35:20.918 [New I/O server worker #1-2] ERROR
c.a.otter.canal.server.netty.handler.SessionHandler - something goes wrong with channel:
[id: 0x7f2e9be3, /192.168.200.56:52225 => /192.168.200.128:11111],
exception=java.io.IOException: Connection reset by peer

 


(4)启动服务:

[root@localhost canal]# ./bin/startup.sh

 



(5)查看日志:

cat /usr/local/canal/logs/canal/canal.log

 


  三 、数据监控微服务搭建

  当用户执行数据库的操作的时候,binlog 日志会被canal捕获到,并解析出数据。我们就可以将解析出来的数据进行相应的逻辑处理。

  在数据监控微服务中,基于canal完成mysql数据库的监控。当发现mysql内部有数据改变的时候会把相关数据提取出来,接着完成后续的数据同步操作。

 

  3.1 微服务搭建
步骤一:创建模块shangcheng_canal,pom引入canla 和RabbitMQ的依赖

 

 
    <dependencies>
        <dependency>
            <groupId>com.xpand</groupId>
            <artifactId>starter-canal</artifactId>
            <version>0.0.1-SNAPSHOT</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.amqp</groupId>
            <artifactId>spring-rabbit</artifactId>
        </dependency>
    </dependencies>

 



步骤二:创建包com.shangcheng.canal ,在包下创建启动类

@SpringBootApplication
@EnableCanalClient //声明当前的服务是canal的客户端
public class CanalApplication {
​
    public static void main(String[] args) {
        SpringApplication.run(CanalApplication.class,args);
    }
}

 


步骤三:创建配置文件application.properties

canal.client.instances.example.host=192.168.200.128
canal.client.instances.example.port=11111
canal.client.instances.example.batchSize=1000
spring.rabbitmq.host=192.168.200.128

 


步骤四:创建com.changgou.canal.listener包,在包下创建监听类

@CanalEventListener //声明当前的类是canal的监听类
public class BusinessListener {
​
    @Autowired
    private RabbitTemplate rabbitTemplate;
​
    /**
     *
     * @param eventType 当前操作数据库的类型
     * @param rowData 当前操作数据库的数据
     */
    @ListenPoint(schema = "shangcheng_business",table = "tb_ad")
    public void adUpdate(CanalEntry.EventType eventType,CanalEntry.RowData rowData){
        System.out.println("广告表数据发生改变");
        //获取改变之前的数据
        rowData.getBeforeColumnsList().forEach((c)-> System.out.println("改变前的数据:"+c.getName()+"::"+c.getValue()));
​
        //获取改变之后的数据
        rowData.getAfterColumnsList().forEach((c)-> System.out.println("改变之后的数据:"+c.getName()+"::"+c.getValue()));
    }
}

 


步骤五:测试:启动数据监控微服务,修改shangcheng_business的tb_ad表,观察控制台输出。

标签:canal,binlog,同步,log,解决方案,数据库,mysql,电商,数据
From: https://www.cnblogs.com/kongsq/p/18625166

相关文章

  • 智能网联汽车ISO 26262 功能安全开发解决方案
        经纬恒润2008年成立ISO26262功能安全小组,系国内较早从事功能安全技术研究的团队,作为功能安全国家标准委员会成员,参与GB/T34590第一版、第二版起草工作。结合自身汽车电子产品研发实践,经纬恒润功能安全服务团队提供覆盖功能安全流程咨询及ISO26262功能安全认证、产品开......
  • 从复盘到优化,电商团队如何破局?
    敏捷的复盘文化是现代电商团队提升竞争力的关键。无论是小型活动还是全年大促,复盘不仅是发现问题的工具,更是团队内部持续进化的核心能力。在线文档编辑与协同工具的应用,为电商团队在这一过程中提供了新的解决方案。电商复盘文化为何重要?1.数据驱动决策:活动过程中会产生大量数据......
  • 医院管理系统(HIS系统)如何建立数据同步与一致性机制?
    在HIS系统中建立数据同步和一致性机制对于确保系统数据的准确性、完整性和及时更新至关重要。以下是建立数据同步和一致性机制的一些建议:1、明确数据同步和一致性的目标首先,有必要明确数据同步和一致性的目标,包括确定哪些数据需要同步、同步频率和数据一致性标准。这有助于......
  • 数据到行动:电商复盘文化的深度剖析
    电商团队如何用协同工具优化活动复盘效率在电商行业中,团队复盘是每次活动后提升战斗力的重要环节。但由于活动节奏快、涉及面广,传统的复盘流程往往效率低下。近年来,越来越多的电商团队开始依赖在线文档编辑与协同工具,极大地提升了复盘的效率和质量。高效复盘的痛点:1.信息分散:......
  • 在.NET Core中使用异步多线程高效率的处理大量数据的一种解决方案
    目录一、引言二、假设场景三、解决方案四、示例代码一、引言处理大量数据是一个常见的需求,传统的同步处理方式往往效率低下,尤其是在数据量非常大的情况下。本篇将介绍一种高效的多线程异步处理大数据量的方法,通过边处理边消费的方式,极大地提高了处理效率,并且减少了内存开销。这......
  • 基于Spring Boot的农产品电商平台系统
    一、系统背景与目的随着网络技术的不断成熟,农产品电商平台逐渐崭露头角,它改变了传统农产品销售模式,降低了服务管理难度,提升了管理的灵活性。基于SpringBoot的农产品电商平台系统旨在通过互联网为农产品提供一个全新的销售渠道,帮助农民提高收入,同时为消费者提供优质、新鲜......
  • HTML5期末大作业:电商网站设计——仿淘宝电商网站管理系统21页(含毕业设计论文7500字)
    HTML5期末大作业:电商网站设计——仿淘宝电商网站管理系统21页(含毕业设计论文7500字)HTML+CSS+JavaScript常见网页设计作业题材有个人、美食、公司、学校、旅游、电商、宠物、电器、茶叶、家居、酒店、舞蹈、动漫、明星、服装、体育、化妆品、物流、......
  • 秒懂!用文档工具打造电商团队高效协作体系
    电商行业的快速发展,要求团队在高效完成任务的同时,也能快速响应市场需求。在这一过程中,任务交接的重要性被不断放大。而一个好的文档工具,不仅是任务记录的载体,更是驱动团队效率的引擎。一、电商任务交接的本质:从“谁在做”到“怎么做”传统的任务交接往往关注“谁在接手任务”,但......
  • VS Code在使用在粘贴时,一直转圈,解决方案?
    1.检查文件大小        如果你尝试粘贴大量文本或代码到非常大的文件中,VSCode可能需要一些时间来处理这些更改。确保你不是在处理异常大的文件(例如,超过几兆字节)。2.更新VSCode和扩展        确保你使用的是最新版本的VisualStudioCode。开发者会定期......
  • 你的任务交接有漏洞?这个解决方案超实用
    在电商行业,任务交接的效率往往直接影响整个团队的运转速度和质量。特别是在多渠道、多品类、多项目的电商团队中,任务的复杂性和紧迫性使得信息断层和沟通错误成为常见问题。一个高效的文档工具则能成为团队协作的核心。一、任务交接的三大误区1.口头沟通为主,缺乏记录很多团队......