首页 > 其他分享 >CloudCanal 数据脱敏实践

CloudCanal 数据脱敏实践

时间:2023-07-21 11:55:55浏览次数:49  
标签:同步 CloudCanal 自定义 代码 实践 数据 脱敏

简述

本文主要介绍使用 CloudCanal 做数据迁移同步时如何对特定数据做脱敏处理。

技术点

自定义代码

CloudCanal 允许用户上传业务代码到数据任务中,完成数据迁移、同步过程中数据处理的目的。

数据同步脱敏也是基于自定义代码实现,具备以下特点:

  • 脱敏范围灵活,可选择任何一个或多个表字段
  • 脱敏算法可依赖外部算法包
  • 脱敏逻辑和策略可自定义

操作示例

脱敏代码开发

安装 CloudCanal

任务创建

  • 任务管理 > 创建任务
  • 选择源和目标数据库
    custom_task_1
  • 选择增量同步,并勾选数据初始化
    custom_task_2
  • 选择同步表
    custom_task_3
  • 选择列,右上角 上传自定义代码 jar 包
    custom_task_4
  • 创建任务
    custom_task_5
  • 任务结构迁移、全量迁移、增量同步,正常运行
    custom_task_6

验证数据

  • 源端与目标端数据
    custom_data_1
    custom_data_2
  • 对测试表造一些 DML 操作后,源端和目标端数据
    custom_data_3
    custom_data_4

常见问题

目前还存在什么问题?

  • 只支持 Java 语言,对于非开发同学不够友好,后续希望能支持常用脚本语言。
  • 数据校验和数据订正暂时不支持,对于基于自定义代码实现的数据迁移同步,无法做到数据质量校验。

总结

主要介绍使用 CloudCanal 做数据迁移同步时数据脱敏工作。

标签:同步,CloudCanal,自定义,代码,实践,数据,脱敏
From: https://www.cnblogs.com/clougence/p/17570921.html

相关文章

  • CAD应用实践
     CAD应用:DATAEXTRACTION:如果将数据提取到表格;ME:等分多段线;PL:多段线命令;list:提取多段线端点坐标;  ......
  • 电子书下载 免费pdf Python编程从入门到实践 第2版
    电子书下载-Python编程从入门到实践第2版简介Python是一种简单易学的编程语言,广泛应用于数据分析、人工智能、Web开发等领域。《Python编程从入门到实践》是一本非常受欢迎的Python入门教程。本文将介绍如何下载免费的PDF版本的第2版《Python编程从入门到实践》电子书,并提供一......
  • 智慧农业实践:可视化农业助力农民增产增收
    近年来,随着信息技术的迅猛发展,可视化农业作为一种创新型农业管理模式,逐渐引起了广泛关注。可视化农业利用先进的数据采集和分析技术,将农业数据转化为直观、易懂的图表和图像,为农民、农业专家和政府决策者提供了全面的农业信息。 挖掘农业数据的价值可视化农业将传统农业中的......
  • [日志] 日志脱敏实践
    1序言思路:根据待输出的关键字段名称进行不可逆算法的(离线式)脱敏。2步骤2.1修改本工程的日志框架为Log4j2slf4j.version=1.7.25log4j.version=2.13.3<!--log[start]--><dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <ve......
  • 【网易云信】直播场景播放侧常见问题分析与实践经验
    常见的播放流程播放器主要流程分析 播放器的播放流程与推流过程类似,但是顺序相反。推流端先采集音频和视频,进行音视频编码和封装,并按照流媒体协议进行处理,最终得到输出流。而播放器则将输入流经过解析和解封装,得到音频包(如AAC)和视频包(如H.264、H.265),并进行解码以获取音频帧......
  • 云原生基础设施实践:NebulaGraph 的 KubeBlocks 集成故事
    像是NebulaGraph这类基础设施上云,通用的方法一般是将线下物理机替换成云端的虚拟资源,依托各大云服务厂商实现“服务上云”。但还有一种选择,就是依托云数据基础设施,将数据库产品变成为云生态的一环,不只是提供自身的数据云服务,还能同其他的数据库一起分析挖掘业务数据价值。在本......
  • 人无完人,止于至善;躬身实践,方得始终
    人无完人,止于至善;躬身实践,方得始终   最近和女朋友发生了一些不快,两个人实际上都很疲惫,都渴望得到对方的关慰,可是身体却上不上劲,于是两败俱伤。其实两个人都没什么问题,都缺乏足够的休息与能量补充,睡一觉就好了的事儿,俩傻瓜都渴望得到对方帮助,还想通过吵架得到重视...... ......
  • CI流水线中Jenkins应用实践丨IDCF
    作者:达日汗,中国农业银行研发中心,系统支持部 CI(ContinuousIntegration)在维基百科中的定义是:经常将几个小改动合并到一个主分支中,强调开发人员提交了新代码之后,立刻进行构建和(单元)测试。持续集成可以帮助开发人员尽早定位到错误,控制开发流程,减少大量不必要的工作,提高工作效率。一......
  • 订单逆向履约系统的建模与 PaaS 化落地实践
    导读本文重点介绍了京东零售电商业务在订单逆向履约上面的最佳技术实践,京东零售快退平台承接了零售几乎所有售前逆向拦截和退款业务,并在长期的业务和技术探索中沉淀了丰富的业务场景设计方案、架构设计经验,既能承接面向消费者C端用户的高并发流量,同时也能满足集团复杂业务的订单......
  • 六月学习之Haproxy ACL实践(基于后缀调度)
    2、ACL场景实践2.4、ACL案例-基于后缀调度根据用户请求的后缀,调度到不同的后端集群用户通过.txt调度到172.16.1.7:80用户通过.pdf调度到172.16.1.8:802.4.1、配置后端节点#web1:.txt站点定义cat/etc/nginx/conf.d/www.qingchen.com.confserver{listen8080;server_......