- 2024-06-30【Flink metric(3)】chunjun是如何实现脏数据管理的
文章目录一.基础逻辑二.DirtyManager1.初始化2.收集脏数据并check3.关闭资源三.DirtyDataCollector1.初始化2.收集脏数据并check3.run:消费脏数据4.释放资源四.LogDirtyDataCollector一.基础逻辑脏数据管理模块的基本逻辑是:当数据消费失败时,将脏数据
- 2023-11-13揭秘 ChunJun:如何实现 e2e&session 日志隔离
本文将从e2e的基本介绍,e2e的使用与扩展,session日志隔离三个维度为大家带来ChunJune2e&session日志隔离的分享。大量具体代码和演示请看视频教程⬇️视频课程:https://www.bilibili.com/video/BV1ru411P7oZ/?spm_id_from=333.999.0.0ChunJun为何选择e2e测试ChunJun项目是
- 2023-07-04国产开源流批统一的数据同步工具Chunjun入门实战
@目录概述定义特性部署安装版本对应关系通用配置详解整体配置Content配置Setting配置Local提交Standalone提交Json方式使用SQL方式使用MySQLSinkKafkaSink概述定义Chunjun官网https://dtstack.github.io/chunjun-web/源码release最新版本1.12.8Chunjun文档地址http
- 2023-06-04ChunJun FTP Connector 功能扩展解读
本文将从FTPConnector的功能详解,自定义文件切割及自定义FileFormat三个方面为大家带来ChunJunFTPConnector的功能扩展分享。FTPConnector详解FTP是用于在网络上进行文件传输的一套标准协议,它工作在OSI模型的第七层,TCP模型的第四层,即应用层,提供一种在服务器和客户
- 2023-06-01ChunJun FTP Connector 功能扩展解读
本文将从FTPConnector的功能详解,自定义文件切割及自定义FileFormat三个方面为大家带来ChunJunFTPConnector的功能扩展分享。FTPConnector详解FTP是用于在网络上进行文件传输的一套标准协议,它工作在OSI模型的第七层,TCP模型的第四层,即应用层,提供一种在服务器和客户
- 2023-06-01ChunJun FTP Connector 功能扩展解读
本文将从FTPConnector的功能详解,自定义文件切割及自定义FileFormat三个方面为大家带来ChunJunFTPConnector的功能扩展分享。FTPConnector详解FTP是用于在网络上进行文件传输的一套标准协议,它工作在OSI模型的第七层,TCP模型的第四层,即应用层,提供一种在服务器和客
- 2023-05-19技术干货|如何利用 ChunJun 实现数据离线同步?
ChunJun是⼀款稳定、易⽤、⾼效、批流⼀体的数据集成框架,基于计算引擎Flink实现多种异构数据源之间的数据同步与计算。ChunJun可以把不同来源、格式、特点性质的数据在逻辑上或物理上有机地集中,从⽽为企业提供全⾯的数据共享,目前已在上千家公司部署且稳定运⾏。在之前,我们曾
- 2023-04-24技术干货|如何利用 ChunJun 实现数据实时同步?
实时同步是ChunJun的⼀个重要特性,指在数据同步过程中,数据源与⽬标系统之间的数据传输和更新⼏乎在同⼀时间进⾏。在实时同步场景中我们更加关注源端,当源系统中的数据发⽣变化时,这些变化会⽴即传输并应⽤到⽬标系统,以保证两个系统中的数据保持⼀致。这个特性需要作业运⾏过程中
- 2023-04-12基于chunjun纯钧的增量数据同步问题排查【博客园-实习小生】
基于chunjun纯钧的增量数据同步目前我司的大数据平台使用的是flink技术栈,底层的连接器插件使用的是国产的chunjun插件,在使用chunjun的过程中也遇到了很多问题,本次记录下在SQL模式的情况下怎么支持增量的数据同步chunjun的官网文档对增量同步已经做出了一定的说明纯钧官方根
- 2023-04-07详解 Flink Catalog 在 ChunJun 中的实践之路
我们知道Flink有Table(表)、View(视图)、Function(函数/算子)、Database(数据库)的概念,相对于这些耳熟能详的概念,Flink里还有一个Catalog(目录)的概念。本文将为大家带来FlinkCatalog的介绍以及FlinkCatalog在ChunJun中的实践之路。FlinkCatalog简介Catalog提供元数据,如数据
- 2023-04-07详解 Flink Catalog 在 ChunJun 中的实践之路
我们知道Flink有Table(表)、View(视图)、Function(函数/算子)、Database(数据库)的概念,相对于这些耳熟能详的概念,Flink里还有一个Catalog(目录)的概念。本文将为大家带来FlinkCatalog的介绍以及FlinkCatalog在ChunJun中的实践之路。FlinkCatalog简介Catalog提供元数据,如
- 2023-02-14倒带ChunJun,同心前行|2022年度回顾&2023年共建规划
ChunJun是一个开始于2018年的批流一体数据集成框架项目,原名FlinkX。2022年2月22日,在FlinkX进行初版开源的整整四年后,技术团队决定对FlinkX进行整体升级,并更名为ChunJun,希望
- 2023-02-12纯钧chunjun的http-x插件修复
简介chunjun是一款基于flink的开源数据同步工具,官方文档,其提供了很多flink官方未提供的插件供大家来使用,特别是达梦插件在国产化环境中很方便!本次介绍的是chunjun中的一
- 2023-02-06袋鼠云 ChunJun(FlinkX)
Hi,我是ChunJun,一个有趣好用的开源项目-OSCHINA-中文开源技术交流社区https://www.oschina.net/news/206630ChunJun首页、文档和下载-基于Flink的数据集成工具-
- 2023-01-30chunjun同步两个带Kerberos认证的CDH集群数据
最近在项目中遇到同步两个CDH数据文件的需求,调研了一圈,发现datax不支持两个cdh同时进行kerberos认证,因此切换到chunjun,chunjun在kerberos认证的配
- 2022-12-16Kerberos 身份验证在 ChunJun 中的落地实践
Kerberos,在古希腊神话故事中,指的是一只三头犬守护在地狱之门外,禁止任何人类闯入地狱之中。那么在现实中,Kerberos指的是什么呢?一、Kerberos介绍01Kerberos是什么
- 2022-11-23开源共建 | 中国移动冯江涛:ChunJun(原FlinkX)在数据入湖中的应用
ChunJun(原FlinkX)是一个基于Flink提供易用、稳定、高效的批流统一的数据集成工具。2018年4月,秉承着开源共享的理念,数栈技术团队在github上开源了FlinkX,承蒙各位开发者的合
- 2022-11-11致谢每一位ChunJun Contributor!这里有一份礼物等你领取!
作为一个批流统一的数据集成框架,秉承着易用、稳定、高效的目标,ChunJun于2018年4月29日在Github上将内核源码正式开放。从还被叫作FlinkX,写下第一行代码开始,ChunJun已经走
- 2022-10-10ChunJun框架在数据还原上的探索和实践 | Hadoop Meetup精彩回顾
Hadoop是Apache基金会旗下最知名的基础架构开源项目之一。自2006年诞生以来,逐步发展成为海量数据存储、处理最为重要的基础组件,形成了非常丰富的技术生态。作为国内顶
- 2022-10-09开源直播课丨大数据集成框架ChunJun类加载器隔离方案探索及实践
本期我们带大家回顾一下无倦同学的直播分享《ChunJun类加载器隔离》,ChunJun类加载器隔离的方案是我们近期探索的一个新方案,这个方案目前还不是非常成熟,希望能借由此次分享
- 2022-10-09开源直播课丨大数据集成框架ChunJun类加载器隔离方案探索及实践
本期我们带大家回顾一下无倦同学的直播分享《ChunJun类加载器隔离》,ChunJun类加载器隔离的方案是我们近期探索的一个新方案,这个方案目前还不是非常成熟,希望能借由此次分享
- 2022-09-20开源直播课丨高效稳定易用的数据集成框架——ChunJun类加载原理与实现
一、直播介绍前几期,我们为大家分享了ChunJun的数据还原、Hive事务表及传输模块的一些内容,本期我们为大家分享ChunJun类加载原理与实现。本次直播我们将从Java类加载器解
- 2022-08-24开源交流丨批流一体数据集成框架ChunJun数据传输模块详解分享
课件获取:关注公众号“ChunJun”,后台私信“课件”获得直播课件视频回放:点击这里ChengYing开源项目地址:github丨gitee喜欢我们的项目给我们点个__STAR!STAR!!STAR!!!(重要的
- 2022-08-15开源公开课丨ChunJun数据传输模块介绍
一、直播介绍之前的内容,我们为大家分享了ChunJun数据还原的DDL模块,以及ChunJun同步Hive事务表,本期我们为大家分享ChunJun数据传输模块介绍。本次直播我们将从ChunJun数据