- 2024-09-26HDFS数据(跨集群)迁移
一、数据迁移使用场景1.冷热集群数据同步、分类存储2.整体数据整体搬迁3.数据准实时同步(备份)二、考量因素1.网络传输带宽及时间,是否会影响现有业务2.性能,单机?多线程?分布式?3.是否正常增量同步4.数据迁移的同步性(同步单位时间数据超过单位时间)三、DistCp工具使用3.1简介dis
- 2024-06-20最快方式搭建docker大数据 测试集群
平时搭建一套测试集群找包找的累死,现在使用docker搭建cdh版本的 1.首先在服务器上安装dockeryuminstalldocker2.配置国内阿里云docker仓库服务 https://cr.console.aliyun.com/cn-hangzhou/instances/mirrors 换成地址,重启docker服务sudomkdir-p/etc/dockers
- 2023-02-17HDFS数据(跨集群)迁移
一、数据迁移使用场景1.冷热集群数据同步、分类存储2.整体数据整体搬迁3.数据准实时同步(备份)二、考量因素1.网络传输带宽及时间,是否会影响现有业务2.性能,单机?多
- 2023-02-10Curl 命令举例
curl是一个强大的网络请求lib,虽然强大,但是参数太多哈,不得不吐槽,下面列举一下常用使用方法,供大家CVPOST请求入门:curl-XPOST"http://localhost:8020/upload"简单:cur
- 2022-10-06Hadoop常用端口号
端口名称Hadoop2.xHadoop3.xNameNode内部通信端口8020/90008020/9000/9820NameNodeHTTPUI500709870MapReduce查看执行任务端口80888088历史服