• 2024-04-27Hadoop集群模式的搭建之二:配置Hadoop平台基础环境
    在进行Hadoop集群的安装部署之前,需要对虚拟机进行一些基础环境配置。例如,为了在集群中识别主机,需要配置主机和IP地址的映射关系;为了使用Web相关的服务和访问连接,需要在集群中关闭并禁用防火墙功能;为了减少节点之间访问时人工输入用户密码,需要配置SSH免密登录;为了集群节点的时间能
  • 2024-04-25大数据平台搭建手册——hadoop
    从0开始超详细搭建hadoop平台手册创建三台使用centos7操作系统的虚拟机基础环境配置ps:不建议使用DHCP,因为ip地址会变动配置ip1.master[root@master~]#nmcliconnectionaddifnameens32con-nameens32autoconnectyestypeethernetipv4.methodmanualipv4.add
  • 2024-04-20Linux基本操作指令
    移动文件目录到另一目录下IP:110.41.42.72mv文件名或者文件目录目标文件夹路径删除文件夹#删除单个文件夹rmdir文件名#递归删除文件夹及文件夹下面所有的内容【会有提示】rm-r文件名#递归强制删除文件夹及文件夹下面所有的内容rm-rf文件名修改主机名[r
  • 2024-01-18es安装分词插件elasticsearch-analysis-ik(elasticsearch-plugin方式安装)
    环境:OS:Centos7ES:6.8.5 1.查看当前的安装的插件[root@hadoop-slave1soft]#curl-uelastic:123456-XGET"http://192.168.1.63:19200/_cat/plugins?v&s=component&h=name,component,version,description&pretty"namecomponentversiondescription 2.将分
  • 2023-12-18hadoop启动时报错process information unavailable
    启动hadoop,jps查看报错[root@slave1home]#jps7798--processinformationunavailable7081--processinformationunavailable查看进程是否存在[root@slave1home]#ps-ef|grep7798root93127475023:19pts/200:00:00grep--color=auto7798
  • 2023-04-25服务器之间实现免密登录的简易教程
    今天这篇文章主要是教会大家如何实现服务器之间的免密登录。1、先在所有服务器上执行命令:ssh-keygen-tdsa-P''-f~/.ssh/id_dsamaster服务器slave1服务器slave2服务器2、而后在所有服务器上执行命令:cat/.ssh/id_dsa.pub>>/.ssh/authorized_keysmaster服务器slave1服务器
  • 2023-02-25Hadoop3 Yarn ha搭建及测试排错
    1.YarnHa原理ResourceManager记录着当前集群的资源分配和Job运行状态,YarnHa利用Zookeeper等共享存储平台来存储这些信息以达到高可用。利用Zookeeper实现ResourceManag
  • 2023-01-19ShardingSphere实现读写分离
    把思考付诸实践,以实践提升思考文章目录​​前提条件​​​​1、创建SpringBoot程序​​​​1.1、创建项目​​​​1.2、添加依赖​​​​1.3、创建实体类​​​​1.4、创建M
  • 2022-09-24hbase
    hbase.rootdirhdfs://master:9000/hbasehbase.zookeeper.property.dataDir/home/hadoop/zookeeperhbase.cluster.distributedtruehbase.zookeeper.quorummas