首页 > 其他分享 >hadoop常见问题-too many fetch-failures

hadoop常见问题-too many fetch-failures

时间:2023-04-03 17:32:03浏览次数:37  
标签:12 06 05 many hadoop 常见问题 datanode mapred


现象:



12/12/05 17:06:19 INFO mapred.JobClient: Task Id : attempt_201212051618_0002_m_000035_0, Status : FAILED

Too many fetch-failures

12/12/05 17:06:19 INFO mapred.JobClient: Task Id : attempt_201212051618_0002_m_000021_0, Status : FAILED

Too many fetch-failures

12/12/05 17:06:23 INFO mapred.JobClient:  map 99% reduce 43%

12/12/05 17:06:25 INFO mapred.JobClient: Task Id : attempt_201212051618_0002_m_000038_0, Status : FAILED

Too many fetch-failures

12/12/05 17:06:26 INFO mapred.JobClient: Task Id : attempt_201212051618_0002_m_000030_0, Status : FAILED

Too many fetch-failures



 

原因:reduce过程的时候取不到map阶段的结果,namenode工作正常,namenode通知datanode进行reduce操作,但是datanode却取不到,说明它没法和其他一部分datanode进行通信。

 

解决1.检查datanode之间能否互相通信,比如配置防火墙,甚至直接关掉防火墙都可以。

         2.完善datanode的主机名映射,因为配置hadoop的时候使用的是主机的名字,因此datanode间要进行通信就需要知道其他datanode的主机名和ip地址的映射。将映射表添加在每一个datanode的/etc/hosts文件中。

 

注明:网上有说什么把/etc/hosts中的127.0.0.1的主机映射去掉,是行不通的。

标签:12,06,05,many,hadoop,常见问题,datanode,mapred
From: https://blog.51cto.com/u_2650279/6166943

相关文章

  • Hadoop报错只no such file or drector exist.
    场景:在运行bin.hdfsdfs-mkdirXXXXXXXXX的命令的时候报此路径或者文件不存在。   解决办法:hadoopfs-mkdir-p/user/hadoop/TRANSLATEwithxEnglishArabicHebrewPolishBulgarianHindiPortugueseCatalanHmongDawRomanianChi......
  • 通过 docker-compose 快速部署 Hadoop 集群详细教程
    目录一、概述二、安装docker和docker-compose1)安装docker2)安装docker-compose三、docker-composedeploy1)设置副本数2)资源隔离四、docker-composenetwork五、docker-compose项目六、Hadoop部署(非高可用)1)安装JDK2)下载hadoop相关的软件3)构建镜像Dockerfile4)配置1、Hadoo......
  • AFIO-CH32FV2x_V3x--重映射功能的使用以及常见问题
    重映射功能    外设引脚重映射的概念,即一个外设的引脚除了具有默认的端口外,还可以通过设置重映射寄存器的方式,把这个外设的引脚映射到其它的端口。    简单的讲就是把管脚的外设功能映射到另一个管脚,但不是可以随便映射的。部分重映射&完全重映射部分重映......
  • hadoop3.3 安装配置sqoop1.4.7
    一:在hadoop3.3中安装配置sqoop1.4.7前言:sqoop功能已经非常完善了,没有什么可以更新的了,官方停止更新维护了。因此官方集成的hadoop包停留在了2.6.0版本,在hadoop3.3.0版本会提示类版本过低错误,但纯净版sqoop有缺少必须的第三方库,所以将这两个包下载下来,提取部分sqoop_hadoop2.6.......
  • SpringCloud常见问题描述
    1什么是SpringCloudSpringcloud流应用程序启动器是基于SpringBoot的Spring集成应用程序,提供与外部系统的集成。SpringcloudTask,一个生命周期短暂的微服务框......
  • Spring常见问题描述
    1渊源 原型在200210由RodJohnson发布的书中体现,后来在200403spring1.0版本发布,201709spring5.0发布,(1)springioc 控制反转,管理容器中的bean,主要使用di依赖注入实现。......
  • Linux操作命令常见问题(N+)
    1.什么是Linux?它的特点是什么?答:Linux是一种开源的操作系统,其特点包括稳定性、安全性、灵活性、可扩展性、自由度高等。2.如何在Linux系统上安装软件?答:通常可以使用包......
  • OSError: [Errno 24] Too many open files
    现象在用jmeter对Django的服务进行压力测试的时候,当并发量上到一定的数量时(我压测的时候用了1000),服务器进程崩了,并报了错:Traceback(mostrecentcalllast):File......
  • Django笔记七之ManyToMany和OneToOne介绍
    ManyToMany是一种多对多的关系,在用途和使用方法上和外键ForeignKey类似。以下是本篇笔记的目录:ManyToMany的介绍through参数through_fields参数ManyToMany关系......
  • 春哥甲(Hadoop雷点记录)
    “如果你也被春哥击倒,那么套上这个春哥甲吧!!!”这篇博客主要记录在学习Hadoop中遇到的各种雷点坑点!WordCountAndLen在这一节,我们开始尝试使用自定义的类型:WordCountAndLen......