`
小网客
  • 浏览: 1216482 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

HDFS超租约异常(org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException)

 
阅读更多

异常信息:

org.apache.hadoop.ipc.RemoteException: org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No leas
e on ***.lzo File does not exist. Holder ** does not have any open files.
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1623)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1614)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.completeFileInternal(FSNamesystem.java:1669)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.completeFile(FSNamesystem.java:1657)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.complete(NameNode.java:714)

原因:

1.执行操作的时候某文件被删的,避免方式:别同时写一个文件

2.dfs.datanode.max.xcievers参数到达上限,辨别方式:

DataNode上有如下信息:IOE:java.io.IOException: xceiverCount 2049 exceeds the limit of concurrent xcievers 2048

避免方式:增大dfs.datanode.max.xcievers参数值

0
0
分享到:
评论

相关推荐

    hadoop搭建

    关于Hadoop分布式搭建部署的文档,仅供参考,可以切磋交流噢

    Hadoop(HDFS、YARN、HBase、Hive和Spark等)默认端口表

    9001 dfs.namenode.rpc-address,DataNode会连接这个端口 50070 dfs.namenode.http-address 50470 dfs.namenode.https-address 50100 dfs.namenode.backup.address 50105 dfs.namenode.backup.http-address 50090 ...

    hadoop-2.2.0-x64.tar.gz part2

    [INFO] Apache Hadoop HDFS ................................ SUCCESS [6:23.935s] [INFO] Apache Hadoop HttpFS .............................. SUCCESS [52.247s] [INFO] Apache Hadoop HDFS BookKeeper Journal...

    hadoop-2.2.0-x64.tar.gz part3

    [INFO] Apache Hadoop HDFS ................................ SUCCESS [6:23.935s] [INFO] Apache Hadoop HttpFS .............................. SUCCESS [52.247s] [INFO] Apache Hadoop HDFS BookKeeper Journal...

    hadoop-2.2.0-x64.tar.gz part1

    [INFO] Apache Hadoop HDFS ................................ SUCCESS [6:23.935s] [INFO] Apache Hadoop HttpFS .............................. SUCCESS [52.247s] [INFO] Apache Hadoop HDFS BookKeeper Journal...

    [hadoop] ERROR: but there is no HDFS_NAMENODE_USER defined. Aborting operation. Starting datanodes

    其中一个问题是报but there is no HDFS_NAMENODE_USER defined. Aborting operation. Starting datanodes 直接解决 在Hadoop安装目录下找到sbin文件夹 在里面修改四个文件 1、对于start-dfs.sh和stop-dfs.sh文件,...

    Hadoop 2.X HDFS源码剖析

    《Hadoop 2.X HDFS源码剖析》以Hadoop 2.6.0源码为基础,深入剖析了HDFS 2.X中各个模块的实现细节,包括RPC框架实现、Namenode实现、Datanode实现以及HDFS客户端实现等。《Hadoop 2.X HDFS源码剖析》一共有5章,其中...

    Hadoop02---HDFS基础(HDFS原理 java客户端).md

    自己的笔记,仅供参考,包含HDFS的启动停止,HDFS基本原理(上传文件、连接校验,下载文件,数据存储位置,通信机制,namenode和DataNode职责,元数据工作机制),java端操作HDFS的基本方法

    HDFS源码剖析带书签目录高清.zip

    《Hadoop 2.X HDFS源码剖析》以Hadoop 2.6.0源码为基础,深入剖析了HDFS 2.X中各个模块的实现细节,包括RPC框架实现、Namenode实现、Datanode实现以及HDFS客户端实现等。《Hadoop 2.X HDFS源码剖析》一共有5章,其中...

    Hadoop入门实战手册

    1.1 ..................................................................................................4 什么是Hadoop? 1.2 ................................................................................

    1-1-HDFS+and+YARN.pdf

    Hadoop集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起。 (1)HDFS集群:负责海量数据的存储,集群中的角色主要有 NameNode / DataNode/SecondaryNameNode。 (2)YARN集群:负责...

    hadoop3.3.3-winutils

    Hadoop3.x在组成上没有变化Hadoop Distributed File System,简称HDFS,是一个分布式文件系统。 (1)NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间、副本数、文件权限),以及每...

    Hadoop_HDFS安装和管理.pdf

    Hadoop_HDFS安装和管理.pdf, hadoop 0.23.x namenode 海量数据分析

    Hadoop实战(虚拟多台电脑)

    1、 硬件环境 我们采用了3台机器来构建,都安装的是Red Hat 4.1.2-42系统,并且都有一个名为“fddffd“的帐号,如下: 主机名称:hdfs1 ip:192.168.0.221 功能:NameNode,JobTracker 主机名称:hdfs2 ip:192.168.0....

    实验项目 实战 HDFS 实验报告

    1. 启 动 全 分 布 模 式 Hadoop 集 群 , 守护进程 包 括 NameNode 、 DataNode 、 SecondaryNameNode、ResourceManager、NodeManager 和 JobHistoryServer。 2. 查看 HDFS Web 界面。 3. 练习 HDFS Shell 文件系统...

    HDFS的优化实现ADFS.zip

    ADFS(Ali Distributed File System)是基于hadoop开源分布式系统HDFS的一种优化 实现,能够将HDFS中单点master namenode节点中的内存数据结构利用高速存储介质同步到磁盘中,同时能够提供很高的吞吐和性能 。...

    hadoop常见错误以及处理方法详解

    1、hadoop-root-datanode-master.log 中有如下错误:ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in导致datanode启动不了。原因:每次namenode format...

    Hadoop存储系统HDFS的文件是分块存储.docx

    Hadoop存储系统HDFS的文件是分块存储,每个文件块默认大小为32MB。 T F 评测结果:答案正确(5 分) 1-2 HDFS系统采用NameNode定期向DataNode发送心跳消息,用于检测系统是否正常运行。 T F

    Hadoop权威指南(第2版).

    HDFS通信部分使用org.apache.hadoop.ipc,可以很快使用RPC.Server.start()构造一个节点,具体业务功能还需自己实现。针对HDFS的业务则为数据流的读写,NameNode/DataNode的通信等。 MapReduce主要在org.apache....

    Apache Hadoop 3.x state of the union and upgrade guidance

    Apache Hadoop YARN is the modern distributed operating system for big data applications. It morphed the Hadoop compute layer to be a common resource-management platform that can host a wide variety of...

Global site tag (gtag.js) - Google Analytics