【问题标题】:Hadoop : java.io.IOException: Call to localhost/127.0.0.1:54310 failed on local exception: java.io.EOFExceptionHadoop:java.io.IOException:本地异常调用 localhost/127.0.0.1:54310 失败:java.io.EOFException
【发布时间】:2014-08-05 03:36:50
【问题描述】:

我是 hadoop 新手,今天才开始使用它, 我想将文件写入 hdfs hadoop 服务器,我使用服务器 hadoop 1.2.1,当我在 cli 中发出 jps 命令时,我能够看到所有节点都在运行,

31895 Jps
29419 SecondaryNameNode
29745 TaskTracker
29257 DataNode

这是我将文件写入 hdfs 系统的示例客户端代码

public static void main(String[] args) 
   {
        try {
          //1. Get the instance of COnfiguration
          Configuration configuration = new Configuration();
          configuration.addResource(new Path("/data/WorkArea/hadoop/hadoop-1.2.1/hadoop-1.2.1/conf/core-site.xml"));
          configuration.addResource(new Path("/data/WorkArea/hadoop/hadoop-1.2.1/hadoop-1.2.1/conf/hdfs-site.xml"));
          //2. Create an InputStream to read the data from local file
          InputStream inputStream = new BufferedInputStream(new FileInputStream("/home/local/PAYODA/hariprasanth.l/Desktop/ProjectionTest"));
          //3. Get the HDFS instance
          FileSystem hdfs = FileSystem.get(new URI("hdfs://localhost:54310"), configuration);
          //4. Open a OutputStream to write the data, this can be obtained from the FileSytem
          OutputStream outputStream = hdfs.create(new Path("hdfs://localhost:54310/user/hadoop/Hadoop_File.txt"),
          new Progressable() {  
                  @Override
                  public void progress() {
             System.out.println("....");
                  }
                        });
          try
          {
            IOUtils.copyBytes(inputStream, outputStream, 4096, false); 
          }
          finally
          {
            IOUtils.closeStream(inputStream);
            IOUtils.closeStream(outputStream);
          } 
       } catch (Exception e) {
           e.printStackTrace();
       }
   }

运行代码时出现我的异常,

java.io.IOException: Call to localhost/127.0.0.1:54310 failed on local exception: java.io.EOFException
at org.apache.hadoop.ipc.Client.wrapException(Client.java:1063)
at org.apache.hadoop.ipc.Client.call(Client.java:1031)
at org.apache.hadoop.ipc.WritableRpcEngine$Invoker.invoke(WritableRpcEngine.java:198)
at com.sun.proxy.$Proxy0.getProtocolVersion(Unknown Source)
at org.apache.hadoop.ipc.WritableRpcEngine.getProxy(WritableRpcEngine.java:235)
at org.apache.hadoop.ipc.RPC.getProxy(RPC.java:275)
at org.apache.hadoop.ipc.RPC.getProxy(RPC.java:249)
at org.apache.hadoop.hdfs.DFSClient.createRPCNamenode(DFSClient.java:163)
at org.apache.hadoop.hdfs.DFSClient.<init>(DFSClient.java:283)
at org.apache.hadoop.hdfs.DFSClient.<init>(DFSClient.java:247)
at org.apache.hadoop.hdfs.DistributedFileSystem.initialize(DistributedFileSystem.java:109)
at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:1792)
at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:76)
at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:1826)
at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:1808)
at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:265)
at com.test.hadoop.writefiles.FileWriter.main(FileWriter.java:27)
Caused by: java.io.EOFException
at java.io.DataInputStream.readInt(DataInputStream.java:392)
at org.apache.hadoop.ipc.Client$Connection.receiveResponse(Client.java:760)
at org.apache.hadoop.ipc.Client$Connection.run(Client.java:698)

当我调试它时,当我尝试连接到 hdfs 本地服务器时,错误发生在行中,

  FileSystem hdfs = FileSystem.get(new URI("hdfs://localhost:54310"), configuration);

正如我用谷歌搜索的那样,它表明版本不匹配,

hadoop 的服务器版本是 - 1.2.1 我正在使用的客户端 jar 是

hadoop-common-0.22.0.jar
hadoop-hdfs-0.22.0.jar

请尽快告诉我问题,

如果可能的话,推荐我可以找到 hadoop 客户端 jar 的地方,也给 jar 命名...请...

问候, 哈里

【问题讨论】:

  • 看起来 hadoop 服务没有正确启动。没有启动“NameNode”服务。目前这可能不是问题,但是一旦您解决了 jar 依赖问题,它就会出现。请发布您的 core-site.xml、hdfs-site.xml 和 mapred-site.xml 文件。

标签: java hadoop filesystems hdfs hadoop-streaming


【解决方案1】:

这是因为不同 jar 中的相同类表示(即)hadoop commonshadoop core 具有相同的类。 其实我对使用相应的罐子感到困惑。

最后我最终使用了apache hadoop core。它像苍蝇一样工作。

【讨论】:

    【解决方案2】:

    没有 NameNode 在运行。问题出在您的 Namenode 上。启动前是否格式化过NameNode?​​p>

    hadoop namenode -format
    

    【讨论】:

    • 2988 org.eclipse.equinox.launcher_1.2.0.v20110502.jar \n 3719 TaskTracker \n 3271 NameNode \n 3511 SecondaryNameNode \n 8472 Jps \n 3606 JobTracker \n 这是我的 jps 命令输出
    • namenode也没有问题...请告诉我配置eclipse部分的步骤
    • 8486 NodeManager 7823 DataNode 8092 SecondaryNameNode 7613 NameNode 10831 Jps 8265 ResourceManager 当你运行 jps 你应该得到以上所有
    • 我认为你现在缺少数据节点
    • 一次删除/hadoop_path/etc/hadoop/core-site.xml中hadoop文件系统路径(hadoop.tmp.dir)的所有文件并保存。现在重新格式化。可能这会有所帮助。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2022-12-15
    • 2013-04-28
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多