【问题标题】:hadoop datanode unable to start. "does not contain a valid host:port authority"hadoop 数据节点无法启动。 “不包含有效的主机:端口权限”
【发布时间】:2015-05-22 07:02:49
【问题描述】:

我目前使用的是hadoop 1.2.1(因为我需要运行一个空间处理软件只支持这个版本)。我正在尝试以一主三从的多节点模式进行部署。

我确信我可以在所有主从设备之间进行 ssh 连接,而无需密码(包括他们自己)。每个节点上的主机名也是正确的。 每个节点共享同一个主机文件:

192.168.56.101 master
192.168.56.102 slave1
192.168.56.103 slave2
192.168.56.104 slave3

slaves节点一直有问题,错误日志信息如下,

2015-05-21 23:39:16,841 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.lang.IllegalArgumentException: Does not contain a valid host:port authority: file:///
    at org.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:164)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.getAddress(NameNode.java:212)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.getAddress(NameNode.java:244)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.getServiceAddress(NameNode.java:236)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.startDataNode(DataNode.java:359)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.<init>(DataNode.java:321)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.makeInstance(DataNode.java:1712)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.instantiateDataNode(DataNode.java:1651)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.createDataNode(DataNode.java:1669)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.secureMain(DataNode.java:1795)
    at org.apache.hadoop.hdfs.server.datanode.DataNode.main(DataNode.java:181

core-site.xml 中的配置

<configuration>
    <property>
        <name>fs.default.name</name>
        <value>hdfs://master:9000</value>
    </property>
</configuration>

在mapred-site.xml中:

<configuration>
    <property>
        <name>mapred.job.tracter</name>
        <value>master:8012</value>  
    </property>
</configuration>

在 hdfs-site.xml 中:

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
</configuration

【问题讨论】:

  • mapred.job.*tracter* ?跟踪器

标签: xml hadoop


【解决方案1】:

您的节点主机名的命名约定可能存在问题。 确保它们不包含“_”之类的符号。 检查Wikipedia 的限制。

【讨论】:

    【解决方案2】:

    尝试在所有配置文件中将“master”更改为实际的 IP 地址。

    【讨论】:

      【解决方案3】:

      你配置好了。您需要在运行命令“$HADOOP_HOME/sbin/start-dfs”之后运行命令“$HADOOP_HOME/bin/hdfs namenode -format ma​​ster

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 2022-08-24
        • 2014-04-06
        • 1970-01-01
        • 2018-11-06
        • 1970-01-01
        • 1970-01-01
        • 2014-08-21
        • 1970-01-01
        相关资源
        最近更新 更多