【问题标题】:What is the root directory that H2O Flow UI exports to?H2O Flow UI 导出到的根目录是什么?
【发布时间】:2018-06-30 09:44:36
【问题描述】:

例如,我想从在远程 hadoop 集群上运行的h2o flow 导出模型(不是 POJO),这样我就可以将它上传到我的本地机器 h2o 会话并查看输出指标,而无需使用相同的数据再次训练模型。但是,当我尝试从flow(在某个名称“export_test”下)导出模型时,我找不到它。要开始 h2o 会话,我正在做:

$cd cd h2o-3.14.0.6-mapr5.2
$hadoop jar h2odriver.jar -nodes 5 -mapperXmx 6g -output hdfsOutputDirName

但我在 hdfsOutputDirName 和 h2o-3.14.0.6-mapr5.2 目录中都没有看到任何名为“export_test”的文件(当我导出模型时在我的本地机器上使用flow)所以我不确定它会去哪里。是否有一个默认的基本目录,水流可能会导出到我远程进入的节点上的某个地方(如 baseDir/export_test)?谢谢。

【问题讨论】:

    标签: hadoop h2o


    【解决方案1】:

    模型将相对于您正在与之交谈的特定节点正在运行的位置进行保存。因此,在主机上的本地文件系统上放置了 REST API 客户端(如 R、Python 或 H2O Flow)正在与之通信的 YARN 容器。

    这可能不是您希望保存模型的位置。

    您可以明确指定一个“hdfs://”路径来保存模型,然后在 hdfs 中找到它。

    [ 那个“-output hdfsOutputDirName”实际上是继承自 org.apache.hadoop.util.ToolRunner 的产物,并没有用于任何用途。 ]

    【讨论】:

    • 当我在本地机器上运行 flow 时,导出模型和 .hex 文件会导致这些东西被下载到我启动 h2o.jar 文件的目录中。但是从我正在远程处理的 hadoop 节点运行flow 时不会发生同样的情况。从您的回答看来,它似乎应该下载到我 ssh-ed 到的节点上的 h2o-3.14.0.6-mapr5.2 (我对 hadoop 术语不太熟悉,因为我我只想用它来运行flow),但我没有看到这个。
    • 如果您使用 hdfs 路径(推荐),那么模型将保存到 hdfs,并且可以从任何可以看到 hdfs 的地方检索。如果您不使用 hdfs 路径,则该路径是 Flow 连接到的主机的本地路径(浏览器中的 IP 地址)。您可能无法登录该主机。这可能不是您通过 ssh 启动 h2o 的主机。
    • 向自己和其他可能处于与我发布此问题时类似情况的其他人添加注释(即没有使用h2ohadoop 的经验):将完成对hdfs 的访问使用 $hadoop fs <command to retrive files> 之类的东西,或者在本地文件系统上为 hadoop 安装一个 nsf 网关。
    猜你喜欢
    • 1970-01-01
    • 2019-11-19
    • 1970-01-01
    • 2022-01-01
    • 1970-01-01
    • 2019-12-25
    • 1970-01-01
    • 1970-01-01
    • 2016-07-05
    相关资源
    最近更新 更多