【问题标题】:File path issue while creating simple spring XD stream创建简单的spring XD流时的文件路径问题
【发布时间】:2016-03-19 20:12:10
【问题描述】:

我在分布式 YARN 设置上运行 spring XD。我正在使用具有 6 个数据节点和 1 个名称节点的 hortonworks 数据平台。并使用名称节点作为客户端节点。我已从名称节点调用 xd Shell,管理员和容器正在数据节点上运行。因此,当我创建如下 spring XD 流定义时:

xd> stream create --name filetest --definition "file | log" --deploy

它在我无权访问的数据节点上查找/tmp/xd/input/filetest。这是 spring XD 的正常行为吗?我认为它应该在我调用 XD shell 的节点上查找位置。你能帮我解决这个问题吗?

【问题讨论】:

    标签: spring-xd


    【解决方案1】:

    容器(不管它们是否在 Yarn 上运行)不知道 shell 在哪里运行。

    【讨论】:

    • 感谢加里的回复!!我同意两者相互独立,但不幸的是我无法访问数据节点,而且将文件直接提供给数据节点也是不可行的。有什么办法可以让流在客户端节点上本地查找文件,即在我的情况下在名称节点上。
    • 否;这是不可能的。我对 yarn 不熟悉,但您也许可以使用 TCP 源和netcat 文件内容。或 http 源并使用例如 POST 文件内容curl.
    猜你喜欢
    • 1970-01-01
    • 2011-04-02
    • 1970-01-01
    • 1970-01-01
    • 2019-03-18
    • 2013-04-09
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多