【发布时间】:2016-06-14 17:33:06
【问题描述】:
在我的工作中,我使用了 2 台 Linux 服务器。 第一个用于网络爬虫并将其创建为文本文件。 另一个用于分析来自网络爬虫的文本文件。
所以问题是当在网络爬虫服务器上创建一个文本文件时, 它需要在分析服务器上自动传输。
我使用了 shell 编程指南,参考了一些技巧,
并设置爬虫服务器无需密码即可执行scp 命令(通过使用ssh-keygen 命令,在位于/root/.ssh 目录的authorized_keys 文件上添加ssh-key)
但我不知道如何在创建文件时以编程方式传输文件。
我的职位只是数据分析(不是编程) 所以,缺乏背景编程知识是我最大的担忧
如果有办法在创建时触发scp复制文件,请告诉我。
【问题讨论】:
-
为什么需要2台电脑?网络爬虫不能边爬边分析吗?
-
看看
inotifywait。使用它来观察创建网络爬虫文件的目录并将其rsync放到分析框。 -
为什么需要2台电脑?网络爬虫不能边爬边做分析吗? >>> 是的,但是我们需要使用那个分析服务器。可惜……
-
当然,但您问的是在服务器之间自动传输吗?你的
ssh密钥设置和工作了吗?你为什么使用root帐户作为 ssh 密钥?私钥应该在网络爬虫上的$HOME/.ssh和$HOME/.ssh/authorized_keys上分析的公钥。 -
@David C. Rankin 啊...没有理由使用 root 帐户。并且 ssh 密钥设置运行良好(我使用 scp 命令检查了它)。 inotifywait命令是C语言吗??
标签: linux shell ssh scp inotify