【问题标题】:How to write a java code for crawling sites with apache nutch 1.3 api?如何使用 apache nutch 1.3 api 编写用于爬取网站的 java 代码?
【发布时间】:2011-09-02 08:49:29
【问题描述】:

我想用 java 和 nutch 1.3 api 编写一个程序来抓取网站 我在网上搜索但没有示例代码 我怎样才能做到这一点? 谢谢

【问题讨论】:

    标签: web-crawler nutch


    【解决方案1】:

    您不需要为此编写任何 Java 代码...只需安装 Nutch 即可。但是,您应该安装自包含的 Nutch 1.2。
    使用 Nutch1.3,您需要自己安装 hadoop,并且您还需要为 webseach 安装和使用 Solr。

    【讨论】:

    • 我已经用 solrj api 编写了一个 java 程序来本地索引我的文件并对其进行控制和调试,但我不知道 nutch 是否可能?
    • nutch 基于 hadoop 索引 URL 而非文件系统
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-08-04
    • 1970-01-01
    • 2021-03-02
    • 2018-05-05
    • 1970-01-01
    相关资源
    最近更新 更多