【问题标题】:Can't run Scrapy program无法运行 Scrapy 程序
【发布时间】:2015-03-26 10:18:13
【问题描述】:

我一直在通过以下链接学习如何使用 Scrapy:

http://doc.scrapy.org/en/master/intro/tutorial.html

当我尝试运行在 Crawling(scrapy crawl dmoz) 部分中编写的代码时,我收到以下错误:

AttributeError: 'module' object has no attribute 'Spider'

但是,我将“Spider”更改为“spider”,但我得到了一个新错误:

TypeError: Error when calling the metaclass bases
module.__init__() takes at most 2 arguments (3 given)

我很困惑,有什么问题?任何帮助将不胜感激。谢谢。顺便说一句,我正在使用 Windows。

编辑(添加来源):

首先,我使用 Scrapy 创建了一个项目,方法是转到一个目录并通过 cmd 运行以下命令,如下所示:

cd #DIRECTORY PATH#

scrapy startproject tutorial

这将在给定目录中创建一个名为 tutorial 的文件夹。教程文件夹包括:

教程/ scrapy.cfg 教程/ 初始化.py 项目.py 管道.py 设置.py 蜘蛛/ 初始化.py ...

然后我定义了我的项目:

import scrapy

class DmozItem(scrapy.Item):
    title = scrapy.Field()
    link = scrapy.Field()
    desc = scrapy.Field()

之后,我创建了蜘蛛:

导入scrapy

class DmozSpider(scrapy.Spider):
    name = "dmoz"
    allowed_domains = ["dmoz.org"]
    start_urls = [
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Books/",
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Resources/"
    ]

    def parse(self, response):
        filename = response.url.split("/")[-2]
        with open(filename, 'wb') as f:
            f.write(response.body)

然后,在运行代码时,会显示错误。我正在使用 Windows 7 64 位和 Python 2.7 32 位。

编辑 2:

我尝试卸载并安装另一个 Scrapy 版本,但没有成功。这是日志:

C:\Users\Novin Pendar\Desktop\FS\tutorial>scrapy crawl dmoz
2015-03-26 17:48:29+0430 [scrapy] INFO: Scrapy 0.16.5 started (bot: tutorial)
2015-03-26 17:48:29+0430 [scrapy] DEBUG: Enabled extensions: LogStats, TelnetCon
sole, CloseSpider, WebService, CoreStats, SpiderState
C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\__init__.pyc
Traceback (most recent call last):
  File "C:\Python27\lib\runpy.py", line 162, in _run_module_as_main
    "__main__", fname, loader, pkg_name)
  File "C:\Python27\lib\runpy.py", line 72, in _run_code
    exec code in run_globals
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\cmdline.py"
, line 156, in <module>
    execute()
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\cmdline.py"
, line 131, in execute
    _run_print_help(parser, _run_command, cmd, args, opts)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\cmdline.py"
, line 76, in _run_print_help
    func(*a, **kw)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\cmdline.py"
, line 138, in _run_command
    cmd.run(args, opts)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\commands\cr
awl.py", line 43, in run
    spider = self.crawler.spiders.create(spname, **opts.spargs)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\command.py"
, line 33, in crawler
    self._crawler.configure()
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\crawler.py"
, line 40, in configure
    self.spiders = spman_cls.from_crawler(self)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\spidermanag
er.py", line 35, in from_crawler
    sm = cls.from_settings(crawler.settings)
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\spidermanag
er.py", line 31, in from_settings
    return cls(settings.getlist('SPIDER_MODULES'))
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\spidermanag
er.py", line 22, in __init__
    for module in walk_modules(name):
  File "C:\Python27\lib\site-packages\scrapy-0.16.5-py2.7.egg\scrapy\utils\misc.
py", line 65, in walk_modules
    submod = __import__(fullpath, {}, {}, [''])
  File "tutorial\spiders\dmoz_spider.py", line 3, in <module>
    class DmozSpider(scrapy.Spider):
AttributeError: 'module' object has no attribute 'Spider'

编辑 3:

问题解决了。我下载了最新版本的 Scrapy(0.24) 并安装了。一切都很好。只是想对那些和我以前有同样问题的人说,所以,他们会为他们节省很多时间。谢谢。

【问题讨论】:

  • 请检查您编写的代码。如果和教程中的完全一样,请将你写的贴在这里,有人可以为你调试。
  • 我将编辑我的帖子。谢谢。
  • 你是如何安装scrapy的?
  • @NoufalIbrahim:我尝试使用 distutils 安装它,但在收到未知错误后,我尝试使用 pip 安装它。

标签: python module web-crawler scrapy


【解决方案1】:

如果你的安装是正确的。试试这个

检查任何scrapy.pyscrapy.pyc,在工作文件夹中。如果存在,重命名它。不要将Spider更改为spider

【讨论】:

  • 您所说的任何一个文件都不在工作目录中。谢谢。
  • 然后在import scrapy之后打印scrapy.__file__
  • 这里是输出:C:\Python27\lib\site-packages\scrapy-0.22.2-py2.7.egg\scrapy_init_.pyc 那是什么代码是什么意思?
  • 检查print(dir(scrapy))并检查Spider是否存在于该列表中。否则检查scrapy.spider.Spiderscrapy.scrapy.Spider而不是scrapy.Spider。这是为了假设其他版本是否有任何变化.
【解决方案2】:

使用这个定义: 类 DmozSpider(scrapy.spider.BaseSpider):

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2016-10-06
    • 2018-12-20
    • 2019-07-07
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-01-24
    • 2021-12-19
    相关资源
    最近更新 更多