在 Python 3 中避免堆栈溢出

Question

免责声明：我对计算机科学一无所知，也不了解幕后发生的任何事情的内部运作。使用互联网上的所有内容自学编码。

Python 版本：

Python 3.4.3 (v3.4.3:9b73f1c3e601, Feb 24 2015, 22:43:06) [MSC v.1600 32 bit(Intel)] on win32

使用普通解析器，其主要目的是获取图像的完整大小的 url，将其保存到文件中以供稍后下载，然后移动到行中的下一个图像，这几乎是强制性的，因为相关网站的不良网络架构。当我完成程序时，在第 976 次执行时遇到了一个错误。

  RuntimeError: maximum recursion depth exceeded in comparison

经过研究，我发现问题是由于“堆栈溢出”引起的。但是，目前我不知道如何在不造成任何显着性能下降的情况下解决问题。 （不过，这不是问题，因为我只是为了学习。）

这让我想到了我的问题，我该如何解决这个问题，我在哪里可以了解更多关于这些事情的信息，比如 Stack Overflow 是从什么开始的？

（程序运行良好，但堆栈溢出停止）

import requests
from bs4 import BeautifulSoup

def somesite_parsing(url):

    connection = requests.get(url)
    html = connection.text
    soup = BeautifulSoup(html, "html.parser")

    # The exception is necessary due to the web architecture.
    # Images that don't have different versions by size have an img tag.
    # Returns "http://www.somesite.net/tag_tag_tag.full.jpg"
    try:
        semi_link = soup.select("html > body > #wrapper > #body > #content > #large > a")
        full_link = semi_link[0].get("href")
        print(full_link)

    except IndexError:
        semi_link = soup.select("html > body > #wrapper > #body > #content > #large > img")
        full_link = semi_link[0].get("src")
        print(full_link)

    # File was created during testing so I switched to appending.
    # Saves link into folder.
    fx = open("list_file.txt", "a")
    fx.write(full_link + "\n")
    fx.close()

    # Fetches the next url.
    # Returns "/id_number"
    next_link = soup.select("html > body > #wrapper > #body > #menu > .smallthumbs > li > a")
    next_link = next_link[0].get("href")
    next_link = "http://www.somesite.net" + next_link
    print(next_link)

    print()
    somesite_parsing(next_link)


somesite_parsing("http://www.somesite.net/1905220")

Answer 1

“while”循环确实是您所需要的。

这就是我的做法，虽然我没有运行代码。

import requests
import json

start_url = "http//your_start_url"

def save_data(data):
    """Or however you want to save your data.
     I like .jsonl, see http://jsonlines.org/"""
    data = json.dumps(data)
    fx = open("data_file.jsonl", "a") #see 
    fx.write(data + "\n")
    fx.close()

def get_url(url):
    "This returns something similar to an 'option type'."
    r = requests.get(url)
    return {"success":  r.ok,
            "next_url": parse_your_response_for_next_url(r.text),
            "page":     r.text,
            "url":      url}

##################################


response = get_url(start_url)

while respose["success"]:
    save_data(response)
    response = get_url(response["next_url"])

（我使用的是伪“选项类型”和 jsonl 文件。但这只是一种风格决定。请参阅 https://en.wikipedia.org/wiki/Option_type 和 http://jsonlines.org/）

此外，如果您发出足够多的请求以达到最大递归深度，则最好将响应存储为 @functools.lru_cache 或其他磁盘支持的替代方案。

Answer 2

嵌套函数调用过多时会发生堆栈溢出。这主要发生在函数继续无休止地调用自身时。

在您的情况下，您在内部调用somesite_parsing。这最终会导致堆栈溢出。

有几种方法可以避免这种情况。我建议您在解析过程中进行循环。

更改somesite_parsing 以返回下一个链接，而不是调用自身，您可以这样做：

next_link = "http://www.somesite.net/1905220"
while next_link:
    next_link = somesite_parsing(next_link)

这将允许您从 somesite_parsing 返回一个 falsy 值以停止循环。