在编写爬虫时,性能的消耗主要在IO请求中,当单进程单线程模式下请求URL时必然会引起等待,从而使得请求整体变慢

import requests

def fetch_async(url):
    response = requests.get(url)
    return response


url_list = ['http://www.github.com', 'http://www.bing.com']

for url in url_list:
    fetch_async(url)
1.同步执行(串行)

相关文章:

  • 2022-12-23
  • 2021-11-16
  • 2021-10-27
  • 2021-11-30
  • 2021-10-03
  • 2021-08-06
  • 2021-11-30
  • 2021-06-01
猜你喜欢
  • 2022-01-23
  • 2021-07-16
  • 2022-12-23
  • 2022-12-23
  • 2021-06-16
  • 2022-02-11
相关资源
相似解决方案