python 3.7 urllib.request 不遵循重定向 URL

Question

我正在使用带有 urllib 的 Python 3.7。 一切正常，但当它收到 http 重定向请求 (307) 时似乎不会自动重定向。

这是我得到的错误：

ERROR 2020-06-15 10:25:06,968 HTTP Error 307: Temporary Redirect

我必须使用 try-except 来处理它并手动向新位置发送另一个请求：它工作正常，但我不喜欢它。

这些是我用来执行请求的代码：

      req = urllib.request.Request(url)
      req.add_header('Authorization', auth)
      req.add_header('Content-Type','application/json; charset=utf-8')
      req.data=jdati  
      self.logger.debug(req.headers)
      self.logger.info(req.data)
      resp = urllib.request.urlopen(req)

url 是一个 https 资源，我设置了一个带有一些授权信息和内容类型的标题。 req.data 是一个 JSON

从 urllib 文档中，我了解到重定向是由库本身自动执行的，但它对我不起作用。它总是引发 http 307 错误并且不遵循重定向 URL。 我也尝试使用指定默认重定向处理程序的开启程序，但结果相同

  opener = urllib.request.build_opener(urllib.request.HTTPRedirectHandler)          
  req = urllib.request.Request(url)
  req.add_header('Authorization', auth)
  req.add_header('Content-Type','application/json; charset=utf-8')
  req.data=jdati  
  resp = opener.open(req)         

可能是什么问题？

Answer 1

在 cmets 部分的讨论中，您已经正确识别了未自动完成重定向的原因。具体来说，RFC 2616, Section 10.3.8 指出：

如果收到 307 状态代码以响应其他请求 与 GET 或 HEAD 相比，用户代理不能自动重定向 请求，除非它可以被用户确认，因为这可能 更改发出请求的条件。

回到问题 - 鉴于已分配 data，这会自动导致 get_method 返回 POST（根据 how this method was implemented），并且由于请求方法是 POST，并且响应代码是307，而是根据上述规范提出HTTPError。在 Python 的 urllib 的上下文中，urllib.request 模块的 this specific section 会引发异常。

对于实验，请尝试以下代码：

import urllib.request
import urllib.parse


url = 'http://httpbin.org/status/307'
req = urllib.request.Request(url)
req.data = b'hello'  # comment out to not trigger manual redirect handling
try:
    resp = urllib.request.urlopen(req)
except urllib.error.HTTPError as e:
    if e.status != 307:
        raise  # not a status code that can be handled here
    redirected_url = urllib.parse.urljoin(url, e.headers['Location'])
    resp = urllib.request.urlopen(redirected_url)
    print('Redirected -> %s' % redirected_url)  # the original redirected url 
print('Response URL -> %s ' % resp.url)  # the final url

按原样运行代码可能会产生以下结果

Redirected -> http://httpbin.org/redirect/1
Response URL -> http://httpbin.org/get 

注意后续重定向到get 是自动完成的，因为后续请求是GET 请求。注释掉 req.data 赋值行将导致缺少“重定向”输出行。

在异常处理块中需要注意的其他值得注意的事情，e.read() 可以用来检索服务器生成的响应正文，作为HTTP 307 响应的一部分（由于发布了data，可能会有一个简短的响应中可能被处理的实体？），并且需要 urljoin，因为 Location 标头可能是后续资源的相对 URL（或只是缺少主机）。

此外，出于兴趣（以及出于链接目的），这个特定问题之前已被多次问过，我很惊讶他们从未得到任何答案，如下：

• How to handle 307 redirection using urllib2 from http to https
• HTTP Error 307: Temporary Redirect in Python3 - INTRANET
• HTTP Error 307 - Temporary redirect in python script