urllib2 加载移动网站的问题

Question

我正在尝试从http://m.finnkino.fi/events/now_showing 获取一些数据，但目前我失败得很厉害，因为我什至无法使用 python 加载页面源。 目前我正在使用以下代码：

req = urllib2.urlopen(URL,None,2.5)
page = req.read()
print page

这里是超时错误的回溯：

Traceback (most recent call last):
 File "user/src/finnkinoParser.py", line 26, in <module>
main()
File "user/src/finnkinoParser.py", line 13, in main
getNowPlayingMovies()
File "user/src/finnkinoParser.py", line 17, in getNowPlayingMovies
     req = urllib2.urlopen(baseURL,None,2.5)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 124, in urlopen
return _opener.open(url, data, timeout)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 383, in open
response = self._open(req, data)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 401, in _open
'_open', req)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 361, in _call_chain
result = func(*args)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 1130, in http_open
return self.do_open(httplib.HTTPConnection, req)
File "/System/Library/Frameworks/Python.framework/Versions/2.6/lib/python2.6/urllib2.py", line 1105, in do_open
raise URLError(err)
urllib2.URLError: <urlopen error timed out>

如果我用我的浏览器浏览到 url，它就可以正常工作。那么有人可以告诉我是什么让该网站如此不同，因此 urllib2 无法加载页面。我想这与针对移动用户的网站有关。使用“常规”站点 urllib2 可以正常工作。有没有其他类型的网站基本 urlopen(URL) 不起作用？

感谢您的帮助

Answer 1

跟随 sn-p 工作正常。

import httplib
headers = {"User-Agent": "Mozilla/5.0"}
conn = httplib.HTTPConnection("m.finnkino.fi")
conn.request("GET", "/events/now_showing", "", headers)
response = conn.getresponse()
print response.status, response.reason
data = response.read()
print data
conn.close()

他们的服务器似乎已经验证了几个请求变量。经过多次测试，得出以下结论：

1. http 协议必须是 HTTP/1.1。
2. 如果请求头有 Connection 属性，它的值应该是 keep-alive。
3. 无论其值如何，请求标头都必须具有 User-Agent 属性。

在 urllib2 中，HTTPHandler 中的 Connection 属性默认设置为 Close（urllib2.py 中的 L1127）。您可以使用 urlgrabber 或其他支持 HTTP/1.1 和 keep-alive 的 HTTP 处理程序。