无法使用 Python 从 HTML/Javascript 中获取实际数据答案

【问题标题】：Unable to fetch actual data from HTML/Javascript using Python无法使用 Python 从 HTML/Javascript 中获取实际数据
【发布时间】：2017-08-17 09:05:46
【问题描述】：

我正在处理我的个人项目，我想在其中存储历史最高价和最低价的股票。

网址如下：

当我尝试获取 HTML 时，我得到了 Javascripts 和 Jsons，因为页面正在渲染后记。

我得到了这样的 HTML：

function loadData(val){
    var url1 ; 
    if (val=='high'){
        url1 = '/products/dynaContent/equities/equities/json/online52NewHigh.json';
    }else{
        url1 = '/products/dynaContent/equities/equities/json/online52NewLow.json';
    }
    $.get(url1,
        function(data,curr){
             obj = eval('('+data+')');           

             maxPage= parseInt((obj.data.length)/ recordPerPage);

             if (((obj.data.length)%recordPerPage)>0){
                maxPage++;
             }
             setData(0);
        }
    );  
}

我不确定如何获取实际数据，我尝试了 selenium 、 splinter 、urllib2 但在我的情况下不起作用。

代码：

from selenium import webdriver
from urllib2 import urlopen
import urllib2,cookielib

url = 'https://www.nseindia.com/products/content/equities/equities/eq_new_high_low.htm'
file_name = 'C:/Users/ASUS/Desktop/test.txt'


site= "https://www.nseindia.com/products/content/equities/equities/eq_new_high_low.htm"
hdr = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11',
       'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
       'Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3',
       'Accept-Encoding': 'none',
       'Accept-Language': 'en-US,en;q=0.8',
       'Connection': 'keep-alive'}

req = urllib2.Request(site, headers=hdr)


conn = urlopen(req)
data = conn.read()
conn.close()

file = open(file_name,'wt')
file.write(data)
file.close()

browser = webdriver.Firefox()
browser.get('file:///'+file_name)
html = browser.page_source
browser.quit()

我错过了什么吗？渲染后还有其他方法可以获取 javascript/json 数据吗？

【问题讨论】：

标签： python-2.7 selenium splinter

【解决方案1】：

当您拥有可浏览的 JSON 时，为什么要混合这么多东西？你的 JSON 路径是固定的，所以直接使用就行了

from urllib2 import urlopen
import urllib2, cookielib
import json

url = "https://www.nseindia.com/products/dynaContent/equities/equities/json/online52NewHigh.json"
hdr = {'User-Agent': 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11',
       'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
       'Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3',
       'Accept-Encoding': 'none',
       'Accept-Language': 'en-US,en;q=0.8',
       'Connection': 'keep-alive'}
req = urllib2.Request(url, headers=hdr)

conn = urlopen(req)
data = conn.read()
conn.close()

data_json = json.loads(data)

print (data_json["data"][0]["symbol"])

【讨论】：