【发布时间】:2018-03-24 13:36:52
【问题描述】:
我有一个访问网站超过 100 次的脚本,并且想在每个项目之间添加一个小的延迟。此外,如果可能,可能会添加一个倒计时或进程栏,显示状态或剩余项目数。代码示例如下;
import pandas as pd
urls = ['https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/440/vehicletype/car?format=csv',
'https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/441/vehicletype/car?format=csv',
'https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/442/vehicletype/car?format=csv',
'https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/443/vehicletype/car?format=csv',
'https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/445/vehicletype/car?format=csv',
'https://vpic.nhtsa.dot.gov/api/vehicles/GetModelsForMakeIdYear/makeId/448/vehicletype/car?format=csv']
dfs = [pd.read_csv(url) for url in urls]
df = pd.concat(dfs, ignore_index=True)
df.to_csv('foo.csv')
【问题讨论】:
-
阅读
tqdm了解倒计时条,了解time.sleep了解暂停执行。 -
好奇 - 为什么要添加暂停?
-
@Parfait 因为在这么多服务器请求之后运行脚本访问同一台服务器的速度如此之快,服务器阻止了它。
标签: python pandas csv for-in-loop