【发布时间】:2020-06-01 06:05:28
【问题描述】:
我正在构建一个抓取玩家姓名以及他为数千名不同玩家效力的年份的信息。我已经建立了一个成功的函数来做到这一点,但不幸的是,在某些情况下,我需要的另一半数据(玩了几年)的表不存在。对于这些实例,我想添加一种方法来告诉抓取绕过这些实例。代码如下:
(注意:对象“url_final”是活跃网页URL的列表,其中有很多)
library(rvest)
library(curl)
library(tidyverse)
library(httr)
df <- map_dfr(.x = url_final,
.f = function(x){Sys.sleep(.3); cat(1);
fyr <- read_html(curl(x, handle = curl::new_handle("useragent" = "Mozilla/5.0"))) %>%
html_table() %>%
.[[1]]
fyr <- fyr %>%
select(1) %>%
mutate(name = str_extract(string = x, pattern = "(?<=cbb/players/).*?(?=-\\d\\.html)"))
})
这是一个活动页面的示例,您可以在其中通过将 map_dfr 中的 .x 调用中的“url_final”替换为:
https://www.sports-reference.com/cbb/players/karl-aaker-1.html
这里是其中一个实例的示例,其中没有表,因此返回一个错误,打破了抓取的循环。
https://www.sports-reference.com/cbb/players/karl-aaker-1.html
【问题讨论】:
-
把你的函数放在
purrr::safely()。旁注:看起来您的示例链接完全相同。
标签: r web-scraping purrr rvest