Python Selenium 无法单击（）按钮

Question

我正在尝试从这里自动抓取链接：

https://thegoodpubguide.co.uk/pubs/?paged=1&order_by=category&search=pubs&pub_name=&postal_code=&region=london

一旦我有了第一页，我想单击底部的右 V 形，以便移动到第二、第三等等。抓取中间的链接。

不幸的是，我没有尝试将 chrome 发送到下一页。

    from selenium import webdriver
    from selenium.webdriver.common.keys import Keys
    import time
    from datetime import datetime
    import csv
    from selenium.webdriver.common.action_chains import ActionChains

    #User login info
    pagenum = 1

    #Creates link to Chrome Driver and shortens this to 'browser'
    path_to_chromedriver = '/Users/abc/Downloads/chromedriver 2' # change path as needed
    driver = webdriver.Chrome(executable_path = path_to_chromedriver)

    #Navigates Chrome to the specified page
    url = 'https://thegoodpubguide.co.uk/pubs/?paged=1&order_by=category&search=pubs&pub_name=&postal_code=&region=london'


    #Clicks Login
    def findlinks(address):

        global pagenum

        list = []

        driver.get(address)
        #wait
        while pagenum <= 2:

            for i in range(20): # Scrapes available links
                xref = '//*[@id="search-results"]/div[1]/div[' + str(i+1) + ']/div/div/div[2]/div[1]/p/a'
                link = driver.find_element_by_xpath(xref).get_attribute('href')
                print(link)
                list.append(link)

            with open("links.csv", "a") as fp: # Saves list to file 
                wr = csv.writer(fp, dialect='excel')
                wr.writerow(list)

            print(pagenum)

            pagenum = pagenum + 1

            element = driver.find_element_by_xpath('//*[@id="search-results"]/div[2]/div/div/ul/li[8]/a')
            element.click()


    findlinks(url)

有什么东西挡住了我没看到的按钮吗？

我的终端打印的错误：

selenium.common.exceptions.NoSuchElementException: Message: no such element: Unable to locate element: {"method":"xpath","selector":"//*[@id="search-results"]/div[2]/div/div/ul/li[8]/a"}

Answer 1

试试这个：

element = WebDriverWait(driver, 10).until(EC.element_to_be_clickable((By.CSS_SELECTOR, "a[class='next-page btn']"))  
element.click()

Answer 2

编辑：

您为 V 形指定的 xpath 在页面之间是可变的，并且不完全正确。注意li[6] 和li[8] 和li[9]。

在第 1 页：xpath 是 //*[@id="search-results"]/div[2]/div/div/ul/li[6]/a/i

在第 2 页：xpath 是 //*[@id="search-results"]/div[2]/div/div/ul/li[8]/a/i

在第 3 页：xpath 是 //*[@id="search-results"]/div[2]/div/div/ul/li[9]/a/i

您必须想出一些方法来确定要使用的 xpath。这里有一个提示：似乎//*[@id="search-results"]/div[2]/div/div/ul/ 下的最后一个li 表示雪佛龙。

---

原帖：

您可能想尝试等待页面加载，然后再尝试查找并单击 V 形。当我测试我的自动化脚本时，我通常只做一个time.sleep(...)，但对于（可能）更复杂的功能，试试Waits。请参阅文档here。