网页抓取:缺少 href 属性 - 需要模拟鼠标点击进行网页抓取吗?
P粉550823577
P粉550823577 2024-04-04 10:32:06
0
1
3662

对于一个有趣的网络抓取项目,我想从 ttps://www.nhl.com/stats/teams 收集 NHL 数据。

有一个可点击的 Excel 导出标签,我可以使用 seleniumbs4 找到它。

不幸的是,事情到这里就结束了: 由于没有 href 属性,我似乎无法访问数据。

我通过使用 pynput 模拟鼠标点击得到了我想要的,但我想知道:

我可以采取不同的做法吗?如果感觉很笨拙。

-> 带有导出图标的标签可以在这里找到:

a class="styles__ExportIcon-sc-16o6kz0-0 dIDMgQ"

-> 这是我的代码

`import pynput
from pynput.mouse import Button, Controller
import time

from bs4 import BeautifulSoup
from selenium import webdriver
driver = webdriver.Chrome(executable_path = 'somepath\chromedriver.exe')

URL = 'https://www.nhl.com/stats/teams'

driver.get(URL)
html = driver.page_source  # DOM with JavaScript execution complete
soup = BeautifulSoup(html)
body = soup.find('body')
print(body.prettify())


mouse = Controller()

time.sleep(5) # Sleep for 5 seconds until page is loaded
mouse.position = (1204, 669) # thats where the icon is on my screen
mouse.click(Button.left, 1) # executes download`

P粉550823577
P粉550823577

全部回复(1)
P粉807471604

没有href属性,通过JS触发下载。使用 selenium 时找到您的元素并使用 .click() 下载文件:

driver.find_element(By.CSS_SELECTOR,'h2>a').click()

在这里使用 css 选择器 来获取直接子级 的<a>

或者通过以styles__E​​xportIcon开头的类直接选择它:

driver.find_element(By.CSS_SELECTOR,'a[class^="styles__ExportIcon"]').click()

示例

您可能需要处理 onetrust 横幅,因此请先单击它,然后下载该表。

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.chrome.service import Service
from webdriver_manager.chrome import ChromeDriverManager
driver = webdriver.Chrome(service=Service(ChromeDriverManager().install()))

url = 'https://www.nhl.com/stats/teams'
driver.get(url)
driver.find_element(By.CSS_SELECTOR,'#onetrust-reject-all-handler').click()
driver.find_element(By.CSS_SELECTOR,'h2>a').click()
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板