如何用selenium爬虫解决长尾词在iframe中的抓取难题？
- 内容介绍
- 文章标签
- 相关推荐
本文共计457个文字，预计阅读时间需要2分钟。
项目场景：使用selenium模块进行数据爬取时，经常会遇到爬取iframe中的内容。由于定位的作用域问题，可能爬取不到数据。
问题描述：以菜鸟教程的运行实例为例。按照正常的定位方式，无法获取到数据。
项目场景：
在使用selenium模块进行数据爬取时，通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。
问题描述：
我们以菜鸟教程的运行实例为案例。
按照正常的定位
会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。
#!/user/bin/ # -*- coding:UTF-8 -*- # Author:Master from selenium import webdriver import time driver = webdriver.Chrome(executable_path="./chromedriver") driver.get('www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3') time.sleep(2) text = driver.find_element_by_xpath('/html/body').text print(text) time.sleep(5) driver.quit()
执行结果：
很明显这并不是想要的结果。
本文共计457个文字，预计阅读时间需要2分钟。
项目场景：使用selenium模块进行数据爬取时，经常会遇到爬取iframe中的内容。由于定位的作用域问题，可能爬取不到数据。
问题描述：以菜鸟教程的运行实例为例。按照正常的定位方式，无法获取到数据。
项目场景：
在使用selenium模块进行数据爬取时，通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。
问题描述：
我们以菜鸟教程的运行实例为案例。
按照正常的定位
会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。
#!/user/bin/ # -*- coding:UTF-8 -*- # Author:Master from selenium import webdriver import time driver = webdriver.Chrome(executable_path="./chromedriver") driver.get('www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3') time.sleep(2) text = driver.find_element_by_xpath('/html/body').text print(text) time.sleep(5) driver.quit()
执行结果：
很明显这并不是想要的结果。