当前位置：首页 > news >正文

中国共产党两学一做网站seo咨询河北

news 2025/7/31 17:36:14

中国共产党两学一做网站,seo咨询河北,新浪新闻疫情,安徽网新科技集团Python学习之路-爬虫提高:selenium 什么是selenium Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器&#xff09…

Python学习之路-爬虫提高:selenium

什么是selenium

Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器），可以接收指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏

PhantomJS的介绍

PhantomJS 是一个基于Webkit的“无界面”(headless)浏览器，它会把网站加载到内存并执行页面上的 JavaScript

下载地址：http://phantomjs.org/download.html

Chromedriver的介绍

Chromedriver 也是一个能够被selenium驱动的浏览器，但是和PhantomJS的区别在于它是有界面的

下载地址：https://npm.taobao.org/mirrors/chromedriver

driver的安装

最简单的安装方式是：解压后把bin目录下的可执行文件移动到环境变量下，比如/usr/bin 或者是/usr/local/bin下面

注意：Chromedriver和电脑上的chrome版本有对应关系，建议使用最新的Chromedriver版本并且更新chrome浏览器到最新版

selenium的入门使用

知识点：
- 掌握如何发送请求，加载网页
- 掌握如何进行简单的元素定位
- 掌握如何从获取浏览器中的数据

加载网页： selenium通过控制浏览器，所以对应的获取的数据都是elements中的内容

  from selenium import webdriver driver = webdriver.PhantomJS(“c:…/pantomjs.exe”)driver.get("http://www.baidu.com/")driver.save_screenshot("长城.png")

定位和操作：

  driver.find_element_by_id(“kw”).send_keys(“长城”)driver.find_element_by_id("su").click()

查看请求信息：

  driver.page_sourcedriver.get_cookies()driver.current_url

退出

  driver.close() #退出当前页面driver.quit()  #退出浏览器

selenium的定位操作

知识点：
- 掌握定位元素的方法
- 掌握获取元素中数据的方法

定位元素语法：

  find_element_by_id (返回一个元素)find_elements_by_xpath （返回一个包含元素的列表）find_elements_by_link_text （根据连接文本获取元素列表）find_elements_by_partial_link_text （根据连接包含的文本获取元素列表）find_elements_by_tag_name (根据标签名获取元素列表)find_elements_by_class_name （根据类名获取元素列表）

注意： find_element和find_elements的区别 by_link_text和by_partial_link_tex的区别：全部文本和包含某个文本

使用：

以豆瓣首页为例:https://www.douban.com/

  from selenium import webdriverdriver =webdriver.Chrome()driver.get("https://www.douban.com/")ret1 = driver.find_element_by_id("anony-nav")print(ret1)# 输出为：<selenium.webdriver.remote.webelement.WebElement (session="ea6f94544ac3a56585b2638d352e97f3", element="0.5335773935305805-1")>ret2 = driver.find_elements_by_id("anony-nav")print(ret2)#输出为：[<selenium.webdriver.remote.webelement.WebElement (session="ea6f94544ac3a56585b2638d352e97f3", element="0.5335773935305805-1")>]ret3 = driver.find_elements_by_xpath("//*[@id='anony-nav']/h1/a")print(len(ret3))#输出为：1ret4 = driver.find_elements_by_tag_name("h1")print(len(ret4))#输出为：1ret5 = driver.find_elements_by_link_text("下载豆瓣 App")print(len(ret5))#输出为：1ret6 = driver.find_elements_by_partial_link_text("豆瓣")print(len(ret6))#输出为：28driver.close()

获取数据语法
- find_element仅仅能够获取元素，不能顾直接获取其中的数据，find_element_by_xapth也是这样
- 获取文本：element.text
- 获取属性值：element.get_attribute("href")

使用示例：

from selenium import webdriverdriver =webdriver.Chrome()driver.get("https://www.douban.com/")ret4 = driver.find_elements_by_tag_name("h1")
print(ret4[0].text)
#输出：豆瓣ret5 = driver.find_elements_by_link_text("下载豆瓣 App")
print(ret5[0].get_attribute("href"))
#输出：https://www.douban.com/doubanapp/app?channel=nimingyedriver.close()

selenium 处理cookie

通过driver.get_cookies()能够获取所有的cookie

# 把cookie转化为字典
{cookie[‘name’]: cookie[‘value’] for cookie in driver.get_cookies()}#删除一条cookie
driver.delete_cookie("CookieName")
# 删除所有的cookie
driver.delete_all_cookies()