PhantomJS 和 Chromedriver操作方式以及功能一致 主要区别 PhantomJS 无界面模式 节省内存 Chromedriver 完全模仿浏览器 消耗内存
1. 加载页面

PhantomJS 截取的是网页的完整页面,包括下拉进度条的内容 Chromedriver只截取弹框浏览器的可视化内容页面
2查看请求信息
driver.page_source # 查看网页源码
driver.get_cookies() # # 获取当前浏览器的全部cookies
driver.current_url # 获取当前页面的url
3、退出
driver.close() #退出当前页面, 但浏览器还在
driver.quit() #退出浏览器
4定位和操作
模仿浏览器打开百度并搜索关键词python

主要利用定位 填充关键词 点击搜索按钮 001 先找到文本输入框元素,输入内容 002 找到搜索按钮 进行搜索
定位元素:

获取文本:element.text 获取属性值:element.get_attribute("href")
给输入框赋值: element.send_keys() 操作点击事件: element.click()
find_element和find_elements的区别 带s的返回的是列表 不带s的是返回列表中的第一个元素
selenium处理cookie
driver.get_cookies()获取的是完整的cookie信息!不光有name、value,还有domain等其他信息!

使用cookie
添加Cookie driver.add_cookie({'name':'xxxx','value':'xxxxxxxxxxx'})
刷新页面 driver.refresh()
页面等待 :www.jianshu.com/p/835bd3e96… 01 强制等待 time.sleep(10) 强制要求在时间内出现,否则报错,不能很好的控制时间,浪费资源
02 隐示等待 隐性等待对整个driver的周期都起作用,所以只要设置一次即可 隐形等待是设置了一个最长等待时间,如果在规定时间内网页加载完成,则执行下一步,否则一直等到时间截止,然后执行下一步。 driver.implicitly_wait(30) # 隐性等待,最长等30秒
03 显示等待
WebDriverWait(driver, 超时时长, 调用频率, 忽略异常).until(可执行方法, 超时时返回的信息)
这里需要特别注意的是until或until_not中的可执行方法method参数,很多人传入了WebElement对象,如下:
WebDriverWait(driver, 10).until(driver.find_element_by_id('kw')) # 错误
这是错误的用法,这里的参数一定要是可以调用的,即这个对象一定有 call() 方法,否则会抛出异常: TypeError: 'xxx' object is not callable

selenium执行js代码 js = 'window.scrollTo(0,document.body.scrollHeight)' # js语句 driver.execute_script(js) # 执行js的方法

通过执行js来新开一个标签页 js = 'window.open("www.sogou.com");' driver.execute_script(js) time.sleep(1)
switch方法切换的操作 01窗口切换
# 1. 获取当前所有的窗口
current_windows = driver.window_handles
# 2. 根据窗口索引进行切换
driver.switch_to.window(current_windows[1])
切换iframe iframe是html中常用的一种技术,即一个页面中嵌套了另一个网页,selenium默认是访问不了frame中的内容的,对应的解决思路是
driver.switch_to.frame()
思路:先定位并切换至iframe内,再进行你安排前元素操作 最后可通过切换至窗口,从iframe中切换出iframe 进入到页面
login_frame = driver.find_element_by_id('login_frame') # 定位frame元素
driver.switch_to.frame(login_frame) # 转向到该frame中

alert弹框处理 当你触发了某个事件之后,页面出现了弹窗提示,处理这个提示或者获取提示信息方法:driver.switch_to.alert() # 跟frame一样的处理方式!
页面前进和后退
driver.forward() # 前进
driver.back() # 后退
selenium 三大重要功能
无界面模式

更换UA

使用代理IP

三个可以同时使用
selenium的优缺点 • selenium能够执行页面上的js,对于js渲染的数据和模拟登陆处理起来非常容易 • selenium由于在获取页面的过程中会发送很多请求,所以效率非常低,所以在很多时候需要酌情使用
公众号改名为:Python数据分析实战