本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取
-
python 3.6.5
-
pycharm
import requests
import parsel
import time
import csv
相关模块pip安装即可
爬虫基本流程
1.确定url地址(网页分析) 完成一半
2.发送网络请求 requests(js\html\css)
3.数据解析(筛选数据)
4.保存数据(本地文件\数据库)
import requests
url = 'maoyan.com/board/4'
response = requests.get(url, params=params, headers=headers, cookies=cookies)
print(response.text)
使用parsel模块的CSS选择器解析网页数据
猫眼电影网页数据,全部再dd标签里面,所以咱们先获取dd标签里面的数据
import parsel
selector = parsel.Selector(response.text)
dd_s = selector.css('.board-wrapper dd')
遍历dd_s 使用css提取每一项数据,因为咱们要保存到csv里面,所以可以先创建一个字典接受这些数据
for li in li_s:
name = li.css('.name a::text').get()
star = li.css('.star::text').get()
releasetime = li.css('.releasetime::text').get()
follow = li.css('.score i::text').getall()
一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、Python必备开发工具
工具都帮大家整理好了,安装就可直接上手!
三、最新Python学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、Python视频合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
六、面试宝典