Python爬虫入门教程23:A站视频的爬取,解密m3u8视频格式
Python爬虫入门教程25:绕过JS加密参数,实现批量下载抖某音无水印视频内容
Python爬虫入门教程27:爬取某电商平台数据内容并做数据可视化
Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示
Python爬虫入门教程29:爬取某团烤肉店铺数据内容并做可视化展示
PS:如有需要 Python学习资料 以及 解答 的小伙伴可以加点击下方链接自行获取
-
Python 3.6
-
Pycharm
import csv
import requests
安装Python并添加到环境变量,pip安装需要的相关模块即可。
通过开发者工具, 抓包分析之后知道数据是从哪可以获取之后, 可以查看一下请求的url地址以及请求方式等
import csv
import requests
f = open('data.csv', mode='a', encoding='utf-8', newline='')
csv_writer = csv.DictWriter(f, fieldnames=[
'标题',
'城市',
'公司名字',
'学历',
'经验',
'薪资',
'公司福利',
'详情页',
])
csv_writer.writeheader()
url = 'www.lagou.com/jobs/positi…'
data = {
'first': 'true',
'pn': '1',
'kd': 'python'
}
headers = {
'cookie': 'cookie',
'referer': 'www.lagou.com/jobs/list_p…',
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.71 Safari/537.36'
}
response = requests.post(url=url, data=data, headers=headers)
result = response.json()['content']['positionResult']['result']
for index in result:
pprint.pprint(index)
title = index['positionName'] # 标题
city = index['city'] # 城市
area = index['district'] # 区域
city_area = city + '-' + area
company_name = index['companyFullName'] # 公司名字
edu = index['education'] # 学历
money = index['salary'] # 薪资
exp = index['workYear'] # 经验
boon = index['positionAdvantage'] # 公司福利
href = f'www.lagou.com/jobs/{index…'
job_info = index['positionDetail'].replace('
\n', '').replace('
', '')
dit = {
'标题': title,
'城市': city_area,
'公司名字': company_name,
'学历': edu,
'经验': exp,
'薪资': money,
'公司福利': boon,
'详情页': href,
}
csv_writer.writerow(dit)
txt_name = company_name + '-' + title + '.txt'
with open(txt_name, mode='w', encoding='utf-8') as f:
如果你也是看准了Python,想自学Python,在这里为大家准备了丰厚的免费学习大礼包,带大家一起学习,给大家剖析Python兼职、就业行情前景的这些事儿。
一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
二、学习软件
工欲善其必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。
三、全套PDF电子书
书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。
四、入门学习视频
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
五、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
成为一个Python程序员专家或许需要花费数年时间,但是打下坚实的基础只要几周就可以,如果你按照我提供的学习路线以及资料有意识地去实践,你就有很大可能成功! 最后祝你好运!!!