Python爬虫入门教程30:爬取拉勾网招聘数据信息(1)

138 阅读5分钟

Python爬虫入门教程18:好看视频的爬取

Python爬取入门教程19:YY短视频的爬取

Python爬虫入门教程20:IP代理的爬取使用

Python爬虫入门教程21:付费文档的爬取

Python爬虫入门教程22:百度翻译JS解密

Python爬虫入门教程23:A站视频的爬取,解密m3u8视频格式

Python爬虫入门教程24:下载某网站付费文档保存PDF

Python爬虫入门教程25:绕过JS加密参数,实现批量下载抖某音无水印视频内容

Python爬虫入门教程26:快手视频网站数据内容下载

Python爬虫入门教程27:爬取某电商平台数据内容并做数据可视化

Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示

Python爬虫入门教程29:爬取某团烤肉店铺数据内容并做可视化展示

PS:如有需要 Python学习资料 以及 解答 的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

基本开发环境💨


  • Python 3.6

  • Pycharm

相关模块的使用💨


import csv

import requests

安装Python并添加到环境变量,pip安装需要的相关模块即可。

💥需求数据来源分析


在这里插入图片描述

通过开发者工具, 抓包分析之后知道数据是从哪可以获取之后, 可以查看一下请求的url地址以及请求方式等

在这里插入图片描述

💥代码实现


import csv

import requests

f = open('data.csv', mode='a', encoding='utf-8', newline='')

csv_writer = csv.DictWriter(f, fieldnames=[

'标题',

'城市',

'公司名字',

'学历',

'经验',

'薪资',

'公司福利',

'详情页',

])

csv_writer.writeheader()

url = 'www.lagou.com/jobs/positi…'

data = {

'first': 'true',

'pn': '1',

'kd': 'python'

}

headers = {

'cookie': 'cookie',

'referer': 'www.lagou.com/jobs/list_p…',

'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.71 Safari/537.36'

}

response = requests.post(url=url, data=data, headers=headers)

result = response.json()['content']['positionResult']['result']

for index in result:

pprint.pprint(index)

title = index['positionName'] # 标题

city = index['city'] # 城市

area = index['district'] # 区域

city_area = city + '-' + area

company_name = index['companyFullName'] # 公司名字

edu = index['education'] # 学历

money = index['salary'] # 薪资

exp = index['workYear'] # 经验

boon = index['positionAdvantage'] # 公司福利

href = f'www.lagou.com/jobs/{index…'

job_info = index['positionDetail'].replace('
\n', '').replace('
', '')

dit = {

'标题': title,

'城市': city_area,

'公司名字': company_name,

'学历': edu,

'经验': exp,

'薪资': money,

'公司福利': boon,

'详情页': href,

}

csv_writer.writerow(dit)

txt_name = company_name + '-' + title + '.txt'

with open(txt_name, mode='w', encoding='utf-8') as f:

如果你也是看准了Python,想自学Python,在这里为大家准备了丰厚的免费学习大礼包,带大家一起学习,给大家剖析Python兼职、就业行情前景的这些事儿。

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

二、学习软件

工欲善其必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。

四、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

成为一个Python程序员专家或许需要花费数年时间,但是打下坚实的基础只要几周就可以,如果你按照我提供的学习路线以及资料有意识地去实践,你就有很大可能成功! 最后祝你好运!!!

了解详情:docs.qq.com/doc/DSnl3ZG…