持续创作,加速成长!这是我参与「掘金日新计划 · 10 月更文挑战」的第2天,点击查看活动详情 今天的内容稍显简单,不过对于新媒体创作的朋友们还是很有帮助的,你能用上的话记得给辣条三连!
爬取目标 网站:站长素材
工具使用 开发工具:pycharm
开发环境:python3.7, Windows10
使用工具包:requests,lxml
重点学习内容 1.requests的网络请求应用
2.获取全部音频的网络地址
3.设置数据保存文件
项目思路解析 请求首页数据 通过修改url的值来改变数据 获取首页数据信息
获取到网页源代码 通过xpath方式提取出对应的音乐播放地址 提取出对应音频标题
保存对应音频数据信息
简易源码分享 import requests from lxml import etree for page in range(1, 2): url = 'http:/ headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers).text html_data = etree.HTML(response) div_list = html_data.xpath('//div[@class="audio-item"]') for div in div_list: new_url = div.xpath('./audio/@src')[0] title = div.xpath('.//p[@class="name"]/text()')[0].strip() print(new_url, title) res = requests.get(url=new_url, headers=headers).content filename = '音效/' + title + '.mp3' with open(filename, 'wb') as f: f.write(res) print("下载完毕{}".format(title))
文章知识点与官方知识档案匹配,可进一步学习相关知识 Python入门技能树网络爬虫动态渲染页面 发环境:python3.7, Windows10
使用工具包:requests,lxml
重点学习内容
1.requests的网络请求应用
2.获取全部音频的网络地址
3.设置数据保存文件
项目思路解析t etree
for page in range(1, 2): url = 'htp://s.chinaz.coao/iage) headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers).text html_data = etree.HTML(response) div_list = html_data.xpath('//div[@class="audio-item"]') for div in div_list: new_url = div.xpath('./audio/@src')[0] title = div.xpath('.//p[@class="name"]/text()')[0].strip() print(new_url, title) res = requests.get(url=new_url, headers=headers).content filename = '音效/' + title + '.mp3'