我用 Python 爬取了妹子网100G的套图

·  阅读 19081
原文链接: mp.weixin.qq.com

前言

最近在做监控相关的配套设施,发现很多脚本都是基于Python的。很早之前就听说其大名,人生苦短,我学Python,这并非一句戏言。随着人工智能、机器学习、深度学习的崛起,目前市面上大部分的人工智能的代码 大多使用Python 来编写。所以人工智能时代,是时候学点Python了。

进军指南

对于没有任何语言开发经验的同学,建议从头系统的学起,无论是书、视频还是文字教程都可以。 

如果是有其他语言开发经验的同学,建议从一个案例入手,比如爬取某个网站的套图。

因为语言都是想通的,语法之类的只要你要语感,代码基本能读个八九不离十。

所以不建议有经验的开发者从头学起,无论是视频还是书,对于开始学一门语言来说都是太浪费时间了。

当然,等你深入进去以后,还是要系统的去学习,这是后话。

软件工具

Python3

这里选择的是最新版 Python 3.7.1

安装教程推荐:

http://www.runoob.com/python3/python3-install.html

Win下载地址:

https://www.python.org/downloads/windows

Linux下载地址:

https://www.python.org/downloads/source

PyCharm

可视化开发工具:

http://www.jetbrains.com/pycharm

案例

实现步骤

以妹子图为例,其实很简单,分以下四步:

  • 获取首页的页码数,并创建与页码对应的文件夹

  • 获取页面的栏目地址

  • 进入栏目,获取栏目页码数(每个栏目下有多张图片,分页显示)

  • 获取到栏目下对用标签中的图片并下载

注意事项

爬取过程中,还需要注意以下几点,可能对你有所帮助:

1)导库,其实就类似于Java中框架或者是工具类,底层都被封装好了

安装第三方库

  1. # Win下直接装的 python3

  2. pip install bs4、pip install requests

  3. # Linux python2 python3 共存

  4. pip3 install bs4、pip3 install requests

复制代码

导入第三方库

  1. # 导入requests库

  2. import requests

  3. # 导入文件操作库

  4. import os

  5. # bs4全名BeautifulSoup,是编写python爬虫常用库之一,主要用来解析html标签。

  6. import bs4

  7. from bs4 import BeautifulSoup

  8. # 基础类库

  9. import sys

  10. # Python 3.x 解决中文编码问题

  11. import importlib

  12. importlib.reload(sys)

复制代码

2)定义方法函数,一个爬虫可能会几百行,所以尽量不要写成一坨

  1. def download(page_no, file_path):

  2.    # 这里写代码逻辑

复制代码

3)定义全局变量

  1. # 给请求指定一个请求头来模拟chrome浏览器

  2. global headers # 告诉编译器这是全局变量 headers

  3. headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}

  4. # 函数内使用之前需要

  5. # 告诉编译器我在这个方法中使用的a是刚才定义的全局变量 headers ,而不是方法内部的局部变量。

  6. global headers

复制代码

4)防盗链

有些网站加入了防盗链,无所不能的 python 解决方案

  1. headers = {'Referer': href}

  2. img = requests.get(url, headers=headers)

复制代码

5)切换版本

Linux服务器使用的是阿里云服务器,默认版本 python2,python3 自行安装

  1. [root@AY140216131049Z mzitu]# python2 -V

  2. Python 2.7.5

  3. [root@AY140216131049Z mzitu]# python3 -V

  4. Python 3.7.1

  5. # 默认版本

  6. [root@AY140216131049Z mzitu]# python -V

  7. Python 2.7.5

  8. # 临时切换版本 <whereis python>

  9. [root@AY140216131049Z mzitu]# alias python='/usr/local/bin/python3.7'

  10. [root@AY140216131049Z mzitu]# python -V

  11. Python 3.7.1

复制代码

6)异常捕获

在爬取的过程中可能存在异常页面,这里我们进行捕获,不影响后续操作

  1. try:

  2.    # 业务逻辑

  3. except Exception as e:

  4.   print(e)

复制代码

代码实现

编辑脚本:vi mzitu.py

  1. #coding=utf-8

  2. #!/usr/bin/python

  3. # 导入requests库

  4. import requests

  5. # 导入文件操作库

  6. import os

  7. import bs4

  8. from bs4 import BeautifulSoup

  9. import sys

  10. import importlib

  11. importlib.reload(sys)

  12. # 给请求指定一个请求头来模拟chrome浏览器

  13. global headers

  14. headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.99 Safari/537.36'}

  15. # 爬图地址

  16. mziTu = 'http://www.mzitu.com/'

  17. # 定义存储位置

  18. global save_path

  19. save_path = '/mnt/data/mzitu'

  20. # 创建文件夹

  21. def createFile(file_path):

  22.    if os.path.exists(file_path) is False:

  23.        os.makedirs(file_path)

  24.    # 切换路径至上面创建的文件夹

  25.    os.chdir(file_path)

  26. # 下载文件

  27. def download(page_no, file_path):

  28.    global headers

  29.    res_sub = requests.get(page_no, headers=headers)

  30.    # 解析html

  31.    soup_sub = BeautifulSoup(res_sub.text, 'html.parser')

  32.    # 获取页面的栏目地址

  33.    all_a = soup_sub.find('div',class_='postlist').find_all('a',target='_blank')

  34.    count = 0

  35.    for a in all_a:

  36.        count = count + 1

  37.        if (count % 2) == 0:

  38.            print("内页第几页:" + str(count))

  39.            # 提取href

  40.            href = a.attrs['href']

  41.            print("套图地址:" + href)

  42.            res_sub_1 = requests.get(href, headers=headers)

  43.            soup_sub_1 = BeautifulSoup(res_sub_1.text, 'html.parser')

  44.            # ------ 这里最好使用异常处理 ------

  45.            try:

  46.                # 获取套图的最大数量

  47.                pic_max = soup_sub_1.find('div',class_='pagenavi').find_all('span')[6].text

  48.                print("套图数量:" + pic_max)

  49.                for j in range(1, int(pic_max) + 1):

  50.                    # print("子内页第几页:" + str(j))

  51.                    # j int类型需要转字符串

  52.                    href_sub = href + "/" + str(j)

  53.                    print(href_sub)

  54.                    res_sub_2 = requests.get(href_sub, headers=headers)

  55.                    soup_sub_2 = BeautifulSoup(res_sub_2.text, "html.parser")

  56.                    img = soup_sub_2.find('div', class_='main-image').find('img')

  57.                    if isinstance(img, bs4.element.Tag):

  58.                        # 提取src

  59.                        url = img.attrs['src']

  60.                        array = url.split('/')

  61.                        file_name = array[len(array)-1]

  62.                        # print(file_name)

  63.                        # 防盗链加入Referer

  64.                        headers = {'Referer': href}

  65.                        img = requests.get(url, headers=headers)

  66.                        # print('开始保存图片')

  67.                        f = open(file_name, 'ab')

  68.                        f.write(img.content)

  69.                        # print(file_name, '图片保存成功!')

  70.                        f.close()

  71.            except Exception as e:

  72.                print(e)

  73. # 主方法

  74. def main():

  75.    res = requests.get(mziTu, headers=headers)

  76.    # 使用自带的html.parser解析

  77.    soup = BeautifulSoup(res.text, 'html.parser')

  78.    # 创建文件夹

  79.    createFile(save_path)

  80.    # 获取首页总页数

  81.    img_max = soup.find('div', class_='nav-links').find_all('a')[3].text

  82.    # print("总页数:"+img_max)

  83.    for i in range(1, int(img_max) + 1):

  84.        # 获取每页的URL地址

  85.        if i == 1:

  86.            page = mziTu

  87.        else:

  88.            page = mziTu + 'page/' + str(i)

  89.        file = save_path + '/' + str(i)

  90.        createFile(file)

  91.        # 下载每页的图片

  92.        print("套图页码:" + page)

  93.        download(page, file)

  94. if __name__ == '__main__':    main()
复制代码

脚本在Linux服务器下运行,执行以下命令

  1. python 3 mzitu.py

  2. # 或者后台执行

  3. nohup python3 -u mzitu.py > mzitu.log 2>&1 &

复制代码

目前只爬取了一个栏目的套图,一共17G,5332张图片。

  1. [root@itstyle mzitu]# du -sh

  2. 17G     .

  3. [root@itstyle mzitu]# ll -s

  4. total 5332

复制代码

下面,请小伙伴们睁大眼睛,鸡冻人心的套图时刻来了。

小结

作为一个初学者,脚本肯定多多少少有一些问题或者待优化的地方,如遇Python大婶,还请多多指教。

其实脚本很简单,从配置环境、安装集成开发环境、编写脚本到整个脚本顺利执行,差不多花费了四五个小时,最终脚本一根筋的执行。限于服务器带宽以及配置的影响,17G的图差不多下载了三四个小时,至于剩下的83G,小伙伴们自行下载吧。

—END—