简单易学, 还有 8 个爬虫实战

知乎现在改用 https 请求了，数据加密，但是问题不大，重要的是网页数据改动了，而且在请求时后台会对爬虫做一些判断，因此在每次请求是都需要加上 request header，尽可能接近浏览器请求的样子。

作者使用 Python 来操作数据库的经验分享。

不知何时，微信已经成为我们不可缺少的一部分了，我们的社交圈、关注的新闻或是公众号、还有个人信息或是隐私都被绑定在了一起。既然它这么重要，如果我们可以利用爬虫模拟登录，是不是就意味着我们可以获取这些信息，甚至可以根据需要来对它们进行有效的查看和管理。是的，没错，这完全可以。本篇博…

写爬虫似乎没有比用 Python 更合适了，Python 社区提供的爬虫工具多得让你眼花缭乱，各种拿来就可以直接用的 library 分分钟就可以写出一个爬虫出来，今天就琢磨着写一个爬虫，将廖雪峰的 Python 教程 爬下来做成 PDF 电子书方便大家离线阅读。 开始写爬虫前…

pyspider 是一个用 python 实现的功能强大的网络爬虫系统，能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时查看，后端使用常用的数据库进行爬取结果的存储，还能定时设置任务与任务优先级等。

本实验通过使用 Python 实现一个淘宝女郎图片收集爬虫，学习并实践 BeautifulSoup、Selenium Webdriver 及正则表达式等知识。

最近有个需求是批量下载安卓 APP。显然，刀耕火种用手点是不科学的。于是尝试用 Python 写了一个半自动化的脚本。所谓半自动化，就是把下载链接批量抓取下来，然后一起贴到迅雷里进行下载，这样可以快速批量下载。

最近在学 Python，同时也在学如何使用 python 抓取数据，于是就被我发现了这个非常受欢迎的 Python 抓取框架 Scrapy，下面一起学习下 Scrapy 的架构，便于更好的使用这个工具。