Scrapy框架的安装

177 阅读2分钟

Win+R 输入cmd打开命令行

我们先把pip升级到最新版,输入代码如下:

pip install --upgrade pip

不过一般这种更新方式会经常性出错,安装文件在下载到一半时就会超时报错

可以试试输入下面的代码一般不会出现什么问题了

python -m pip install -U --force-reinstall pip

升级完毕后我们就可以着手于安装scrapy框架了

为了防止接下来出现的超时问题,我们不要使用官方的方式安装框架,采用国内源进行scrapy的安装

pip3 install -i https://pypi.doubanio.com/simple/ scrapy

一般会直接安装成功,如果报错,会在ERROR信息里提示你缺少什么库,那么就输入上面的代码,将scrapy换成你需要安装的库的名称即可

注:scrapy安装前同时要求计算机里安装Visual Stdio 2015,或者高于2015版本的环境,不然会在所有库安装完后继续报错,如果报错了,那么在安装完Visual Stdio后重新在命令行输入安装Scrapy的指令即可。

然后新建一个Scrapy项目文件。选择我们要新建项目的目录,修改当前路径输入cmd.exe

然后直接在cmd里面进入这个文件夹的路径,然后我们输入新建项目的代码:

scrapy startproject myspider

就会直接在当前目录新建好myspider项目文件夹,然后我们通过Pycharm打开此项目,搭建scrapy环境

打开文件->设置->项目:myspider->Python解释器,会看见很多已经安装好的库了

**注意:巨坑在这里!**请查看一下自己的Python解释器的路径是否是你python的安装路径,即笔者这里安装的python3.8的路径。笔者一开始尝试安装scrapy的时候怎么装都不成功,后来才发现这里的Python解释器竟然默认选择了User路径下的Python.exe文件。如果你的解释器箭头下拉没有安装路径的选项,点击上图的全部显示,添加安装目录下的pythonw.exe文件。

然后点击右边的+号在搜索栏里面搜索scrapy进行安装,就可以成功搭建好环境了