测试平台系列(60) 使用gunicorn部署Python服务

1,470 阅读5分钟

这是我参与8月更文挑战的第21天,活动详情查看:8月更文挑战

大家好,我是米洛,正在打造一个能用版测试平台。求点赞!求关注!求分享!🙋🙋🙋

项目地址: pity.readthedocs.io/

关注公众号: 米洛的测开日记,让我们进一步交流。

回顾

上一节我们编写了用例列表相关改造,但由于编辑/新增case的页面还得好好设计一番,而后端接口也没啥大的变化。

所以今天我们来聊聊怎么部署。

部署服务的几种方式

其实我们如果是在公司使用的话,一般公司运维都会提供部署服务的平台,但可能都是以业务代码使用的语言为主。

比如我上家公司,业务代码是用的Java,所以在Java服务的部署上,基本上接入公司发布系统即可。不扯远了,有的公司测试会自己维护一台服务器,随便儿你玩,不走发布系统。(当然如果你们公司支持Python服务的发布,建议还是用公司的发布系统,贵在稳定+可视化)

如果我们是自己维护自己的服务器,该怎么部署咱们的系统呢?

以下是Pity的部署教程,如果想看其他Python部署方式的,可以先跳过哈。

数据库

数据库这块比较简单,Pity提供了自动建表功能,底层使用的是MySQL,所以大家需要准备一台MySQL服务器,或者就在你的服务器安装好MySQL也是一样。

具体的安装过程我这儿就不细说了。

安装好以后我们会拿到用户名,密码,host和port信息,我们还需要创建数据库:

create database pity;

修改pity关于数据库的配置

在pity/Config.py修改SQLALCHEMY的连接串:

配置成你们本地的数据库连接

这样你的数据就能好好保存在你们的数据库了。

安装依赖

pip3 install -r requirements.txt

也可以使用豆瓣源:

pip3 install -r requirements.txt -i https://pypi.douban.com/simple

如果过程中安装失败了,建议升级一下pip

测试服务是否启动

如果启动服务的时候报没有logs文件夹,可以在pity根目录新建文件夹: logs,因为github会自动忽略掉空文件夹,所以可能需要大家自己创建。

在pity目录下启动服务:

python3 main.py

如果出现这样的图片,则是启动成功了

打开http://服务器ip:7777:


正题

我们今天主要是讲怎么用gunicorn部署Python服务,只不过博主我先用了自己的项目探路

回到正题,我们先来看一看最简单的一个部署方式

经典部署方式

在解决好所有环境依赖以后,我们通过python3 xxx.py启动服务,这样其他人就能够通过服务器ip+端口访问页面了。

http://服务器ip:端口号/

思考一下这样做的弊端:

  1. 服务器会一直打印着请求信息,并没有在后台运行

就像现在这样,shell会一直持续保持这样的状态

  1. 程序如果自动宕机,不能自动恢复

比如哪天程序不小心崩溃了,有的异常没有被自动捕获,导致整个Python程序崩溃,从而导致系统无法访问

  1. Python GIL性能太差

改进一下

针对经典部署,其实也有一些处理方式,比如第一条,我们可以用nohup帮我们解决第一个困难。

nohup python xxx.py &

然后可以看到当前目录生成了nohup.out的文件,而你的控制台窗口也没有再停留在服务输出窗口。

但还有其他困难,我们怎么解决呢?别慌!我们还有gunicorn+supervisor

supervisor

supervisor是一个托管容器,你的应用会被托管到里面,而他会提供一个守护线程,专门监控你的应用。当你的应用不小心崩了,他会自动把应用拉起,非常好用

遇到非代码错误,比如有人误操作kill掉你的程序,它会自动帮忙拉起,毫无波澜。

gunicorn

gunicorn基于gevent,差不多算是个提升app性能的库,它可以帮助我们的web应用提升性能,并且他也有自动重启的功能,还可以开启根据服务器配置开启不同数量的worker

怎么使用呢

安装Gunicorn

pip3 install gunicorn

以我们的app为例,我们的app名字叫pity,文件是main.py,所以取到app的方法就是: main:pity

普通gunicorn模式

安装好以后gunicorn命令就能够使用了,输入命令:

# FastApi应用
gunicorn -k uvicorn.workers.UvicornWorker main:pity -b 0.0.0.0:7777 -w 4 &

解释一下参数:

-k:

这个是指定worker为Uvicorn的Worker,为fastapi专属,其他比如flask应用不需要带上这个参数。

-w

workers数量,也就是起的线程数量,一般根据自己CPU内核来。比如我的服务器是4核的,那我就设定为4。

main:pity就是上面说的app的具体位置。

试验一下

可以看到服务都启动成功了

ps -ef | grep gunicorn可以看到这些个线程

配置文件的方式启动

我们编写gunicorn.py文件(配置文件):

import os
import gevent.monkey

gevent.monkey.patch_all()

import multiprocessing

# debug = True
loglevel = 'debug'
bind = "0.0.0.0:7777"
pidfile = "logs/gunicorn.pid"
accesslog = "logs/access.log"
errorlog = "logs/debug.log"
daemon = True
timeout = 60

# 启动的进程数
# workers = multiprocessing.cpu_count()
workers = 8
worker_class = 'uvicorn.workers.UvicornWorker'
x_forwarded_for_header = 'X-FORWARDED-FOR'

配置好bind地址,日志信息,workders数量,multiprocessing.cpu_count()会返回CPU数量。

记得安装gevent,用pip。

可以看到服务起来了,这边我开了8个workder

其实这个时候gunicorn已经具备了自动拉起功能,但gunicorn也可能被kill掉,所以我们更稳妥点儿的话,需要supervisor

supervisor

这块的资料比较多,大家可以尽情百度,因为博主主要讲的是部署方式,还得靠大家自己去实践呐。

更多部署方式

dockerk8s什么的也是不错的选择,如果大家有兴趣也可以多研究一下,作为测试的我们,掌握好基本的用法即可。

如果有兴趣也欢迎大家一起探讨~~