Appium + mitmProxy 实现APP接口稳定性测试

avatar
@海尔优家智能科技(北京)有限公司

随着 App 用户量的不断增长,任何小的问题都可能放大成严重的线上事故,为了避免对App造成损害的任何可能性,我们必须从各个方面去思考 App 的稳定性建设,尽可能减少任何潜在的威胁。

1.背景介绍

为了保障 App 的稳定性,我们现在有 XMoney 智能遍历测试(崩溃、界面错乱、加载异常等)、UI 自动化(崩溃和业务逻辑验证)、Top1000 小程序遍历(崩溃和业务逻辑报错)、接口稳定性建设(崩溃和业务逻辑验证)。 今天要给大家介绍的是接口稳定性建设,就是在后端返回数据如果不可靠的情况下,App 是否依然可以稳定运行。

2.实现思路

方案一

Mock有专门的Mock平台, 崩溃有专门的崩溃监控平台, 我们只需要把Mock数据下发到手机,如果有崩溃,会被崩溃平台收集到,崩溃会由值班同学分发给研发。

  1. 将接口代理到Mock平台,Mock平台根据response 生成批量的Mock数据
  2. 通过Appium调用App到制定页面, 触发对应请求,请求到了Mock平台后,Mock平台随机下发Mock数据
  3. 重复打开指定页面, 直到遍历完Mock数据
  4. 崩溃平台进行崩溃分发(人工)

**

**

优点:

短时间内可以覆盖大量的mock数据。

缺点:

mock数据不可控。

方案二

方案一有太多的随机性,为了让下发的数据和下发数据后的结果能够对应, 我们为了控制下发的数据, 我们在方案一的基础上自建Mock server, 通过Appium脚本和Mock server的交互,控制下发数据。

经调研,Mock server 比较大众的方案就是采用[mitmproxy](https://github.com/mitmproxy/mitmproxy), [mitmproxy](https://github.com/mitmproxy/mitmproxy)可实现 python 脚本的注入, 通过 python 脚本可以拦截请求的 request 和 response 数据,然后篡改数据后返回。因为 mitmproxy 是一个shell工具, 无法直接和python脚本交互, 所以python脚本和mitproxy的交互方式采用的是.ini的形式,互相读取 .ini 文件中的内容来实现数据交互。

优点:

mock数据可控制,可以校验预期结果。

缺点:

需要准备mock数据, mock数据要经常维护。

2种方案我们都有应用,方案一较为简单,在集成测试阶段执行,我们不再展开介绍。 方案二稍微麻烦一些,回归测试阶段执行。以下将详细介绍下方案二如何实现。

3.代码设计

方案流程

代码示例

测试Case

通过Mock更新数据,测试小程序升级的逻辑 (因涉及代码较多,大家可通过完整系统查看)

测试小程序的同步升级和异步升级逻辑, 修改测试配置后,mitmproxy会监控对应的接口请求, 发现存在要修改数据的请求,则进行response修改后返回给手机端。 手机端验证是否升级成功。

步骤:

  1. 修改测试配置(通过ini文件和mitmproxy实现联动, mitmproxy会在每次触发接口请求时检测当前的测试配置文件)

  2. 打开手机app

  3. 打开某个小程序

  4. 验证是否升级成功 (示例为把官方小程序Demo升级成为携程小程序)

    """ @File : test_update.py @Author : YangTongGang @Desc : 小程序升级(同步更新、异步更新) """

    class TestUpdate(BaseTestCases): """检测小程序同步更新、异步更新 已适配(iOS & Android) """ def setUp(self) -> None: # super(TestUpdate, self).setUp() self.business.del_sf_app('智能小程序') if self.is_android: self.business.del_sf_mine_app('智能小程序')

    def __update_action(self, is_sync=True):
        # 把CTS升级成携程, 并修改max age = 0
        # 控制mitmproxy进行不同的测试
        if is_sync:
            test_type = TestType.TestMaxAgeZero
        else:
            test_type = TestType.TestSaveResponse
        self.changeTestType(test_type)
        protocol = CaseManager.official_demo_case().protocol
        self.business.open_swan(protocol)
        if is_sync:
            test_type = TestType.TestSyncUpdate
        else:
            test_type = TestType.TestAsyncUpdate
        self.changeTestType(test_type)
    
    def test_max_age_force_update(self):
        """测试小程序同步更新"""
        self.__update_action()
        self.business.open_app()
        protocol = CaseManager.official_demo_case().protocol
        if self.business.open_swan(protocol):
            self.assert_validate('汽车票')
    

Mitmproxy 启动

通过shell脚本启动mitmproxy并加载 http_handle.py文件,加载的python文件通过重写response或者request来达到监控每次请求的request和response的能力。

每次收到测试任务时,测试任务都会有相应的配置, 如果发现需要启动代理服务,则会自动调用如下脚本,启动代理, 然后手动配置测试机代理到服务地址,或者把任务打到固定的测试机上。

#!/usr/bin/env bash
: '
@File   : start_ui_mock.sh
@Author : YangTongGang
@Desc   : 启动UI Mock服务
'

script_file=/CaseTester/HTTPRouter/http_router.py

path=$0
current_path=${path%/*}
current_path=${current_path%/*}
# 启动mock 数据服务
file=/SHELL/start_mock.sh
file_path=${current_path}${file}
chmod +x "${file_path}"
sh "${file_path}" ${script_file}

#!/usr/bin/env bash
: '
@File   : start_mock.sh
@Author : YangTongGang
@Desc   : 启动接口Mock服务
'

path=$0
file_path=$1
current_path=${path%/*}
current_path=${current_path%/*}
file_path=${current_path}'/..'${file_path}
echo "${file_path}"

local_ip=$(ifconfig -a|grep inet|grep -v 127.0.0.1|grep -v inet6|awk '{print $2}'|tr -d "addr:"|head -n 1)
echo '=========== 代理服务地址 ============'
echo 'Script:' "${file_path##*/}"
echo ''
echo "${local_ip}":8088
echo ''
echo '==================================='

# mitmdump -s "${file_path}" -p 8088  --flow-detail 0
status=$(mitmdump -s ${file_path} -p 8088  --flow-detail 0)
if [$? == 0]
then
    exit 0
fi

监控response

注册对应的接口处理模块,遇到对应的接口时执行对应的测试。

"""
@File   : http_router.py
@Author : YangTongGang
@Desc   : 请求中转站
"""

# 注册handle
HANDLES = [
    # Core更新请求
    UpdateCoreHandle,
    # APS拉包请求
    PkgAPSHandle,
    # PMS拉包请求
    PkgPMSHandle,
    # Update接口
    UpdateHandle,
    # 我的页面, 下拉二楼的静默更新个数
    GetPkgListHandle
]

def response(flow):
    """接口response"""
    url = flow.request.url
    path = urlparse.urlsplit(url)['path']

    proxy_mock_urls = []
    for handle in HANDLES:
        proxy_mock_urls.append(handle.identifier)

    test_type = get_proxy_test_type()

    if test_type == TestType.TestNone:
        return

    if path not in proxy_mock_urls:
        return

    response_dic = json.loads(flow.response.content)
    for handle in HANDLES:
        if handle.identifier in path:
            handler = handle(response_dic, test_type)
            response_dic = handler.package_dic
            flow.response.content = bytes(json.dumps(response_dic), encoding='utf8')
            return

4.机房设计简介 

为了方便理解整个业务设计,顺便把我们的机房设计也给大家简单介绍一下。任务执行一般都是通过流水线派发到指定机房的随机空闲手机,测试完成后直接返回测试报告,测试执行人无需关心中间过程,也无需维护各种脚本。脚本都在机房维护, 避免在本地Appium部署困难, 脚本更新不及时等问题。

5.结语 

因为实际使用过程中依然需要大量人工介入,收益较小,所以执行频率不高,且该方案时间略微久远,所以在此只给大家抛砖引玉,开拓下思路之用,后续如有需要可以作为一种备选方案。

6.本文作者及团队介绍

三翼鸟****数字化技术平台-前端开发能力平台」通过持续搭建和完善前端研发流程、跨端复用能力、通用能力、规范和机制,建立标准化、平台化的前端研发体系,致力于提升团队前端开发能力、研发效率和用户体验,同时负责内容交互、场景交互、小程序、海外app等前端业务开发。