火山引擎DataTester:如何用A/B测试做产品增长?

4,875 阅读5分钟

随着如今越来越高的获客成本,用户拉新变得不再容易;而且由于获客成本的增高,让用户留存也变得更加重要。同时,一个产品的使用体验好坏、是否给予对应的用户价值,通常“用户留存”就被作为重要的衡量指标之一。

那么,如何将有限的流量发挥出最大的价值,尽可能的提升用户留存呢?本文将跟随字节的一款内容App的增长实践来一探究竟。

该款App为用户提供短篇、中篇、长篇内容阅读服务,但在App推出一段时间后,该产品团队通过核心指标分析,发现App新用户流失率非常高。其中新用户LT(Life Time / 用户生命周期)、LTV(Life Time Value/用户生命周期价值)等指标均大幅低于预期,有较大的提升空间。

如何降低新用户的流失率、提高用户留存,成为了这款产品亟待解决的问题。

由于字节的产品在迭代、推广过程中都会不断经历A/B测试的打磨,因此该产品团队首先查看了历史策略,希望汲取一些经验。他们在字节跳动自研的A/B测试产品——DataTester 中,查看了该App以往的A/B实验历史,并通过 DataTester 特设的「经验库」能力,找到了往期能够提升用户留存的产品策略。

他们从「经验库」往期A/B测试的历史中看到:

· 往期“7天签到礼包”玩法中,新用户LT显著上升,用户留存率显著上升;

· 往年春节期间曾发起过众多活动,“签到日历”的玩法对比其他活动,留存最佳;

.....

总结发现,往期的“签到玩法”对比其他策略,对于这款App的用户留存提升通常更为显著。下图可看到“签到玩法”带来的拉新占比,及用户留存趋势。

因此该团队判断,此次产品策略优化,通过优化“签到玩法”获取提升该App新用户留存指标收益的可能性较高。那么在优化方向上具体策略如何制定呢?该团队通过数据分析后决定从用户体验痛点入手。

原产品“签到玩法”如下:

· 玩法设置在产品二级页面“福利页”,用户必须打开App后再进入“福利页”,才可以完成玩法任务

· 产品同时设置有两种“签到玩法”——「7天见面礼」与「日常签到」,两种玩法会同时弹出,用户打开产品后会遇到多重弹窗的情况

这样的产品策略会带来“用户操作路径过长,领取奖励难度相对较大”以及“多重弹窗对用户造成操作打扰”的痛点。产品团队因此确定了签到策略的优化思路:降低奖励领取难度,去除多重弹窗对用户的打扰。

当优化方向确定后,接下来就需要设计完整的A/B实验方案了;在A/B实验方案设计的过程中,最重要的一点是要计算出取得显著性结论所需要的流量是多少。 此时,字节的A/B测试产品 DataTester 的优势就体现出来了。当业务把想提升的指标、数值、提升方向输入进来后,DataTester 可以直接自动计算所需要的样本数量,然后经过A/B测试的实验数据来进行效果验证,帮助业务确认最优解的策略。

最后通过优化新用户的「7天见面礼」签到活动,从 DataTester 的实验结果上来看,优化后的实验组的大盘新用户LT(用户生命周期)、留存率等均有明显的正向提升;不仅如此,在App活跃时长、ARPU(平均每用户收入)等核心指标的数据也均有不同幅度的正向提升;同时新用户的签到问题反馈也有所下降。

因此,该App将新的策略全量上线,从线上数据表现来看,该App的「7日签到」策略次日领取率提升了近20%,用户多日留存稳定提升了3%~5%,获取了超预期的收益。

对于企业而言,更明智、更长期的战略意味着需要同时专注于自身产品的健康发展以及增长,而这其中最重要的驱动因素是用户满意度和用户留存。注重用户留存就可以推进增加营收及提高盈利能力,也节省了获客成本,达到了降本增效的目的。

那么如何提升核心指标?如何选择最优的产品策略?如何科学的评估指标提升与策略的关系?如何选准正确的迭代方向并继续向下探索收益?这些都需要A/B测试来进行评估并得到“理性且科学”的数据结果,帮助业务在每一个决策的岔路口上,都做出了更正确的选择。

DataTester 依靠其先进的底层算法,提供科学的分流能力和智能的统计引擎,支持多种复杂的A/B实验类型。在字节内部帮助今日头条、抖音等多个产品“摆脱猜测,用科学的实验衡量决策收益”。 不仅如此,DataTester 也已经由火山引擎对外开放服务,目前已服务了美的、得到、凯叔讲故事等在内的上百家外部企业,支持了多种业务场景需求,为业务的用户增长、转化、产品迭代、运营活动等各个环节提供了科学的决策依据,将成熟的“数据驱动增长”经验赋能给各行业。

立即跳转 A/B测试 DataTester 了解详情!