A/B 测试:以变应变,给用户更好的体验“宠爱”

0 评论 4299 浏览 14 收藏 11 分钟

编辑导语:数据分析是推动决策的重要环节之一,而若想让数据真正地产生价值,则可能需要基于一定的运营框架,形成业务价值输出闭环,进而推动后续优化迭代,提升用户的产品使用体验。本篇文章里,作者结合实际经验,基于企业运营框架SDAF做了一次A/B测试与用户行为相结合的实践梳理,不妨来看一下。

伴随着企业数字化转型进程的加速及用户行为分析理念的深入,各种各样的数据分析模型,比如事件分析、漏斗分析、留存分析等,早已成为企业日常运营不可或缺的“小助手”。

作为大数据分析与营销科技服务提供商,在我们过去服务客户的过程中,逐渐意识到,数据分析只是企业数字化转型过程中的一环,要想让数据真正对企业产生价值,应该将基于数据流的决策、行动与反馈统统加入进来,也就是基于数据流的企业运营框架 SDAF,即 Sense(感知)、Decision(决策)、Action(行动)、Feedback(反馈),形成一个完整的业务价值产出闭环。

当我们进一步思考,为什么 SDAF 是个环,而且是多个持续不断的环呢?

这时候我们会发现,这是因为普遍存在两个痛点:一是目标不精确,可能会导致行动失准、产出失效;二是手段不精确,可能会导致最终产出小于投入。这不仅是因为我们自身的认知有限,用户本身也十分“善变”。

也正是因此,我们希望将 A/B 测试与用户行为分析结合,带来应对用户变化的解决方案,最大化提升价值产出与效率,持续优化、持续迭代,给用户带来更好的体验“宠爱”。

那么,我们如何应用行为分析和 A/B 测试,达到良好融合、最大化提升价值产出的效率呢?用通俗的话语进行描述,那就是:“像投资人一样找杠杆,像科学家一样做试验。”而要找到杠杆,首先得理解我们的目标是什么。如果从用户行为的角度来描述目标,可以分为一次性行为和周期性行为。

一次性行为:我们希望用户尽可能发生单个目标行为,且这类行为通常非常关键,可以为后续的产品使用打下坚实基础,常见如用户注册、首单支付、实名认证等等。这类行为对应着我们的业务目标是“转化”,即让更多用户沿着正确路径达成目标事件。

周期性行为:我们希望用户尽可能多次发生某个行为,或者发生的程度更深,通常是体现产品核心价值的行为,常见如支付订单、浏览内容等等。这类问题通常对应的业务目标是“参与度”或“留存”,即让用户更多更深入地做某件事情。

接下来我们将基于 SDAF 闭环运营框架,详细为大家介绍 A/B 测试与用户行为相结合的应用实践。

一、Sense:使用行为分析模型,感知用户行为

对于用户的一次性行为,我们的业务目标是让更多的用户沿着正确的路径做某个事情。可以通过以下模型进行观测:

  • 漏斗分析:严格规定的路径上,用户流失情况如何?
  • 路径分析:用户群体的实际行为路径如何分流?
  • 行为序列:用户个体的实际行为路径如何跳转?

对于周期性的行为,我们的业务目标是让用户更多更持久地做某件事,并形成习惯。可以通过以下模型进行观测:

  • 留存分析:用户行为的发生在时间上的持续性如何?
  • 分布分析:用户行为的发生频次(强度)如何?

二、Decision:基于观测数据,正确使用数据做决策

只有数据是很难产生价值的,所以完成了 Sense 之后,需要做进一步的解读与决策。我将数据应用总结为以下三点:

  1. 有限还原场景。从抽象过的、框架化的角度还原用户的整个决策过程,比如通过漏斗分析、用户路径分析,就可以描绘用户的整体行为情况。
  2. 做为诊断依据。感知用户行为,通过时间或分类维度的横向竖向比较,可以大致确定是否存在问题。
  3. 进行杠杆排序。知晓当前哪个比较重要,哪个暂时不那么重要,虽然问题可能很多,但事儿还得一件一件干。

除此之外,比数据应用重要的事情是知道事情怎么做?要描述好这个事情,我通常会列出两张表。

第一张表叫做:为什么?如果我们对于要解决的问题有更准确的认识,解决起来的效果当然是较好的,因此可以从动力、阻力、时机等角度罗列可能的原因,并做一些主观上的排序。

第二张表叫做:怎么办?针对于这些具体原因,我们可以列出可能的方案或者方案的方向。最终使用 ICE 模型(Impact 影响范围、Confidence 自信程度、Ease 实现难易)进行主观排序,确定最近的一段时间,我们要做的试验是什么。

比如针对电商场景,我们可以梳理出电商的核心路径,并找到核心路径上的薄弱环节,或者杠杆指标,并进一步定位我们的关注点。

当定位到某个问题页面或者模块之后,我们会进一步列出为什么和怎么办。比如我们在数据分析中诊断出某电商的轮播图模块存在转化问题,该模块靠后的几张广告的渗透率急剧下降,且经评估我们认为该模块的重要度比较高,我们就可以进一步针对其列出以下列表:

三、Action:基于业务决策,实施 A/B 测试

当我们已经有了比较具体的试验方向,就可以进一步设计试验本身的细节,去罗列出试验实施的几个要素:

  • 试验的假设:我们所认为的目标和手段之间的因果关系。(改动什么会影响什么?原因是什么?)
  • 试验的变量:具体的改动元素,通常是单一元素,方便归因。
  • 试验的指标:评估试验成败的指标及其相关指标。
  • 试验的受众:具体实施试验的用户对象。

四、Feedback:分析试验数据,获取反馈与认知

“反馈”的字面含义,指的是我们从试验结果中获得的直接结论,即各试验组是否有差异,哪组策略更好或是更坏。而“认知”却是更深一层的,即我们学到的、可以被沉淀的知识。

比如在我司客户的某个电商场景中,对于奢侈品的图片加上各种相关标语的大图版本,从数据上来看转化率是更差的,这是“反馈”。而奢侈品类产品的大图中加上标语,对用户来说受到了注意力干扰,影响到体验产品的美感,这是“认知”。

商品图源于网络

在统计学中讲到,“即使数据上存在显著差异,我们无论接不接受新的方案,都是有概率犯错误的。”也就是说,反馈可能是错误的。

更要命的是,即使我们得到的反馈是对的,也可能在认知上犯错误。比如我们错误的认为,奢侈品的大图上不加标语是更好的,但实际上,只是不能只加优惠政策类标语,因为这看起来会很山寨,影响客户的信任度,恰当添加标语也可以提升信任度。

商品图源于网络

基于反馈,我们可以判定最近的试验是否有效,基于认知,我们也可以沉淀更多可累积的经验。

就像企业一直追求的精细化运营,其背后就是这种聚沙成塔式累积的效应,能够帮助我们累积得更多,走得更远!

 

作者:简宁,神策数据资深分析师

本文由 @神策数据 发布于人人都是产品经理。未经许可,禁止转载

题图来自Unsplash,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!