揭秘今日头条系增长的秘密—— A/B 测试

揭秘今日头条系增长的秘密—— A/B 测试

 

2018 年,中国移动互联网用户增长放缓,上半年仅增长 2 千万。

但是有一匹黑马,硬是在这种恶劣的情况下,逆流而上。

今日头条系独立 App 用户使用时长占比,从 3.9% 猛增到 10.1%,增长了1 .6 倍,超过百度系、阿里系稳居总使用时长第 2 名。

用户运营,套路编辑部,增长,技巧,运营

更牛逼的是,头条系产品这种突飞猛进的增长速度还在持续,单今日头条资讯 App 每天还在保持 100万+ 的新增。

在头条系如何做到这般“丧心病狂”的用户增长的背后,其实有一些不为认知的小秘密。

头条内部会创新(或者抄袭)孵化产品,并且为每款产品设置留存生死线(RIO),超过生死线的产品就可以头条系站内流量扶持,快速让它达到千万级日活。

用户运营,套路编辑部,增长,技巧,运营

今日头条涉足近60个产品

头条内部有非常强大的数据监控系统(花大价钱买数据),任何产品的日活和增长数据都在它们的监控之下。

另外,为了帮助提升创新产品的成功率,头条内部甚至研发出了一套增长引擎,在咱们还在纠结功能按钮排序时,他们就在同时进行几十组甚至上百组的 A/B 测试,帮助产品经理运营们找到最优的方案。

头条强大的生死线和数据监控系统我们模仿不来,他们的增长引擎我们也暂时研发不出来。但是帮助筛选最优方案的 A/B 测试,我们还是可以进行借鉴学习的。

虽然 A/B 测试过去更多的是在产品领域,通过它来判断功能的价值。其实到现在 A/B 测试已经渗入到运营,哪天公众号能推出小流量打开率测试功能,我想你会开心坏了!

01 什么是 A/B 测试

A/B 测试,也叫对照实验和随机实验。简单说,就是为同一个目标设计 A 方案和 B 方案,让一部分用户使用 A 方案,一部分用户使用 B 方案。记录用户的使用情况,根据用户反馈,比较得出哪个方案更佳。

用户运营,套路编辑部,增长,技巧,运营

千万不要以为这里的“A/B测试”真的只会有 A 方案和 B 方案,“A/B 测试”只是习惯性叫法,你还可以有 C、D、E 多种供测试的方案。

用户运营,套路编辑部,增长,技巧,运营

看完定义,你可能会觉得“A/B 测试”这个概念已经烂大街了,不就是提出多种方案供选择,然后选择效果最好的哪一种吗?

其实理论讲起来很简单,实际做起来还是需要很多技巧的。我们先来看一看,今日头条是如何开展 A/B 测试的?

今日头条的头条号具有“双标题”功能,这其实就是 A/B 测试的一种实践。

用户运营,套路编辑部,增长,技巧,运营

也许你会说,这难道不是为了让用户有更广阔的起标题空间吗?一篇内容可以起两个标题,那么一个标题废了,还有另一个标题撑腰。不像微信公众号,只有一个标题,一旦标题废了,阅读量基本上就完蛋了。

事实上,今日头条设置“双标题”功能是为了更精准地了解用户对于标题的反馈,从而掌握用户的行为数据。

当然,今日头条在 A/B 测试上最牛逼的玩法不是“双标题”功能,因为只测试标题,就会造成“标题党”泛滥横行。基于此,今日头条 A/B 有一套“动态”的内容推荐机制,这里的”动态“指的是根据反馈结果,实时更新调整。

       

用户运营,套路编辑部,增长,技巧,运营

这套“动态”内容推荐机制是如何运转的呢?

同样的方案,今日头条会先推荐给小范围的人群:

比如 100 人,如果这 100 人对标题、内容的反馈均不错,那就把方案推荐给更大范围的人群,比如 500 人,如果这 500 人对标题、内容的反馈效果很好,再推荐给更大范围的人群,比如 2000 人,以此类推。

用户的行为动作会被搜集,据《今日头条推荐系统原理》介绍,基本上每小时都可以看到用户对内容的反馈。但因为每小时都有数据上的波动,今日头条通常以天为时间节点,来查看用户的行为数据。

将用户的行为动作进行搜集后,今日头条会有日志处理、分布式统计,写入数据库。

 

用户运营,套路编辑部,增长,技巧,运营

今日头条系统就可以自动生成:实验数据对比、实验数据置信度、实验结论总结以及实验优化建议。

这样看来,是不是觉得 A/B 测试的威力真的很强大,不仅完成了方案调研,还能通过测试掌握用户口味,实现精细化内容推荐,从而更好地留住用户。

02 A/B 测试的应用

可能你会觉得 A/B 测试只有大公司才玩得起,和我们并没有什么关系。可能你也会觉得这只是产品的事,和我们运营没什么关系。

那你误解可就大了。不仅小玩家也能玩,而且和我们运营大大的相关。如果你是一个会做增长的运营,那你很可能就会成为你们公司的扛把子。

举个例子:

我们之前邀请了「深夜发媸」的主编阿芙,来给我们做微课分享。既然谈到微课,那肯定是要打磨微课海报,提升宣传效果的。

于是我们请我司首席设计师做了一版,结果一出来,编辑部的小姐姐们意见不合吵了起来。

一个人认为“如何写出用户喜欢的营销文案”,这个主题没有吸引力,应该改成“10 招写出让用户喜欢的营销文案”。

还有一个人表示赞同,但是应该进一步优化,改为“10 招写出让用户疯传的转化文案”。

 

用户运营,套路编辑部,增长,技巧,运营

这个时候,贤哥很机智的说了一句,你们就不能做 3 版海报嘛?每版海报只让一个宝宝号,在同一个时间转发(所有宝宝号均拥有 5000 人好友),这样不就测出来哪版效果好了嘛?

当时我们没有想到,其实这就是 A/B 测试的思维。

后来我们实施了贤哥的想法,测试出了 3 个海报的转发率(转发海报用户/新增用户),分别为:30%,35%,44%,效果最好的一张是:10 招写出用户疯传的转化文案。

接下来,就发动所有宝宝号,公司的全体员工分享海报,最终吸引了 3000 人来听课,这也是我们目前效果最好的一次微课分享。

除了微课的应用,还有很多地方也可以用到 A/B 测试。

比如 App 的 push 可以做 A/B 测试。饿了么想要测试,不同的促销活动,对用户的留存有多大作用,所以就发生了以下场景。

昨天,小松果兴冲冲和我说,饿了么给她发了一条推送:“你有一张 15 元大额券待领取”,结果点进去发现是“满 40 减 15 ”。尽管这样,她还是凑单点了很多东西。

 

用户运营,套路编辑部,增长,技巧,运营

根据以往经验来看,饿了么喜欢在我们吃饭前推送。所以我看了看自己的饿了么推送:“订单满 45 可享七五折优惠”。一看我就没有兴趣,起点那么高。

其实这就是饿了么运营给我们做的 A/B 测试。

通过这次测试,他们可以通过订单率发现,同样都是优惠 15 元(都花 40 块的前提下),直接突出数字 “优惠 15 元”,就比“满 40 减 15”效果好。

总之,通过 A/B 测试,确确实实能够试出最佳增长方法。除了 App 的推送,微课主题,还有很多场景可以用 A/B 测试,比如付费广告,应用商店,着陆页,新用户引导流程等等。

03 A/B 测试容易踩的坑

A/B 测试看似简单,实则隐藏着许多沟沟坎坎,稍不注意就会导致试验结果偏离科学轨道。

1)忽略测试环境差异

如果真的有一天公众号开发的标题 A/B 测试的功能,你会用下列哪个方案去测试的你的标题?

a. 将上海地区用户分成 3 个组,并在同一时间分别推送 3 个不同的标题。

b. 将上海地区用户分成 3 个组,并在不同时间点分别推送 3 个不同的标题。

如果你的是选择 b 方案的话,恭喜你翻车了!

举个不太恰当的例子,b 方案的测试方法就好比在电视上投放广告,分别选取了工作日的下午 3 点钟和晚间黄金时段进行测试收集。

由于轮流展示时的测试环境不尽相同,所面向的受众群体更是千差万别,因此最终试验结束后的数据结果必然会存在一定偏差,也就更不具有说服性了。

2)容易「以全概偏」

在测试结果没有表现出理想状态下的数据提升时,如果你直接放弃的话,有可能你又踩坑了。

国际短租平台,搜索是 Airbnb 生态系统中很基础的一个组成部分。Airbnb 曾经做过一个关于搜索页优化的 A/B 测试,新的版本更加强调了列出的图片,以及房屋所在位置(如下图所示)。

用户运营,套路编辑部,增长,技巧,运营

在等待了足够长的时间之后,试验结果显示新老版本的整体数据相差无几,似乎这次优化没有很好的效果。

如果此时,Airbnb 直接根据整体的数据表现放弃了这次优化,那么这个花费了很多精力设计的项目就会前功尽弃。

相反,经过仔细研究,他们发现除了 IE 浏览器之外,新版在其他不同浏览器中的表现都很不错。当意识到新的设计制约了使用老版本 IE 的操作点击后(而这个明显为全局的结果造成了很消极的影响),Airbnb 当即对其进行了修补。

至此以后,IE恢复了和其他浏览器一样的展示结果,试验的整体数据增长了 2% 以上。

用户运营,套路编辑部,增长,技巧,运营

通过 Airbnb 的例子,我们能学到正确的做法是:在整体效果不太好的时候,不要一竿子打死,而需要从多个维度细分观察个体的情况,以避免区群谬误带来的决策偏差。

3)只做到了局部最优

避开了上面的 2 个坑之后,你可能得到一个相对不错的测试结果,在你欣喜若狂时,正准备对外宣布战果时,可能已经踩入了另外一个坑——“局部最优”

以某金融平台提升新用户的注册率的 A/B 测试为例,运营通过不断进行注册按钮的文案优化,发现相比于“立即注册”、“免费注册”等文案而言,“领取 100 元新人红包”的注册率是最高的。

但是,如果只是沉迷在文案上做测试,其实他可能就错过了提升用户注册率的其他更效假设。

正确的做法是可以进行用户调研,了解用户不注册的原因在哪,通常情况下金融平台让用户放弃注册的原因还在于,注册流程繁杂、信任问题、无匹配的理财产品等,所以在完成了注册按钮的文案测试时,我们还需要在这些方面也进行想要的实验。

04 总结

今天的文章,我们通过分析今日头条,向大家展示了 A/B 测试的强大功效,采用 A/B 测试不仅能够在众多方案中选择出最佳方案,其实更能对产品进行不断的迭代优化,实现用户留存

如今,A/B 测试已经渗透到运营工作中,运营社也在实际工作中感觉到这个理论真的很好用。

1)当有多种方案供选择,但又产生意见分歧时,可以通过 A/B 测试找出找出最优解。比如文章起标题、裂变海报文案、以及 App 的 Push  等。

2)看似简单的 A/B 测试,其实有很多坑:

① 忽略测试环境差异,没有进行变量控制(只能有一个变量),造成数据偏差;

② 以偏概全,在测试结果没有实现理想状态下的数据提升时,就放弃对产品优化,会导致项目前功尽弃;

③ 只进行局部优化就忽略对其他部分的调整更新,无法查找出其他方面的漏洞。

 

作者:套路编辑部,授权青瓜传媒发布。

来源:套路编辑部

扫一扫 微信咨询

联系我们 青瓜传媒 服务项目

商务合作 联系我们

本文经授权 由青瓜传媒发布,转载联系作者并注明出处:https://www.opp2.com/100913.html

《免责声明》如对文章、图片、字体等版权有疑问,请联系我们广告投放 找客户 找服务 蘑菇跨境
企业微信
运营大叔公众号