火山引擎 DataTester不仅对外提供服务,也是字节跳动内部所应用的A/B实验平台,它基于先进的底层算法,提供科学分流能力,提供智能的统计引擎,实验结果可靠有效,助力业务决策。目前,已覆盖推荐、广告、搜索、UI、产品功能等业务场景。
DataTester 提供从实验设计、实验创建、指标计算、统计分析到最终评估上线等贯穿整个实验生命周期的服务。可以帮助企业业务在快速迭代的路上,大胆假设、小心求证。
在字节,A/B测试几乎能够被应用到业务的所有方面。下述3类是非常典型的场景:
1. 产品优化类场景
这里的产品优化,主要是产品在界面设计、交互功能设计中,由于界面的排布、元素、颜色、字体等方面有无限的选择,因此面对庞大的产品用户,哪个方案是最优方案,是没办法靠感性感知决定的,需要用量化的数据才更有说服力。
如抖音App中,某个页面按钮具体采用圆形还是方形,是用黄色还是红色,都是要通过DataTester进行AB测试,才能决定最终的方案。
2. 运营类场景
运营类场景中,AB测试主要有两个应用方向。一方面是对比不同的运营策略的设置在短期效果上的优劣,如在App中设置用户7日签到的奖励策略,奖励规则如何设置、奖励数量如何设置,能够达到DAU提升的效果最优,是要在DataTester中配置AB测试,才能完成最终的决策。
另一方面,也要通过长线的AB测试对运营策略做长期收益的考量。字节在诸多实践中发现,一些运营措施虽然短期为产品带来了用户数量的增益,但拉长时间轴来看,长期的用户留存效果低于自然流量的留存。那么从长远的ROI来看,此类措施并不是一个好的运营举措。而这种长期效果的监测,也是要通过DataTester的反转实验能力才能够监测到。
3. 推荐模型优化场景
信息流推荐在字节系产品中有比较广泛的应用场景。在这背后会应用到的是推荐算法模型,以及还会涉及到深度学习等模型。这些模型由于变量很多,往往是牵一发而动全身的效果,具有很强的黑盒属性。在其中一个特征、一个细微参数调整之后,整体模型所获取的用户反馈是否能获得预期目标,没有办法通过经验或者单一的归因来判断。
此时只有通过AB实验,对不不同策略对产品核心指标的影响,才能验证新的策略在用户使用中所获得的的反馈。可以说推荐算法模型和AB实验是相伴相生的。
点击跳转火山引擎A/B测试DataTester官网了解更多
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。