B站大数据开发治理平台的产品设计心得

1,138次阅读
没有评论

B站大数据开发治理平台的产品设计心得

B站大数据开发治理平台的产品设计心得

导读Bilibili 是一家数据驱动的公司,数据在员工日常工作中至关重要。B 站内部有60% 的员工日常参与用数和数据决策,数据平台的建设直接影响了他们的工作效率。本文将介绍 B 站大数据开发治理平台产品设计心得。主要内容包括以下几大部分:

主要内容包括以下几大部分:

1. B 站的用数场景及数据开发治理平台的概况介绍

2. 基于价值体系的数据地图产品建设

3. 基于抽象配置的数据治理产品建设

4. 核心工作及未来规划

分享嘉宾|杨蕊鸿 哔哩哔哩 资深产品经理编辑整理|苏磊内容校对|李瑶出品社区|DataFun
01

B 站的用数场景及数据开发治理平台的概况介绍

B 站大数据开发治理平台历经 5 年建设,目前包含数据集成、数据开发、数据治理、数据安全、数据分析等多个模块,服务于公司各个业务部门。

B 站数据平台的使用者覆盖了 60% 的员工,其面向的用户群体主要是技术开发、产品、运营、算法工程师、分析师、数据开发等。通过对用户的数据能力进行分层,我们可将数据平台的用户大致区分为高阶开发、中阶用户、数据小白等 3 个用户群体。

B站大数据开发治理平台的产品设计心得

基于用户分群,我们提出了数据平台的产品定位:专业,门槛,标准化,闭环。

  • 专业:数据平台需要满足专业的数据开发及分析诉求,提升数据供给效率。
  • 门槛:数据平台需要满足产运等用户低门槛的建数、用数、取数要求。
  • 标准化:数据平台需要快速满足多业务、各部门不同的数据诉求,功能既要通用,也要足够灵活。
  • 闭环:数据平台在 B 站也是数据中台,我们同时承担了数据运营、成本治理、规范约束、质量监控等管理角色,因此平台需要替业务完成数据从入仓、生产、运维、治理等流程的全闭环。

B站大数据开发治理平台的产品设计心得

根据不用的业务场景和用数诉求,平台主要包括数据生成、数据消费、数据管理三大场景,分别提供相应的数据服务。

B站大数据开发治理平台的产品设计心得

本文将重点介绍数据地图和数据治理产品的设计。

02

基于价值体系的数据地图产品建设

1. 数据运营的痛点

面向多业务的数据中台团队或数仓团队,当模型基数较大时,往往会面临数据运营难的痛点。如何通过数据平台,结合数据内容的建设,解决用户找数用数痛点,是数据运营产品的核心目标。随着模型规模的快速增长,我们从 20 年开始,也逐渐面临数据运营难的痛点。数据运营的痛点是分阶段暴露的:

B站大数据开发治理平台的产品设计心得

2. 数据运营的解决方案

针对上述痛点,我们提出了一套解决方案:完善产品功能体系,推动数据运营体系的建设,建设数据模型的评估能力。

B站大数据开发治理平台的产品设计心得

3. 数据地图产品建设

数据地图是一个基于元数据的数据门户,它能够帮助用户更好地理解和管理数据资源。作为一个企业的数据中心,数据地图具备多种功能,包括数据检索、元数据详情、数据预览、数据血缘和数据管理等。这些功能的存在,有效地提升了用户的找数效率,降低了数据理解难度,也降低了使用门槛。

通过完善洞察推荐、全文检索、类目体系、数据画像、UGC 及 API、数据专辑、数据血缘、影响分析等八大产品矩阵,能够满足用户在找数、用数、数据理解、数据治理、数据推广等不同场景下的使用诉求。

B站大数据开发治理平台的产品设计心得

4. 数据运营方法

基于数据地图产品体系的迭代,沉淀了一些数据运营方法。

  • 点(用户):1V1 标准化

采用线上和线下的 1v1 方案针对问题进行答疑和解惑,使用工具咨询或者解决数仓相关问题。

  • 线(业务):周期节点化

定期线下结合数据内容对运营同学进行培训、访谈以及工具的普及。

  • 面(平台):1VN 体系化

将点和面的问题及解决方案进行记录,通过平台进行沉淀,并体系化地反馈给业务方。

通过点线面结合的运营方法,结合线上和线下的运营策略,形成了 B 站的数据运营方案,同时从数据价值、用户指标、用户访谈、定期调研四个评估体系,能够更有效的完成策略和效率提升。

5. 评估数据价值

经过产品功能迭代和运营体系化建设,已经可以很好地引导用户找数、用数,但是我们发现众多的数据模型,仍无法让业务有“模型建设得好”的感知,为了更好地衡量数据价值,对模型进行 ROI 评估,驱动良性的模型运营和数据建设,构建了模型价值评估体系。通过衡量数据价值,能有效提升业务的数据认可度,基于此可建设数据推荐策略、数据开发价值评估、模型的管理策略和治理策略。

B站大数据开发治理平台的产品设计心得

6. 数据价值计算

根据数据价值,设计了模型价值分。数据应用场景主要包括数据查询热度、ETL 引用情况、API 引用情况、BI报表热度、数据应用使用情况、出仓业务场景热度。价值元素主要包括内部人效、外部基线等级、外部数据质量、安全等级、数据新鲜度等方面,根据不同场景和不同因素进行份子权重设定,并通过产品化方案,更有效地支持多业务自定义数据价值。

7. 数据地图效果展示

以下是具体场景下的产品功能展示:

  • 找数场景

包括元数据展示、标签展示、用户洞察、数据专辑功能等功能。

B站大数据开发治理平台的产品设计心得

  • 用数场景

主要集中在表详情页的功能,提供了丰富的应用功能,包括基本信息、业务信息、存储信息、标签等。

B站大数据开发治理平台的产品设计心得

  • 血缘&影响分析

基于血缘数据,沉淀了血缘地图和归因/影响分析两个产品。血缘地图提供手动探查、可视化分析、链路分析的功能;归因/影响分析功能提供基于血缘的向上和向下的数据聚合分析的功能,主要针对下游数据异动快速定位问题、口径变更对基线的影响的问题,提供批量血缘查询、信息聚合、拉群和通知的功能。

B站大数据开发治理平台的产品设计心得

产品功能、数据运营体系、以及数据价值评价三方面的建设,为数据运营带来了显著提升。经过迭代,数据地图渗透率从 30% 提升到 60% ;推荐表热度提升 40%,用户评价提升 33%。同时数据价值被业务认可,价值分 Top 热度提升 20%,用户能找好数,用对数,数据建设价值可被衡量和评估。

03

基于抽象配置的数据治理产品建设

在 B 站,表和任务以每半年翻倍的速度进行增长。从 22 年开始,我们关注到数据治理需要以更高效的方式进行推进和落地,因此提出了用 B 端产品化的思路针对数据治理方案提供的通用治理工具,以高效解决数据治理问题。

1. 建设背景及产品架构

在业务快速发展期间,数据资产增长较快、资产管理混乱,数据治理工作往往迫在眉睫。通常数据治理工作有如下痛点:

  • 数据治理入手及落地难,操作和流程无法指导
  • 运动式,治理工作不可持续
  • 治理成效的可视化不足
  • 治理不到人,权责不分明
  • 运营成本高,消耗人力

从数据成本、数据规范、数据质量、数据安全四大方向入手进行治理。治理中心的产品框架主要由管理运营、治理配置& 应用、基础数据模块组成。以元数据为基础数据,基于灵活配置,提升治理效果。

B站大数据开发治理平台的产品设计心得

2. 数据治理运营机制及工作流程

结合数据委员会、治理工具、运营机制三个方面,逐渐形成了一套持续可执行的治理运营流程。治理工作推进流程采用策略线上 POC->数据委员会发布->策略上线的新流程,对比之前流程有很大的改善。

B站大数据开发治理平台的产品设计心得

3. B 站治理运营的推进痛点和诉求

在 B 站,数据治理运营的痛点主要有三个方向:治理的资产对象多、资产的操作路径特殊、存量问题资产多,增量快。

B站大数据开发治理平台的产品设计心得

4. 治理工具的解决方案

通过丰富的元素和配置,可以实现用户个性化诉求,解决不同业务、不同视角、不同用户制定的形态各异的治理策略,比如:配置流程固定化、配置参数规范化、配置操作简单化。让业务自主完成治理方案的制定、规则定义和工作推进。

B站大数据开发治理平台的产品设计心得

5. 抽象:通过通用化配置实现个性化

以下是针对上述三个数据治理问题,提供的通用化配置的产品功能。

  • 抽象治理对象

将资产抽象为统一的元数据对象,每个治理对象有通用的属性和自定义属性,围绕元数据进行治理数据建模。每个对象的属性,均可以通过动态参数如{jobid} 的形式被获取,形成全局变量。

B站大数据开发治理平台的产品设计心得

  • 抽象操作和处理方案

充分利用现有功能和接口,通过配置 url、接口入参等,快速达到治理动作复用和上线,极大提升功能落地效率。

B站大数据开发治理平台的产品设计心得

  • 统一治理问题的生成和处理流程

通过开发数据策略、配置治理对象、配置操作流程、动态参数及使用文案,可快速生成一个待办问题生成器;通过调度,每天自动扫描文档,生成待办明细,推送用户治理。

B站大数据开发治理平台的产品设计心得

6. 效果及收益

目前通过治理工具,B 站已上线了 62 个策略,每个策略平均开发和上线时间 2-3 小时。累计生成治理问题 8w+,累计处理治理问题 2w+,累计治理金额超 500w,累计节约人效 100+ 人日。

04

核心工作及未来规划

通过流程化管理,将线下 SOP 操作线上化,针对目前原子操作的产品弊端,解决数据治理流程长、执行进度不可观测的用户问题。同时能够支持平台诸多自动化治理、推送流程的落地,提升开发效率。以上就是本次分享的内容,谢谢大家。

B站大数据开发治理平台的产品设计心得

B站大数据开发治理平台的产品设计心得

分享嘉宾

INTRODUCTION

B站大数据开发治理平台的产品设计心得

杨蕊鸿

B站大数据开发治理平台的产品设计心得

哔哩哔哩

B站大数据开发治理平台的产品设计心得

资深产品经理

B站大数据开发治理平台的产品设计心得杨蕊鸿,毕业于同济大学,现就职于哔哩哔哩数据平台部,负责 B 站大数据开发治理平台的建设。有 AI 平台、风控系统、数据平台建设等经验

往期推荐

如何建设一个良好的可观测性数据平台直击企业痛点?

在大型项目中,抖音集团如何“用活”数据?

【他山之石】360 多兴趣召回 Mind 实战优化

蚂蚁 TuGraph-DB 数据库查询引擎技术

如何将知识图谱与AIGC结合?京东是这么做的

如何使用 JIT 技术实现高效的数据库表达式求值

数据集成产品的技术演进与实际应用-FastData DCT

Alluxio 在网易大数据的应用与优化实践

深度剖析! 广发证券 Apache Kyuubi 构建“提效可控”大数据赋能层

阿里云湖仓存储系统设计剖析和性能优化

滴滴大数据成本治理实践

B站大数据开发治理平台的产品设计心得B站大数据开发治理平台的产品设计心得

点个在看你最好看

B站大数据开发治理平台的产品设计心得

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy