B站大数据开发治理平台的产品设计心得

导读Bilibili 是一家数据驱动的公司，数据在员工日常工作中至关重要。B 站内部有60% 的员工日常参与用数和数据决策，数据平台的建设直接影响了他们的工作效率。本文将介绍 B 站大数据开发治理平台产品的设计心得。主要内容包括以下几大部分：

主要内容包括以下几大部分：

1. B 站的用数场景及数据开发治理平台的概况介绍

2. 基于价值体系的数据地图产品建设

3. 基于抽象配置的数据治理产品建设

4. 核心工作及未来规划

分享嘉宾｜杨蕊鸿 哔哩哔哩 资深产品经理编辑整理｜苏磊内容校对｜李瑶出品社区｜DataFun
01

B 站的用数场景及数据开发治理平台的概况介绍

B 站大数据开发治理平台历经 5 年建设，目前包含数据集成、数据开发、数据治理、数据安全、数据分析等多个模块，服务于公司各个业务部门。

B 站数据平台的使用者覆盖了 60% 的员工，其面向的用户群体主要是技术开发、产品、运营、算法工程师、分析师、数据开发等。通过对用户的数据能力进行分层，我们可将数据平台的用户大致区分为高阶开发、中阶用户、数据小白等 3 个用户群体。

基于用户分群，我们提出了数据平台的产品定位：专业，门槛，标准化，闭环。

• 专业：数据平台需要满足专业的数据开发及分析诉求，提升数据供给效率。
• 门槛：数据平台需要满足产运等用户低门槛的建数、用数、取数要求。
• 标准化：数据平台需要快速满足多业务、各部门不同的数据诉求，功能既要通用，也要足够灵活。
• 闭环：数据平台在 B 站也是数据中台，我们同时承担了数据运营、成本治理、规范约束、质量监控等管理角色，因此平台需要替业务完成数据从入仓、生产、运维、治理等流程的全闭环。

根据不用的业务场景和用数诉求，平台主要包括数据生成、数据消费、数据管理三大场景，分别提供相应的数据服务。

本文将重点介绍数据地图和数据治理产品的设计。

02

基于价值体系的数据地图产品建设

1. 数据运营的痛点

面向多业务的数据中台团队或数仓团队，当模型基数较大时，往往会面临数据运营难的痛点。如何通过数据平台，结合数据内容的建设，解决用户找数用数痛点，是数据运营产品的核心目标。随着模型规模的快速增长，我们从 20 年开始，也逐渐面临数据运营难的痛点。数据运营的痛点是分阶段暴露的：

2. 数据运营的解决方案

针对上述痛点，我们提出了一套解决方案：完善产品功能体系，推动数据运营体系的建设，建设数据模型的评估能力。

3. 数据地图产品建设

数据地图是一个基于元数据的数据门户，它能够帮助用户更好地理解和管理数据资源。作为一个企业的数据中心，数据地图具备多种功能，包括数据检索、元数据详情、数据预览、数据血缘和数据管理等。这些功能的存在，有效地提升了用户的找数效率，降低了数据理解难度，也降低了使用门槛。

通过完善洞察推荐、全文检索、类目体系、数据画像、UGC 及 API、数据专辑、数据血缘、影响分析等八大产品矩阵，能够满足用户在找数、用数、数据理解、数据治理、数据推广等不同场景下的使用诉求。

4. 数据运营方法

基于数据地图产品体系的迭代，沉淀了一些数据运营方法。

• 点(用户)：1V1 标准化

采用线上和线下的 1v1 方案针对问题进行答疑和解惑，使用工具咨询或者解决数仓相关问题。

• 线(业务)：周期节点化

定期线下结合数据内容对运营同学进行培训、访谈以及工具的普及。

• 面(平台)：1VN 体系化

将点和面的问题及解决方案进行记录，通过平台进行沉淀，并体系化地反馈给业务方。

通过点线面结合的运营方法，结合线上和线下的运营策略，形成了 B 站的数据运营方案，同时从数据价值、用户指标、用户访谈、定期调研四个评估体系，能够更有效的完成策略和效率提升。

5. 评估数据价值

经过产品功能迭代和运营体系化建设，已经可以很好地引导用户找数、用数，但是我们发现众多的数据模型，仍无法让业务有“模型建设得好”的感知，为了更好地衡量数据价值，对模型进行 ROI 评估，驱动良性的模型运营和数据建设，构建了模型价值评估体系。通过衡量数据价值，能有效提升业务的数据认可度，基于此可建设数据推荐策略、数据开发价值评估、模型的管理策略和治理策略。

6. 数据价值计算

根据数据价值，设计了模型价值分。数据应用场景主要包括数据查询热度、ETL 引用情况、API 引用情况、BI报表热度、数据应用使用情况、出仓业务场景热度。价值元素主要包括内部人效、外部基线等级、外部数据质量、安全等级、数据新鲜度等方面，根据不同场景和不同因素进行份子权重设定，并通过产品化方案，更有效地支持多业务自定义数据价值。

7. 数据地图效果展示

以下是具体场景下的产品功能展示：

• 找数场景

包括元数据展示、标签展示、用户洞察、数据专辑功能等功能。

• 用数场景

主要集中在表详情页的功能，提供了丰富的应用功能，包括基本信息、业务信息、存储信息、标签等。

• 血缘&影响分析

基于血缘数据，沉淀了血缘地图和归因/影响分析两个产品。血缘地图提供手动探查、可视化分析、链路分析的功能；归因/影响分析功能提供基于血缘的向上和向下的数据聚合分析的功能，主要针对下游数据异动快速定位问题、口径变更对基线的影响的问题，提供批量血缘查询、信息聚合、拉群和通知的功能。

产品功能、数据运营体系、以及数据价值评价三方面的建设，为数据运营带来了显著提升。经过迭代，数据地图渗透率从 30% 提升到 60% ;推荐表热度提升 40%，用户评价提升 33%。同时数据价值被业务认可，价值分 Top 热度提升 20%，用户能找好数，用对数，数据建设价值可被衡量和评估。

03

基于抽象配置的数据治理产品建设

在 B 站，表和任务以每半年翻倍的速度进行增长。从 22 年开始，我们关注到数据治理需要以更高效的方式进行推进和落地，因此提出了用 B 端产品化的思路针对数据治理方案提供的通用治理工具，以高效解决数据治理问题。

1. 建设背景及产品架构

在业务快速发展期间，数据资产增长较快、资产管理混乱，数据治理工作往往迫在眉睫。通常数据治理工作有如下痛点：

• 数据治理入手及落地难，操作和流程无法指导
• 运动式,治理工作不可持续
• 治理成效的可视化不足
• 治理不到人，权责不分明
• 运营成本高，消耗人力

从数据成本、数据规范、数据质量、数据安全四大方向入手进行治理。治理中心的产品框架主要由管理运营、治理配置& 应用、基础数据模块组成。以元数据为基础数据，基于灵活配置，提升治理效果。

2. 数据治理运营机制及工作流程

结合数据委员会、治理工具、运营机制三个方面，逐渐形成了一套持续可执行的治理运营流程。治理工作推进流程采用策略线上 POC->数据委员会发布->策略上线的新流程，对比之前流程有很大的改善。

3. B 站治理运营的推进痛点和诉求

在 B 站，数据治理运营的痛点主要有三个方向：治理的资产对象多、资产的操作路径特殊、存量问题资产多，增量快。

4. 治理工具的解决方案

通过丰富的元素和配置，可以实现用户个性化诉求，解决不同业务、不同视角、不同用户制定的形态各异的治理策略，比如：配置流程固定化、配置参数规范化、配置操作简单化。让业务自主完成治理方案的制定、规则定义和工作推进。

5. 抽象：通过通用化配置实现个性化

以下是针对上述三个数据治理问题，提供的通用化配置的产品功能。

• 抽象治理对象

将资产抽象为统一的元数据对象，每个治理对象有通用的属性和自定义属性，围绕元数据进行治理数据建模。每个对象的属性，均可以通过动态参数如{jobid} 的形式被获取，形成全局变量。

• 抽象操作和处理方案

充分利用现有功能和接口，通过配置 url、接口入参等，快速达到治理动作复用和上线，极大提升功能落地效率。

• 统一治理问题的生成和处理流程

通过开发数据策略、配置治理对象、配置操作流程、动态参数及使用文案，可快速生成一个待办问题生成器；通过调度，每天自动扫描文档，生成待办明细，推送用户治理。

6. 效果及收益

目前通过治理工具，B 站已上线了 62 个策略，每个策略平均开发和上线时间 2-3 小时。累计生成治理问题 8w+，累计处理治理问题 2w+，累计治理金额超 500w，累计节约人效 100+ 人日。

04

核心工作及未来规划

通过流程化管理，将线下 SOP 操作线上化，针对目前原子操作的产品弊端，解决数据治理流程长、执行进度不可观测的用户问题。同时能够支持平台诸多自动化治理、推送流程的落地，提升开发效率。以上就是本次分享的内容，谢谢大家。

分享嘉宾

INTRODUCTION

杨蕊鸿

哔哩哔哩

资深产品经理

杨蕊鸿，毕业于同济大学，现就职于哔哩哔哩数据平台部，负责 B 站大数据开发治理平台的建设。有 AI 平台、风控系统、数据平台建设等经验。

往期推荐

如何建设一个良好的可观测性数据平台直击企业痛点？

在大型项目中，抖音集团如何“用活”数据？

【他山之石】360 多兴趣召回 Mind 实战优化

蚂蚁 TuGraph-DB 数据库查询引擎技术

如何将知识图谱与AIGC结合？京东是这么做的

如何使用 JIT 技术实现高效的数据库表达式求值

数据集成产品的技术演进与实际应用-FastData DCT

Alluxio 在网易大数据的应用与优化实践

深度剖析! 广发证券 Apache Kyuubi 构建“提效可控”大数据赋能层

阿里云湖仓存储系统设计剖析和性能优化

滴滴大数据成本治理实践

点个在看你最好看