Data Governance

🛡️ 数据治理

让数据可信、安全、可追溯——从口径、主数据、分摊到血缘、质量与合规的完整治理体系。

← 返回个人技能

📖 基础概念 🗺️ 治理全景 🔠 口径与指标 🗃️ 主数据管理 ⚖️ 分摊规则 🧬 数据血缘 ✅ 数据质量 🔐 安全与合规 🏛️ 组织与机制 💡 实战提醒

基础概念

参照 DAMA-DMBOK 知识体系与国标 DCMM 归纳——先把词统一,再把事做成。

🛒 跨境电商统一场景设定:这家跨境公司多平台(Amazon / eBay / TikTok Shop)、多站点(美 / 德 / 日)、多币种——数据乱起来也是「国际化」的,治理从统一语言开始。

🛡️ 数据治理 让数据可信、安全、可追溯的机制
  • 一套「组织 + 流程 + 技术」的长期机制,不是一次性项目
  • 目标:全公司用着「一份正确的底表」

🛒 跨境电商三个平台的 GMV 口径打架、用户在三个系统重复注册——治理就是立规矩,让三个平台说同一种「数据普通话」。

💎 数据资产 能带来价值的数据集合
  • 先盘点入册(资产目录),才谈得上治理与变现
  • 没有目录的治理 = 不知道自己在治什么

🛒 跨境电商把「站点 × 类目 × 日」销售、广告 ACOS、海外仓库存盘点入册——才发现客服聊天记录这座金矿没人管。

📖 元数据 关于数据的数据
  • 表结构、字段口径、血缘、负责人、更新时间
  • 治理的「地图」——找不到地图就管不了领土

🛒 跨境电商新同事问「revenue_usd 含不含 VAT」——元数据一查便知,不用在三个工作群里考古。

🗃️ 主数据 全公司共享的核心实体
  • 用户、商品、组织、供应商、门店
  • 一处维护、全局引用(详见主数据管理页签)

🛒 跨境电商同一款耳机在 ERP 叫 A-101、在 Amazon 叫 B0XYZ、在独立站叫 earbud-pro——主数据给它们一个统一身份。

📏 数据标准 全公司统一的度量衡
  • 命名、定义、格式与编码规范的统一约定
  • 贯穿元数据、主数据、质量、安全各领域

🛒 跨境电商全公司约定:金额一律 USD 两位小数、日期统一站点本地时区转 UTC——报表之间终于能直接对比。

🧬 数据血缘 数据的来龙去脉
  • 表级 / 字段级上下游依赖图
  • 影响分析与问题追责的依据

🛒 跨境电商CEO 手里的利润大屏,上游是 12 张表——血缘画清楚,改表前就知道会牵动谁。

✅ 数据质量 用统一维度度量可信度
  • 完整性、准确性、一致性、及时性、唯一性、有效性
  • 治理最直接的目标与产出

🛒 跨境电商德国站订单漏了邮编字段,物流打单批量失败——完整性问题直接变成了客诉事故。

🔐 数据安全 该看的看得到,不该看的看不到
  • 分类分级 + 权限、脱敏、加密、审计
  • 合规红线:个保法 / GDPR

🛒 跨境电商买家收货地址和支付卡是敏感数据——运营在 BI 里只见「138****5678」式的掩码,导出自动脱敏。

🏛️ DMBOK 与 DCMM 两大参考框架
  • DMBOK:DAMA 国际知识体系,11 个知识域、治理居中(车轮图)
  • DCMM:中国国标 GB/T 36073,8 大能力域、5 级成熟度,可评级

🛒 跨境电商公司准备申报 DCMM 评级(投标加分项)——按 8 大能力域自评,一眼看出「数据质量」和「数据标准」两个短板。

治理全景

五个动作一条主线:从口径定义出发,落地到主数据与分摊规则,靠血缘与权限长期守住。

🛒 跨境电商一次真实事故引出五步:同一周,运营、财务、CEO 三个报表出现三个 GMV,月度经营会对不上账——治理五动作由此展开。

口径统一主数据分摊落地血缘追溯权限管控
数据治理五大动作:每个动作在下方对应一个页签,点开即深入

🧭 治理管什么、不管什么

  • 管一致性 —— 同一个指标全公司只有一个口径、同一份主数据只有一处维护。
  • 管可信度 —— 数据质量有度量、有问题能闭环,而不是靠人肉发现。
  • 管安全边界 —— 分级授权、脱敏审计,合规是底线不是加分项。
  • 不替业务做决定 —— 口径怎么定义、成本怎么分摊,业务拍板;治理保证被准确执行与长期守护。

🛒 跨境电商五步各配一个跨境例子:口径(GMV 含不含运费)· 主数据(一款耳机三处编码)· 分摊(头程运费摊到 SKU)· 血缘(利润表 12 张上游)· 权限(采购成本列只给管理层)。

口径与指标

数据标准是全公司的度量衡;指标字典是它的最大应用——先承认「同名不同数」,再消灭它。

🛒 跨境电商Amazon 的 sales 含运费、独立站不含、TikTok Shop 按支付口径——同一天三个「销售额」,先统一口径。

🔠 跨平台口径统一 识别差异、建立映射
  • 识别字段定义、统计维度与计算口径的平台间差异
  • 产出「口径映射表」,看板只引权威口径

🛒 跨境电商逐字段比对三个平台 API 文档:sales 含税含运费、revenue 不含——映射规则统一成 revenue_usd(不含税不含运费)。

📙 指标字典 指标的唯一登记处
  • 名称、定义、公式、维度、负责人、变更记录缺一不可
  • 字典没有权威性 = 没有字典

🛒 跨境电商「退货率」在字典里写清:退货订单数 / 发货订单数,按发货时间窗口统计,负责人是站点运营——谁再用错直接甩字典链接。

🏷️ 命名与编码规范 让名字自解释
  • 表 / 字段 / 指标统一命名(层级_主题_粒度)
  • 枚举值编码统一:性别用 0/1 还是 M/F,全公司一份约定

🛒 跨境电商dwd_orders_usd、ads_site_daily_profit——表名即文档;订单状态枚举全公司统一成 paid / shipped / refunded。

🔄 口径变更流程 变更走流程,一步不省
  • 申请 → 评审 → 公告 → 下游同步 → 字典更新
  • 跳过任何一步,字典都会失去权威

🛒 跨境电商财务要求 GMV 改按支付时间统计——走流程:评审通过、提前 3 天公告、12 张下游表同步切换、字典更新版本号。

🎯 与指标体系的关系 先有体系,再有字典
  • 指标体系决定「要哪些指标」(OSM 拆解)
  • 数据标准决定「怎么定义才无歧义」,字典把两者落地

🛒 跨境电商OSM 拆出北极星「毛利率」与过程指标「ACOS、退货率」——字典逐一定义,运营看完就知道每个数字怎么算。

🧯 同名不同数 治理的头号战场
  • 三个平台三个 GMV:逐一定义、对齐映射、落库执行
  • 根因多半是统计时间 / 去重口径 / 退款处理的差异

🛒 跨境电商运营口径「销售额」含运费、财务口径不含——映射表把两个口径并存管理,换算关系写死在数仓里。

相关:🧭 指标体系搭建框架图(指标体系先行)

主数据管理

主数据 = 全公司共享的核心实体——目标是「一份正确的底表」。

🛒 跨境电商同一款耳机在三个系统三个编码,库存对不上、利润算不清——主数据先把「它是谁」说清楚。

🗃️ 什么是主数据 跨系统共享的核心实体
  • 用户、商品、组织、供应商、门店
  • 变化慢、价值高、被到处引用——所以值得单独治理

🛒 跨境电商用户、商品(SKU)、海外仓、物流商——被订单、物流、财务系统到处引用,一处错处处错。

🔍 主数据识别 三条判断标准
  • 跨系统共享?核心业务实体?变更频率相对低?
  • 三条都满足,就是主数据候选

🛒 跨境电商SKU 跨三平台共享、是核心实体、信息月级变化——三条全中,列为最高优先级主数据。

👑 权威源与黄金记录 一物一源,多源归一
  • 每个主数据指定唯一权威系统(System of Record)
  • 多源并存时按规则合并出黄金记录(Golden Record)

🛒 跨境电商商品档案以 PIM 系统为权威源;Amazon / eBay 的 listing 只是镜像——三处编码不同时按映射合并出黄金记录。

🧱 主数据与维度表 业务机制 + 技术载体
  • MDM 是机制,数仓一致性维度表是落地形态(dim_user / dim_product)
  • 维度表直接服务建模与看板(见🧱数据开发·建模方法论)

🛒 跨境电商dim_product 挂统一 SKU 编码 + 三平台映射表——BI 按「统一商品」分析,不再按平台各算各的。

🚦 落地机制 没有机制就会退化
  • 新增 / 变更走统一入口,审批后分发各系统
  • 没有入口的维表,迟早变成没人维护的垃圾表

🛒 跨境电商新品上架先建主数据档案、审批通过后自动分发三个平台——从此再没出现过「三处三编码」。

分摊规则

把公共成本算到「谁头上」——利润分析能不能算清,全看分摊规则是否清晰。

🛒 跨境电商每月 $50 万头程运费、$30 万海外仓仓储费,不摊到 SKU——每个站点的毛利都是虚高的。

⚖️ 为什么需要分摊 不分摊就是糊涂账
  • 总部成本、物流费用要落到 SKU / 门店 / 事业部
  • 落到最小经营单元,才答得出「谁赚钱」

🛒 跨境电商不摊头程运费时,德国站毛利 35%;摊完只剩 22%——才看清大件家具类目其实在亏钱。

🧮 分摊三要素 维度、比例、例外
  • 分摊维度:按销量 / 面积 / 人头还是 GMV
  • 分摊比例:固定 or 动态计算;例外规则:大促 / 新店豁免

🛒 跨境电商头程运费按体积重摊、仓储费按日均库存量摊、新店开业前 30 天豁免推广费分摊——三要素一次定清。

👔 业务拍板规则 规则不清,实现必返工
  • 维度、比例、例外由业务方评审确认
  • 数仓只负责把规则准确实现——不替业务做决定

🛒 跨境电商分摊比例由 CFO 和供应链负责人评审签字——数据部只管实现,不替业务决定「按什么摊」。

🔍 实现与对账 分摊前后必须对得平
  • 分摊系数表 + 计算任务在数仓落地
  • 铁律:分摊后合计 = 分摊前合计,差额必须可解释

🛒 跨境电商每月分摊后各 SKU 运费之和 = 运费总账单,一分不差才允许上线——对不平的差额逐条解释原因。

🔁 规则版本管理 历史按当时规则回溯
  • 比例年度调整、例外新增都要留版本与生效时间
  • 历史报表回溯时按当期规则重算,不混用

🛒 跨境电商今年运价上调 8% 留新版本——去年利润报表按去年运价回溯,同比才有意义。

数据血缘

数据的来龙去脉——改表之前先看下游,出问题沿线上溯。

🛒 跨境电商财务说利润表数字变了没人知道原因——沿血缘上溯 10 分钟,定位到昨晚一次汇率表晚更新。

🧬 什么是数据血缘 完整的上下游依赖图
  • 表级 + 字段级:从源系统到最终看板的全链路
  • 是影响分析、问题排查、变更评估的地基

🛒 跨境电商从 Amazon API 订单到 CEO 手里的利润大屏,中间 12 张表一条链——链路图贴在数据部墙上。

💥 影响分析 改之前先知道会炸到谁
  • 改表 / 改字段前先看下游引用与受影响看板
  • 评估完再动工,公告同步不遗漏

🛒 跨境电商要改 dim_product 的类目逻辑——血缘显示 8 个看板受影响,提前三天公告,无一投诉。

🕵️ 问题排查 沿血缘上溯定位
  • 指标异常:源系统 → 加工任务 → 口径变更逐层排查
  • 有血缘十分钟定位,没血缘排查一整天

🛒 跨境电商德国站毛利突降 3 个点——沿血缘上溯发现是汇率表晚更新一天,欧元汇率用了前天的。

🤖 自动解析 手填的血缘必过期
  • 从 SQL 与任务依赖自动生成(SQLLineage、Atlas、DataHub)
  • 能自动的绝不手工维护

🛒 跨境电商每晚从 Airflow 任务 SQL 自动构建血缘——新任务自动入图,从不靠谁「记得去更新」。

🧭 血缘与元数据 血缘是地图的一部分
  • 血缘 + 指标字典 + 口径 = 完整的「数据地图」
  • 地图齐了,新人才敢接手老数仓

🛒 跨境电商审计要「利润数据的来源证明」——血缘 + 字典截图一小时打包,以前这要翻一周的脚本。

数据质量

业界通用的六个度量维度(数据质量六性)——每条规则都能归到其中之一。

🛒 跨境电商黑五订单量翻 5 倍,数据质量风险也翻 5 倍——六性就是六个检查面,一个都不放过。

📥 完整性 该有的不能缺
  • 记录不缺:订单不漏采;字段不缺:必填项空值率
  • 最常见也最先被业务发现的问题

🛒 跨境电商TikTok Shop 拉的订单有 2% 缺邮编字段——完整性规则每天卡,漏采当天补拉。

🎯 准确性 如实反映业务事实
  • GMV 与财务对不对得上、库存与实物是否一致
  • 靠对账与交叉校验持续验证

🛒 跨境电商数仓 GMV 每天对平台后台 GMV,差超 0.5% 自动告警——曾揪出退款重复扣减的 bug。

🤝 一致性 多处同一份答案
  • 同一指标在不同系统 / 报表里一致
  • 靠口径统一 + 主数据支撑(见上方页签)

🛒 跨境电商独立站与 Amazon 的退款口径不同——映射统一后,退款率看板两平台终于可比。

⏰ 及时性 按时产出就是承诺
  • T+1 任务在 SLA 内完成,延迟要告警
  • SLA 要写进与业务的约定

🛒 跨境电商每日 6 点前必须产出昨日看板数据——SLA 红线写进值班手册,超时电话叫醒。

🚫 唯一性 无重复计算
  • 用户、订单不重复计:主键与去重键设计
  • 重复是 GMV 虚高的常见根因

🛒 跨境电商同一用户在三个平台重复注册——主数据 ID 打通后,会员数不再凭空多出 30%。

✅ 有效性 值符合格式与规则
  • 手机号位数、枚举值合法、日期范围合理
  • 格式类问题最适合在入库前批量校验

🛒 跨境电商德国站邮编必须是 5 位数字、美国站 ZIP 是 5 位——格式校验在入库前拦下,物流打单不再失败。

♻️ 质量闭环

  • 定义规则 —— 六性落到具体字段:哪些表哪些字段查什么、阈值多少。
  • 门禁阻断 —— DAG / 入库前校验,坏数据不流向下游(呼应⚙️数据开发·调度)。
  • 质量报告 —— 周报或质量看板,达标率、TOP 问题透明可见。
  • 整改闭环 —— 问题责任到人、限期销项,复发要复盘根因。

🛒 跨境电商黑五当天 5% 订单缺支付时间——门禁拦下、两小时内修复补拉、周报通报根因(平台 API 限流),第二天起加了限流重试。

安全与合规

合规是底线不是加分项——分类分级是安全治理的第一步。

🛒 跨境电商买家收货地址、支付卡信息横跨欧美两套法规(GDPR / 个保法)——安全是跨境业务的准入证。

🗂️ 分类分级 安全治理的地基
  • 按敏感度分级:公开 / 内部 / 敏感 / 机密
  • 分级决定谁能看、怎么用、要不要脱敏

🛒 跨境电商买家姓名 + 地址 = 敏感级、订单金额 = 内部级、采购成本 = 机密——分级标签打在每张表上。

🔐 权限最小化 默认不给,按需申请
  • 库 / 表 / 列级授权,定期回收闲置权限
  • 离职与转岗当天回收,不留僵尸账号

🛒 跨境电商客服团队只开订单视图(隐藏成本与利润列);离职运营的账号当天回收,不留任何僵尸权限。

🙈 脱敏与加密 敏感数据变身再流转
  • 手机号 / 身份证掩码展示,传输与存储加密
  • 测试环境禁用生产明文数据

🛒 跨境电商BI 里买家手机号显示 138****5678;测试环境用的是脱敏副本——开发要明文?走审批。

📜 审计与追溯 操作留痕可追责
  • 谁在什么时候查 / 改了什么,日志留痕
  • 配合血缘与快照,问题可完整回放

🛒 跨境电商有人批量导出 3 万条买家清单——审计日志当场定位到人与时间,半小时完成处置。

⚖️ 合规红线 个保法 / GDPR
  • 用户授权范围决定数据可用范围
  • 数据出境、未成年人信息有专门约束

🛒 跨境电商德国站用户行使「被遗忘权」——删除流程从平台一直打通到数仓与备份,30 天内闭环。

组织与机制

治理四支柱:组织、流程、技术、文化——只有工具没有机制,等于白治理。

🛒 跨境电商治理工具买了一堆却推不动?先点名两个数据管家、开一次口径评审会——机制比口号管用。

🏛️ 治理组织 三层架构各司其职
  • 治理委员会拍板、数据管理团队推进、业务部门执行
  • 数据 Owner 对本域数据的口径与质量负责

🛒 跨境电商治理委员会由 CFO + 数据部 + 各站点运营负责人组成,季度拍板优先级——口径争议到这就有了终审。

🤵 数据管家(Steward) 治理落地的最后一步是人
  • 每个业务域指定管家:管口径、管质量、协调争议
  • 兼职也可以,但必须点名到人

🛒 跨境电商美 / 德 / 日三个站点运营各指派一名数据管家——本站指标口径、质量问题第一责任人,有名有姓。

📋 制度与流程 写进制度才有约束力
  • 口径变更流程、权限审批流、质量问题升级机制
  • 流程要有 owner、有时限、有记录

🛒 跨境电商「口径变更必须提前 3 天公告」写进数据管理制度——新来的运营经理也被这条流程管住。

📊 成熟度与考核 DCMM 五级可评级
  • 初始 → 受管理 → 稳健 → 量化管理 → 优化
  • 内部考核:口径覆盖率 / 质量达标率 / 问题闭环率

🛒 跨境电商对照 DCMM 自评当前「稳健级」,年度目标「量化管理级」——口径覆盖率从 40% 提到 85%。

🌱 治理文化 最慢也最持久的一环
  • 数据人人有责:写注释、守口径、主动报问题
  • 领导用数先问口径,文化自然立起来

🛒 跨境电商周会上任何人引用数字,先说口径来源——CEO 带头问「这个 GMV 按哪个口径」,文化就这么立起来。

实战提醒

🛒 跨境电商下面每条提醒都对应一次跨境项目的真实返工——读完省下的是周级别的工期。

  • 治理不是运动 —— 跟着业务节奏走:新需求先过口径关,别等欠账太多再集中还。
  • 分摊规则业务定 —— 维度、比例、例外由业务拍板,数仓只负责准确实现;规则不清,实现必返工。
  • 血缘要自动 —— 靠人手填的血缘必过期,能从 SQL 与任务依赖自动解析的绝不手工维护。
  • 口径变更走流程 —— 字典评审、变更公告、下游同步,一步都不能省,否则字典失去权威性。
  • 从指标开始最划算 —— 先治指标口径与字典,业务感知最强、见效最快,再滚动到质量与安全。

🛒 跨境电商分摊规则当年没让业务签字就上线,结果被供应链推翻重算了三周——此后「评审签字」成为铁律,再没返工过。

相关:🧱 数据开发(分层与加工) · 🧭 指标体系搭建框架图 · 🔗 个人技能(全链路总览)