基础概念
参照 DAMA-DMBOK 知识体系与国标 DCMM 归纳——先把词统一,再把事做成。
🛒 跨境电商统一场景设定:这家跨境公司多平台(Amazon / eBay / TikTok Shop)、多站点(美 / 德 / 日)、多币种——数据乱起来也是「国际化」的,治理从统一语言开始。
- 一套「组织 + 流程 + 技术」的长期机制,不是一次性项目
- 目标:全公司用着「一份正确的底表」
🛒 跨境电商三个平台的 GMV 口径打架、用户在三个系统重复注册——治理就是立规矩,让三个平台说同一种「数据普通话」。
- 先盘点入册(资产目录),才谈得上治理与变现
- 没有目录的治理 = 不知道自己在治什么
🛒 跨境电商把「站点 × 类目 × 日」销售、广告 ACOS、海外仓库存盘点入册——才发现客服聊天记录这座金矿没人管。
- 表结构、字段口径、血缘、负责人、更新时间
- 治理的「地图」——找不到地图就管不了领土
🛒 跨境电商新同事问「revenue_usd 含不含 VAT」——元数据一查便知,不用在三个工作群里考古。
- 用户、商品、组织、供应商、门店
- 一处维护、全局引用(详见主数据管理页签)
🛒 跨境电商同一款耳机在 ERP 叫 A-101、在 Amazon 叫 B0XYZ、在独立站叫 earbud-pro——主数据给它们一个统一身份。
- 命名、定义、格式与编码规范的统一约定
- 贯穿元数据、主数据、质量、安全各领域
🛒 跨境电商全公司约定:金额一律 USD 两位小数、日期统一站点本地时区转 UTC——报表之间终于能直接对比。
- 表级 / 字段级上下游依赖图
- 影响分析与问题追责的依据
🛒 跨境电商CEO 手里的利润大屏,上游是 12 张表——血缘画清楚,改表前就知道会牵动谁。
- 完整性、准确性、一致性、及时性、唯一性、有效性
- 治理最直接的目标与产出
🛒 跨境电商德国站订单漏了邮编字段,物流打单批量失败——完整性问题直接变成了客诉事故。
- 分类分级 + 权限、脱敏、加密、审计
- 合规红线:个保法 / GDPR
🛒 跨境电商买家收货地址和支付卡是敏感数据——运营在 BI 里只见「138****5678」式的掩码,导出自动脱敏。
- DMBOK:DAMA 国际知识体系,11 个知识域、治理居中(车轮图)
- DCMM:中国国标 GB/T 36073,8 大能力域、5 级成熟度,可评级
🛒 跨境电商公司准备申报 DCMM 评级(投标加分项)——按 8 大能力域自评,一眼看出「数据质量」和「数据标准」两个短板。
治理全景
五个动作一条主线:从口径定义出发,落地到主数据与分摊规则,靠血缘与权限长期守住。
🛒 跨境电商一次真实事故引出五步:同一周,运营、财务、CEO 三个报表出现三个 GMV,月度经营会对不上账——治理五动作由此展开。
🧭 治理管什么、不管什么
- 管一致性 —— 同一个指标全公司只有一个口径、同一份主数据只有一处维护。
- 管可信度 —— 数据质量有度量、有问题能闭环,而不是靠人肉发现。
- 管安全边界 —— 分级授权、脱敏审计,合规是底线不是加分项。
- 不替业务做决定 —— 口径怎么定义、成本怎么分摊,业务拍板;治理保证被准确执行与长期守护。
🛒 跨境电商五步各配一个跨境例子:口径(GMV 含不含运费)· 主数据(一款耳机三处编码)· 分摊(头程运费摊到 SKU)· 血缘(利润表 12 张上游)· 权限(采购成本列只给管理层)。
口径与指标
数据标准是全公司的度量衡;指标字典是它的最大应用——先承认「同名不同数」,再消灭它。
🛒 跨境电商Amazon 的 sales 含运费、独立站不含、TikTok Shop 按支付口径——同一天三个「销售额」,先统一口径。
- 识别字段定义、统计维度与计算口径的平台间差异
- 产出「口径映射表」,看板只引权威口径
🛒 跨境电商逐字段比对三个平台 API 文档:sales 含税含运费、revenue 不含——映射规则统一成 revenue_usd(不含税不含运费)。
- 名称、定义、公式、维度、负责人、变更记录缺一不可
- 字典没有权威性 = 没有字典
🛒 跨境电商「退货率」在字典里写清:退货订单数 / 发货订单数,按发货时间窗口统计,负责人是站点运营——谁再用错直接甩字典链接。
- 表 / 字段 / 指标统一命名(层级_主题_粒度)
- 枚举值编码统一:性别用 0/1 还是 M/F,全公司一份约定
🛒 跨境电商dwd_orders_usd、ads_site_daily_profit——表名即文档;订单状态枚举全公司统一成 paid / shipped / refunded。
- 申请 → 评审 → 公告 → 下游同步 → 字典更新
- 跳过任何一步,字典都会失去权威
🛒 跨境电商财务要求 GMV 改按支付时间统计——走流程:评审通过、提前 3 天公告、12 张下游表同步切换、字典更新版本号。
- 指标体系决定「要哪些指标」(OSM 拆解)
- 数据标准决定「怎么定义才无歧义」,字典把两者落地
🛒 跨境电商OSM 拆出北极星「毛利率」与过程指标「ACOS、退货率」——字典逐一定义,运营看完就知道每个数字怎么算。
- 三个平台三个 GMV:逐一定义、对齐映射、落库执行
- 根因多半是统计时间 / 去重口径 / 退款处理的差异
🛒 跨境电商运营口径「销售额」含运费、财务口径不含——映射表把两个口径并存管理,换算关系写死在数仓里。
相关:🧭 指标体系搭建框架图(指标体系先行)
主数据管理
主数据 = 全公司共享的核心实体——目标是「一份正确的底表」。
🛒 跨境电商同一款耳机在三个系统三个编码,库存对不上、利润算不清——主数据先把「它是谁」说清楚。
- 用户、商品、组织、供应商、门店
- 变化慢、价值高、被到处引用——所以值得单独治理
🛒 跨境电商用户、商品(SKU)、海外仓、物流商——被订单、物流、财务系统到处引用,一处错处处错。
- 跨系统共享?核心业务实体?变更频率相对低?
- 三条都满足,就是主数据候选
🛒 跨境电商SKU 跨三平台共享、是核心实体、信息月级变化——三条全中,列为最高优先级主数据。
- 每个主数据指定唯一权威系统(System of Record)
- 多源并存时按规则合并出黄金记录(Golden Record)
🛒 跨境电商商品档案以 PIM 系统为权威源;Amazon / eBay 的 listing 只是镜像——三处编码不同时按映射合并出黄金记录。
- MDM 是机制,数仓一致性维度表是落地形态(dim_user / dim_product)
- 维度表直接服务建模与看板(见🧱数据开发·建模方法论)
🛒 跨境电商dim_product 挂统一 SKU 编码 + 三平台映射表——BI 按「统一商品」分析,不再按平台各算各的。
- 新增 / 变更走统一入口,审批后分发各系统
- 没有入口的维表,迟早变成没人维护的垃圾表
🛒 跨境电商新品上架先建主数据档案、审批通过后自动分发三个平台——从此再没出现过「三处三编码」。
分摊规则
把公共成本算到「谁头上」——利润分析能不能算清,全看分摊规则是否清晰。
🛒 跨境电商每月 $50 万头程运费、$30 万海外仓仓储费,不摊到 SKU——每个站点的毛利都是虚高的。
- 总部成本、物流费用要落到 SKU / 门店 / 事业部
- 落到最小经营单元,才答得出「谁赚钱」
🛒 跨境电商不摊头程运费时,德国站毛利 35%;摊完只剩 22%——才看清大件家具类目其实在亏钱。
- 分摊维度:按销量 / 面积 / 人头还是 GMV
- 分摊比例:固定 or 动态计算;例外规则:大促 / 新店豁免
🛒 跨境电商头程运费按体积重摊、仓储费按日均库存量摊、新店开业前 30 天豁免推广费分摊——三要素一次定清。
- 维度、比例、例外由业务方评审确认
- 数仓只负责把规则准确实现——不替业务做决定
🛒 跨境电商分摊比例由 CFO 和供应链负责人评审签字——数据部只管实现,不替业务决定「按什么摊」。
- 分摊系数表 + 计算任务在数仓落地
- 铁律:分摊后合计 = 分摊前合计,差额必须可解释
🛒 跨境电商每月分摊后各 SKU 运费之和 = 运费总账单,一分不差才允许上线——对不平的差额逐条解释原因。
- 比例年度调整、例外新增都要留版本与生效时间
- 历史报表回溯时按当期规则重算,不混用
🛒 跨境电商今年运价上调 8% 留新版本——去年利润报表按去年运价回溯,同比才有意义。
数据血缘
数据的来龙去脉——改表之前先看下游,出问题沿线上溯。
🛒 跨境电商财务说利润表数字变了没人知道原因——沿血缘上溯 10 分钟,定位到昨晚一次汇率表晚更新。
- 表级 + 字段级:从源系统到最终看板的全链路
- 是影响分析、问题排查、变更评估的地基
🛒 跨境电商从 Amazon API 订单到 CEO 手里的利润大屏,中间 12 张表一条链——链路图贴在数据部墙上。
- 改表 / 改字段前先看下游引用与受影响看板
- 评估完再动工,公告同步不遗漏
🛒 跨境电商要改 dim_product 的类目逻辑——血缘显示 8 个看板受影响,提前三天公告,无一投诉。
- 指标异常:源系统 → 加工任务 → 口径变更逐层排查
- 有血缘十分钟定位,没血缘排查一整天
🛒 跨境电商德国站毛利突降 3 个点——沿血缘上溯发现是汇率表晚更新一天,欧元汇率用了前天的。
- 从 SQL 与任务依赖自动生成(SQLLineage、Atlas、DataHub)
- 能自动的绝不手工维护
🛒 跨境电商每晚从 Airflow 任务 SQL 自动构建血缘——新任务自动入图,从不靠谁「记得去更新」。
- 血缘 + 指标字典 + 口径 = 完整的「数据地图」
- 地图齐了,新人才敢接手老数仓
🛒 跨境电商审计要「利润数据的来源证明」——血缘 + 字典截图一小时打包,以前这要翻一周的脚本。
数据质量
业界通用的六个度量维度(数据质量六性)——每条规则都能归到其中之一。
🛒 跨境电商黑五订单量翻 5 倍,数据质量风险也翻 5 倍——六性就是六个检查面,一个都不放过。
- 记录不缺:订单不漏采;字段不缺:必填项空值率
- 最常见也最先被业务发现的问题
🛒 跨境电商TikTok Shop 拉的订单有 2% 缺邮编字段——完整性规则每天卡,漏采当天补拉。
- GMV 与财务对不对得上、库存与实物是否一致
- 靠对账与交叉校验持续验证
🛒 跨境电商数仓 GMV 每天对平台后台 GMV,差超 0.5% 自动告警——曾揪出退款重复扣减的 bug。
- 同一指标在不同系统 / 报表里一致
- 靠口径统一 + 主数据支撑(见上方页签)
🛒 跨境电商独立站与 Amazon 的退款口径不同——映射统一后,退款率看板两平台终于可比。
- T+1 任务在 SLA 内完成,延迟要告警
- SLA 要写进与业务的约定
🛒 跨境电商每日 6 点前必须产出昨日看板数据——SLA 红线写进值班手册,超时电话叫醒。
- 用户、订单不重复计:主键与去重键设计
- 重复是 GMV 虚高的常见根因
🛒 跨境电商同一用户在三个平台重复注册——主数据 ID 打通后,会员数不再凭空多出 30%。
- 手机号位数、枚举值合法、日期范围合理
- 格式类问题最适合在入库前批量校验
🛒 跨境电商德国站邮编必须是 5 位数字、美国站 ZIP 是 5 位——格式校验在入库前拦下,物流打单不再失败。
♻️ 质量闭环
- 定义规则 —— 六性落到具体字段:哪些表哪些字段查什么、阈值多少。
- 门禁阻断 —— DAG / 入库前校验,坏数据不流向下游(呼应⚙️数据开发·调度)。
- 质量报告 —— 周报或质量看板,达标率、TOP 问题透明可见。
- 整改闭环 —— 问题责任到人、限期销项,复发要复盘根因。
🛒 跨境电商黑五当天 5% 订单缺支付时间——门禁拦下、两小时内修复补拉、周报通报根因(平台 API 限流),第二天起加了限流重试。
安全与合规
合规是底线不是加分项——分类分级是安全治理的第一步。
🛒 跨境电商买家收货地址、支付卡信息横跨欧美两套法规(GDPR / 个保法)——安全是跨境业务的准入证。
- 按敏感度分级:公开 / 内部 / 敏感 / 机密
- 分级决定谁能看、怎么用、要不要脱敏
🛒 跨境电商买家姓名 + 地址 = 敏感级、订单金额 = 内部级、采购成本 = 机密——分级标签打在每张表上。
- 库 / 表 / 列级授权,定期回收闲置权限
- 离职与转岗当天回收,不留僵尸账号
🛒 跨境电商客服团队只开订单视图(隐藏成本与利润列);离职运营的账号当天回收,不留任何僵尸权限。
- 手机号 / 身份证掩码展示,传输与存储加密
- 测试环境禁用生产明文数据
🛒 跨境电商BI 里买家手机号显示 138****5678;测试环境用的是脱敏副本——开发要明文?走审批。
- 谁在什么时候查 / 改了什么,日志留痕
- 配合血缘与快照,问题可完整回放
🛒 跨境电商有人批量导出 3 万条买家清单——审计日志当场定位到人与时间,半小时完成处置。
- 用户授权范围决定数据可用范围
- 数据出境、未成年人信息有专门约束
🛒 跨境电商德国站用户行使「被遗忘权」——删除流程从平台一直打通到数仓与备份,30 天内闭环。
组织与机制
治理四支柱:组织、流程、技术、文化——只有工具没有机制,等于白治理。
🛒 跨境电商治理工具买了一堆却推不动?先点名两个数据管家、开一次口径评审会——机制比口号管用。
- 治理委员会拍板、数据管理团队推进、业务部门执行
- 数据 Owner 对本域数据的口径与质量负责
🛒 跨境电商治理委员会由 CFO + 数据部 + 各站点运营负责人组成,季度拍板优先级——口径争议到这就有了终审。
- 每个业务域指定管家:管口径、管质量、协调争议
- 兼职也可以,但必须点名到人
🛒 跨境电商美 / 德 / 日三个站点运营各指派一名数据管家——本站指标口径、质量问题第一责任人,有名有姓。
- 口径变更流程、权限审批流、质量问题升级机制
- 流程要有 owner、有时限、有记录
🛒 跨境电商「口径变更必须提前 3 天公告」写进数据管理制度——新来的运营经理也被这条流程管住。
- 初始 → 受管理 → 稳健 → 量化管理 → 优化
- 内部考核:口径覆盖率 / 质量达标率 / 问题闭环率
🛒 跨境电商对照 DCMM 自评当前「稳健级」,年度目标「量化管理级」——口径覆盖率从 40% 提到 85%。
- 数据人人有责:写注释、守口径、主动报问题
- 领导用数先问口径,文化自然立起来
🛒 跨境电商周会上任何人引用数字,先说口径来源——CEO 带头问「这个 GMV 按哪个口径」,文化就这么立起来。
实战提醒
🛒 跨境电商下面每条提醒都对应一次跨境项目的真实返工——读完省下的是周级别的工期。
- 治理不是运动 —— 跟着业务节奏走:新需求先过口径关,别等欠账太多再集中还。
- 分摊规则业务定 —— 维度、比例、例外由业务拍板,数仓只负责准确实现;规则不清,实现必返工。
- 血缘要自动 —— 靠人手填的血缘必过期,能从 SQL 与任务依赖自动解析的绝不手工维护。
- 口径变更走流程 —— 字典评审、变更公告、下游同步,一步都不能省,否则字典失去权威性。
- 从指标开始最划算 —— 先治指标口径与字典,业务感知最强、见效最快,再滚动到质量与安全。
🛒 跨境电商分摊规则当年没让业务签字就上线,结果被供应链推翻重算了三周——此后「评审签字」成为铁律,再没返工过。
相关:🧱 数据开发(分层与加工) · 🧭 指标体系搭建框架图 · 🔗 个人技能(全链路总览)