推荐星级:
  • 1
  • 2
  • 3
  • 4
  • 5

数据血缘关系记录规范

更新时间:2026-05-09 21:06:41 大小:14K 上传用户:江岚查看TA发布的资源 标签:数据关系 下载积分:2分 评价赚积分 (如何评价?) 打赏 收藏 评论(0) 举报

资料介绍

一、数据血缘关系定义

数据血缘关系(Data Lineage)是指数据从产生、加工、流转到最终消亡的全生命周期中,各个数据实体之间的依赖关系和衍生路径。它通过记录数据的来源、处理过程和去向,构建数据资产的可追溯链路,为数据治理、质量监控和合规审计提供基础支撑。

二、血缘关系记录核心要素

· 数据实体:包括数据源(如数据库表、文件、API接口)、处理过程(如ETL作业、SQL脚本、算法模型)、目标数据(如报表、数据集市、应用系统)

· 关系类型:包含直接依赖(A直接生成B)、间接依赖(A通过C生成B)、关联关系(A与B存在业务关联)

· 处理逻辑:记录数据转换规则(如字段映射、计算逻辑、过滤条件)、处理时间戳、执行版本

· 元数据属性:数据实体的名称、类型、所属系统、负责人、更新频率等描述信息

三、血缘关系记录方法

1. 技术实现方式

· 静态解析:通过分析SQL脚本、ETL配置文件、代码注释等静态资源,提取表-字段级别的依赖关系

· 动态追踪:在数据处理过程中实时采集执行日志,记录数据流转路径(如Spark作业的DAG图、Flink的数据流)

· 主动上报:通过API接口由数据处理系统主动上报血缘信息至元数据管理平台


部分文件列表

文件名 大小
数据血缘关系记录规范.docx 14K

全部评论(0)

暂无评论

上传资源 上传优质资源有赏金

  • 打赏
  • 30日榜单

推荐下载