数睿通2.0数据血缘、标准、质量功能更新发布

文章目录

  • 引言
  • 数据血缘
  • 数据标准
  • 数据质量
  • 结语

引言

这段时间工作繁忙,琐事较多,加上二阳的冲击,导致数睿通 2.0 的更新进度缓慢,深表歉意,还望大家可以理解。本次更新主要包含数据治理模块的血缘标准质量三大功能,能够帮助我们更加直观的查看和管理平台的数据信息,同时也是数据治理的重要组成部分,下面让我们一起来看一下这几个模块的完成情况吧。

数据血缘

数据血缘可以帮助我们追溯数据流向,让我们知道数据从哪来,到哪去,这样遇到问题可以直指源头,快速处理解决,但是数据血缘的构建并不是件容易的事情,只是通过 sql 构建血缘会遇到各种各样的问题,比如复杂 sql 的解析,字段和表的实际归属等,所以本次更新只针对数据接入部分做了自动血缘构建,对于数据生产部分的 sql 任务,后续计划通过用户介入的方式协助构建血缘,只通过解析 sql 来自动构建目前来看是不现实的。

由于本人前端水平有限,找来找去并没有找到合适的组件去回显血缘关系图,所以暂时通过接入 Neo4j 的官方客户端界面作展示,最终展示效果打算做成像 atlas 那样,可以通过点击血缘的数据节点去追溯查看节点以及关联节点的信息。本次实现的效果图如下所示:
血缘关系图

数据标准

该平台的数据标准主要用来定义标准字段和标准码表,帮助维护和管理数据标准信息,标准字段可以通过关联具体的元数据字段,获取标准检测报告,以便于我们查看数据情况,及时对不符合标准的数据做出调整,保证数据的标准化运营。

用户可以自定义数据标准目录,新增标准字段和标准码表,如下:
标准目录
创建完标准字段和标准码表之后,在元数据模块关联具体字段可以查看标准检测结果:
标准检测
检测结果

数据质量

数据质量主要用于检测数据的质量情况。根据质量规则进行规则配置,生成质量任务,定时检测,生成质量报告,以便于用户对数据质量的好坏有个清晰直观的认知,针对质量报告对平台的数据做出适时的清洗和调整,保证数据的整体可用性。

质量规则通常是内置的,定义好的,同时如果有特定的业务需求,可以自行添加相关的检测处理逻辑进行扩展,该平台的内置规则包含以下 10 种:

  • 唯一性校验(检验字段是否唯一)
  • 手机号格式检验
  • 身份证号格式检验
  • 邮件格式检验
  • 是否为日期格式
  • 是否为数字格式
  • 长度检验(检验字段是否符合设定长度)
  • 非空检验(检测是否存在空值)
  • 关联一致性检验(检测与关联的字段取值是否一致)
  • 及时性(检测更新时长是否超过设定时间)

本次更新完成了数据质量模块的质量规则展示以及规则配置两个功能,质量任务尚处于开发阶段,当前整体功能展示如下:
质量规则
规则配置
新增配置
修改配置

结语

这就是数睿通 2.0 本次更新的主要内容了,相应的代码量还是挺多的,数据血缘部分单独抽了一个模块出来,主要用做与 Neo4j 数据库的交互,对于不了解 Neo4j 图数据库的朋友是有较高的学习参考价值的,数据标准和数据质量主要偏向于中台本身的业务,其中如何关联元数据查询,生成动态 sql 获取标准报告等,理清了相关代码逻辑,可以帮助我们更好的理解中台相关的概念,结合自身业务,发挥平台应有的价值。

想要获取系统目前最新源码,部署指南等资料的朋友可以关注公众号 螺旋编程极客 加入我的知识星球,星球内可以获取到数睿通 2.0 的最新源码资料等,新功能发布之后也会第一时间分享,期待你的加入。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://xiahunao.cn/news/251059.html

如若内容造成侵权/违法违规/事实不符,请联系瞎胡闹网进行投诉反馈,一经查实,立即删除!

相关文章

Linux cp 命令仅复制文件

参考资料: https://unix.stackexchange.com/questions/101916/copy-only-regular-files-from-one-directory-to-another 作为一个经常进行机器学习训练的人,你可能会想给你的训练代码的每一次run都重新创建一个文件夹,此时你可能只想复制一个…

C++实现cp覆盖指令

前言: 想必大家都知道cp这个命令,现在我要给大家分享一个用命令行参数实现的cp覆盖命令 main函数的命令行参数: int main(int argc,char* argv[]) {} 关于argc与argv[ ] 下面这张图可以助你理解 本图来自:https://blog.csdn.…

cp命令详解

用法: cp [选项]... [-T] 源文件 目标文件 或:cp [选项]... 源文件... 目录 或:cp [选项]... -t 目录 源文件... 功能: 将源文件复制至目标文件,或将多个源文件复制至目标目录。 参数: -a或--ar…

cp (复制)命令

用来将一个或多个源文0件或者目录复制到指定的目的文件或目录。它可以将单个源文件复制成一个指定文件名的具体的文件或一个已经存在的目录下。cp命令还支持同时复制多个文件,当一次复制多个文件时,目标文件参数必须是一个已经存在的目录,否则…

CP命令

cp命令 拷贝文件,cp 【源文件】 【目标文件】(拷贝后的文件可直接对其重命名) 拷贝目录,cp -r 【源目录】 【目标目录】 拷贝目录是一定要加-r 否则命令不生效。 复制目录时,最好以/结尾。

cp命令用法

cp命令用来将一个或多个源文件或者目录复制到指定的目的文件或目录。它可以将单个源文件复制成一个指定文件名的具体的文件或一个已经存在的目录下。cp命令还支持同时复制多个文件,当一次复制多个文件时,目标文件参数必须是一个已经存在的目录&#xff0…

复制命令 cp

一、命令详解 1.命令说明 cp是copy的缩写,主要是用来复制文件或者目录。cp命令可以将一个或者多个文件、目录复制到一个制定的文件或目录下,也可以同时复制多个文件到一个指定的目录中。 默认情况,cp会被设置一个别名cp is aliased to cp -i&#xff0c…

2022年适合初学者的Python书籍推荐

一、前言 网上有很多Python书或者视频,种类繁多该怎么选择? 看书全是文字看就了眼睛累,也容易厌倦,看视频有时候又觉得讲的慢,有其他方案吗? 其实,关于自学python,找一本浅显易懂&…

推荐几本Python好书!

大家好!我是Sitin涛哥! 经常有小伙伴问我推荐Python书籍,每次都零零碎碎的。 今天我整理了一些Python3.x编程相关书籍,从基本概念到完整项目开发,并加以数学辅助,帮助你迅速掌握Python编程,成为…

Python入门必备的书籍推荐

想要自学好Python,搜集资料是最关键的一步,现在在网上有很多的资料、视频和网站可供自学入门者选择。但是想要扎扎实实学好基础,书籍是不可少的一种选择,因为书本上的知识还是跟网上的介绍方法有点不一样的,还有书籍上…

清华教授极力推荐的三本入门学习Python书籍

目录 Python入门书(适合初学者) Python进阶书(适合有基础的) Python数据科学(适合初学者) Python入门书(适合初学者) 这应该是世界上最畅销的Python编程书,没有之一。…

python进阶书籍的推荐-Python 入门到进阶书籍推荐

入门 1.《像计算机科学家一样思考Python (第2版)》 简单、易懂、量少。“这是一本试图用python最小子集来揭示计算机思想的书。”,建议大家读过一遍后,再“练过”一遍。 计算机图书推荐阅读纸质版,条件不允许的话可在【Python 实用宝典】公…

python经典书籍推荐-7本经典的Python书籍,你都读过了么?

许多程序员都认为Python是最适合作为入门的编程语言,而有的程序员却认为Python是你应该学的最后一门编程语言,无论如何,毋庸置疑Python是一门非常流行的编程语言,根据TIOBE Index,它是目前世界上第三大流行的编程语言,而且它的增长速度还在不断增加。 如果你想学习Python…

20本最好的免费的Python书籍

想要学习Python编程语言的读者有大量相关书籍可供选择,有印刷版也有电子版,而Python是一门开源的编译语言,开发者也提供了不少免费可自由下载的Python电子书。本文挑选其中最优秀的 20本 Python电子书 ,内容覆盖了Python的一般…

Python书籍推荐:《Python3标准库》

最近双十一气氛弥漫在整个互联网,不买点东西总觉得缺了什么。在逛某东的时候无意中发现了这本刚出版没多久的书,一时心血来潮立即加入购物车,这不对啊,价格这么贵,而且优惠套路太多了。去当当一看,五折&…

python基础学习的书籍

分享几本python基础学习的书籍给大家 《Python编程:从入门到实践》 《Python编程:从入门到实践》 书籍详情链接 内容简介:本书是一本针对所有层次的Python 读者而作的Python 入门书。全书分两部分:第一部分介绍用Python 编程所必…

2023!七大最佳Python书籍,入门到精通推荐!

前言 什么是Python? Python是一种高级编程语言,用于使用正确的工具和库文件进行Web开发,桌面应用程序,人工智能,OS,原型,GUI应用,图像处理,科学计算。此外,…

12个python超强学习网站!加python书籍推荐!( 入门python自学推荐!建议收藏!)

python学习网站 一、python学习网站1 CSDN2 Python1233 python中文学习大本营4 python开发者社区5 github6 python学习网7 python在线帮助文档8 python3简明教程9 中国大学MOOC10 菜鸟python教程11 W3school教程12 廖雪峰的官方网站 二、python自学书籍推荐(入门)1.《Python编程…

学习python的三本书

……如果你非要找一本可以捧在手上的书,那么一本好的 Python 书的标准是要么在广度上有建树要么就是深度。广度上来说,《Python编程金典》做得不错;深度上, 《python cookbook》和《可爱的 Python》系列文章比较好。…… 其实在那时&#xff…

12本Python书籍推荐

Python是用于各种任务和领域的优秀编程语言之一。 Python的用户友好性,高级特性以及对简单性和增强代码可读性的强调使其成为全球许多开发人员的理想选择。 诸如此类的功能使应用程序开发,数据科学,人工智能或任何其他行业的Python需求激增。…