当前位置: 首页 > news >正文

比较好的建站系统wordpress 配置邮箱

比较好的建站系统,wordpress 配置邮箱,静乐县城乡建设局网站,长春关键词推广1:为什么要分层 大多数情况下,我们完成的数据体系却是依赖复杂、层级混乱的。在不知不觉的情况下,我们可能会做出一套表依赖结构混乱,甚至出现循环依赖的数据体系。 我们需要一套行之有效的数据组织和管理方法来让我们的数据体系…

1:为什么要分层

大多数情况下,我们完成的数据体系却是依赖复杂、层级混乱的。在不知不觉的情况下,我们可能会做出一套表依赖结构混乱,甚至出现循环依赖的数据体系。

我们需要一套行之有效的数据组织和管理方法来让我们的数据体系更有序,这就是谈到的数据分层。数据分层并不能解决所有的数据问题。

2:数仓的三层结构

我们将数据模型分为三层:数据运营层( ODS )、数据仓库层(DW)和数据应用层/应用数据存储(APP/ADS)
ODS层存放的是接入的原始数据
DW层是存放我们要重点设计的数据仓库中间层数据
APP/ADS是面向业务定制的应用数据。

1、数据运营层:ODS(Operational Data Store)

“面向主题的”数据运营层,也叫ODS层,是最接近数据源中数据的一层,数据源中的数据,经过抽取、洗净、传输,也就说传说中的 ETL 之后,装入本层。本层的数据,总体上大多是按照源头业务系统的分类方式而分类的。
一般来讲,为了考虑后续可能需要追溯数据问题,因此对于这一层就不建议做过多的数据清洗工作,原封不动地接入原始数据即可,至于数据的去噪、去重、异常值处理等过程可以放在后面的DWD层来做。

2、数据仓库层:DW(Data Warehouse)

数据仓库层是我们在做数据仓库时要核心设计的一层,在这里,从 ODS 层中获得的数据按照主题建立各种数据模型。DW层又细分为 DWD(Data Warehouse Detail)层、DWM(Data WareHouse Middle)层和DWS(Data WareHouse Servce)层。

1)数据明细层:DWD(Data Warehouse Detail)

该层一般保持和ODS层一样的数据粒度,并且提供一定的数据质量保证。同时,为了提高数据明细层的易用性,该层会采用一些维度退化手法,将维度退化至事实表中,减少事实表和维表的关联。 另外,在该层也会做一部分的数据聚合,将相同主题的数据汇集到一张表中,提高数据的可用性。

2)数据中间层:DWM(Data WareHouse Middle)

该层会在DWD层的数据基础上,对数据做轻度的聚合操作,生成一系列的中间表,提升公共指标的复用性,减少重复加工。 直观来讲,就是对通用的核心维度进行聚合操作,算出相应的统计指标。

3)数据服务层:DWS(Data WareHouse Servce)

又称数据集市或宽表。按照业务划分,如流量、订单、用户等,生成字段比较多的宽表,用于提供后续的业务查询,OLAP分析,数据分发等。
一般来讲,该层的数据表会相对比较少,一张表会涵盖比较多的业务内容,由于其字段较多,因此一般也会称该层的表为宽表。

3、数据应用层:APP(Application)/ADS

在这里,主要是提供给数据产品和数据分析使用的数据,一般会存放在 ES、PostgreSql、Redis等系统中供线上系统使用,也可能会存在 Hive 或者 Druid 中供数据分析和数据挖掘使用。比如我们经常说的报表数据,一般就放在这里。

3:总结及其他

ODS层: 源数据层作用: 对接数据源, 和数据源的数据保持相同的粒度(将数据源的数据完整的拷贝到ODS层中)注意:如果数据来源于文本文件, 可能会需要先对这些文本文件进行预处理(spark)操作, 将其中不规则的数据, 不完整的数据, 脏乱差的数据先过滤掉, 将其转换为一份结构化的数据, 然后灌入到ODS层一般放置 事实表数据和少量的维度表数据DW层:  数据仓库层DWD层: 明细层作用: 用于对ODS层数据进行清洗转换工作 , 以及进行少量的维度退化操作少量: 1) 将多个事实表的数据合并为一个事实表操作2) 如果维度表放置在ODS层 一般也是在DWD层完成维度退化DWM层: 中间层    作用:  1) 用于进行维度退化操作  2) 用于进行提前聚合操作(周期快照事实表)DWS层: 业务层    作用: 进行细化维度统计分析操作DA层:  数据应用层作用: 存储基于DWS层再次分析的结果, 用于对接后续的应用(图表, 推荐系统...)例如:比如DWS层的数据表完成了基于订单表各项统计结果信息,  但是图表只需要其中销售额, 此时从DWS层将销售额的数据提取出来存储到DA层DIM层: 维度层作用: 存储维度表数据


 

http://www.yayakq.cn/news/530017/

相关文章:

  • 如何利用影视网站做cpa模板和网站的区别
  • 青岛外贸网站建设费用wordpress免费搭建博客
  • 建设银行普卡申请网站青岛城运控股集团
  • 免费做网站收录的教务管理系统哪个好
  • 做网站架构需要什么工具旅游景区网站建设的必要性
  • 在iis里面创建网站steam账号注册网站
  • 网站开发的基础知识站长统计app官方网站
  • 外贸模板网站深圳腾讯视频创作平台
  • 建设一个网站需要提供什么手续扫描网站漏洞的软件
  • 建设部网站13清单做我的狗漫画网站
  • 搭建本地网站做彩票网站代理违法吗
  • 网站流量怎么算的招聘网站页面设计图片
  • 松原做网站平台东莞网站排名优化
  • 网站性能需求公司网站可以不备案吗
  • 中小型网站建设平台自适应网页设计尺寸
  • 企业网站自己怎么做学生网页设计模板
  • 网站开发要求seochan是什么意思
  • 有关网络技术的网站wordpress调用制定id
  • 关键词搜索引擎网站延吉网站制作
  • 深圳网络推广代理百度网盘优化
  • 网站建设教程 湖南岚鸿网站开发有什么好的命题
  • 合肥网站建设费用河南新闻头条最新消息
  • 免费个人网站制作设计网页设计实训报告代码
  • 企业网站源码 非织梦外贸电商平台都有哪些
  • asp.net h5网站开发wordpress 数学插件
  • 河北省住房和城乡建设厅网站首页wordpress points
  • 网站开发网页设计北京师范大学出版社网站版面特点
  • 西安黄页88网企业名录优化关键词的方法
  • 哪家可以做网站汕头seo关键词
  • 西安SEO网站推广品牌加盟网