当前位置: 首页 > news >正文

第三方免费做网站有域名有服务器如何做网站

第三方免费做网站,有域名有服务器如何做网站,网站建设找哪家好,网站 设计 深圳1. 实时数仓Hologres特点 专注实时场景:数据实时写入、实时更新,写入即可见,与Flink原生集成,支持高吞吐、低延时、有模型的实时数仓开发,满足业务洞察实时性需求。 亚秒级交互式分析:支持海量数据亚秒级交…

1. 实时数仓Hologres特点
专注实时场景:数据实时写入、实时更新,写入即可见,与Flink原生集成,支持高吞吐、低延时、有模型的实时数仓开发,满足业务洞察实时性需求。
亚秒级交互式分析:支持海量数据亚秒级交互式分析,无需预计算,支持多维分析、即席分析、探索式分析、MaxCompute加速分析,满足所见即所得分析体验。
统一数据服务出口:支持多维分析、高性能点查、数据检索等多个场景,支持负载隔离,简化数据架构,统一数据访问接口,实践分析服务一体化(HSAP)。
开放生态:标准SQL协议,无缝对接主流BI和SQL开发框架,无需应用重写。支持数据湖场景,支持JSON等半结构化数据,OSS、DLF简易入仓。

2. 实时计算Flink服务
全托管Flink服务:开箱即用、开发远维全周期、计费灵活
丰富的企业级能力:流批一体的一站式开发运维平台、Flink CDC实时入湖入仓、动态CEP助力实时风控/营销、作业自动调优充分利用资源、智能冷断快速定位
性能强劲:内核引擎优化: CPU超秒数十万记录处理能力、Nexmark 测试性能技开源提升200%、状态存储后端优化
100%兼容开源:100%兼容Apache Flink、支持开源 Flink平滑迁移上云、无缝对接主流开源大教据生态
开放被集成能力强:自定义连按器、UXF能力扩展、Open API帮助用户集成自身系统、用户开发能力扩展与沉淀复用、用户自身系统集成
业界认可:中国信通院权威认证、中国唯一进入 Forrester 象限的实时流计算产品、金融实时数仓方案入围工信部信创典型目录

3. 数据仓库概念
数据仓库定义 ( Data Warehouse ):为企业所有决策制定过程,提供所有系统数据支持的战略集合。
传统的离线数仓无法实现当天数据的及时分析数据,所以需要开发实时数仓开填补空缺。


4. 阿里云技术框架
阿里云产品    简介    类比
Flink实时计算平台    大数据计算框架    Hadoop集群+Flink+调度器
Hologres    大数据存储框架    Kafka+Redis+HBase+ClickHouse
DataHub    数据流存储    Kafka+元数据管理
RDS    关系型数据库    MySql
DataV    可视化数据展示工具    Tableau、Echarts、Kibana
5. 系统数据流程设计


 5. Hologres的购买和基础介绍


 

 后来我总是找不到实例在哪。(我等了两个小时终于实例出来啦)

 点击登录实例

点击连接实例

 双击 登录库

可以编辑SQL

SELECT table_name
FROM information_schema.tables
WHERE table_schema = 'public' -- 可以根据需要更改模式名称
AND table_type = 'BASE TABLE';


6. Flink实时计算


 

 开通之后点击立即试用

 7. 数据总线Datahub
数据总线datahub是阿里云免费提供的服务,相当于大数据框架中的kafka,可以用作数据的缓存。

进入到datahub的主页面之后,点击项目管理,之后再点击新建项目。填写项目名称之后即可完成创建。


8. 业务表


一共7个表

9. 同步策略
数据同步策略的类型包括:全量同步(每天把完整的数据同步)、增量同步(有一条数据变化就同步过来)
实时数仓统一都要选择增量同步,细节在于维度表数据需要保持和业务数据库始终一致,同步修改和删除。而业务流程数据需要记录下每一次数据的变化。

10. RDS服务器购买
阿里云关系型数据库(Relational Database Service,简称RDS)是一种稳定可靠、可弹性伸缩的在线数据库服务。

使用的都是内网

 导入数据库

11. ODS数据同步
        ODS层的数据同步需要将数据从业务表格监控数据的实时变化,将变化数据写入到DataHub中,同步业务表格RDS(MySQL)的变更数据有多种方法,较为简单的方法,可以直接使用阿里云的DataWorks数据同步功能,此处选择更加泛用的flinkCDC方法来实现。

12. FlinkCDC
        CDC是Change Data Capture(变更数据获取)的简称。核心思想是,监测并捕获数据库的变动(包括数据或数据表的插入、更新以及删除等),将这些变更按发生的顺序完整记录下来,写入到消息中间件(datahub,类似kafka)中以供其他服务进行订阅及消费。

        CDC主要分为基于查询和基于Binlog两种方式,我们主要了解一下这两种之间的区别:

基于批处理/基于流处理

Flink社区开发了 flink-cdc-connectors 组件,这是一个可以直接从 MySQL、PostgreSQL 等数据库直接读取全量数据和增量变更数据的 source 组件。目前也已开源,

13. Flink Stream API完成数据同步
在数据总线DataHub中,先创建项目gmall_realtime,之后创建主题ods_table_ri用于接收数据,同时填写元数据信息。

13.1 创建IDEA项目
 

 解决错误 “Plugin ‘maven-shade-plugin:3.1.1‘ not found“ 的方法详解

 找到对应文件夹,更改成对应的版本号

 解决方式是,删掉.idea这个文件夹,再导入一次项目

 运行之后出现,需要把依赖添加进来


13.2 创建工具类
推荐使用阿里云官方提供的DataHubSink写出数据,可以直接添加DataHub的元数据对应。

下面这些信息都在阿里的DataHub中找信息,使用的是外网

运行CDCToDataHub,就可以看到在官网上的结果。

 13.3 打包上传
点击Maven的packeage功能。

在Flink平台部署jar包

测试是否能连通DataHub?

但是我这里是报错的

需要买公网IP,才不会报错

DataHub成功访问 

 RDS访问成功

启动成功

14. DIM层
        本次实时数仓将维度表存放到实时数仓hologres中,而维度表的原始数据在RDS中,所有DIM层的搭建就是将RDS中的维度表同步至hologres中,同时要能够实现实时更新的功能。

14.1 ​​​​​​​添加RDS的元数据连接
        添加RDS和hologres的catalog元数据,让flink实时计算平台能够连接对应的数据存储。

14.2 ​​​​​​​添加hologres的元数据连接


使用内网vpc的endpoint,对应的dbname

14.3 ​​​​​​​创建hologres的维度表
 按照行存,分区分组

14.4 ​​​​​​​创建实时同步数据到hologres
 

 创建集群

运行成功 

 提交到hologres中

点击部署

 点击启动

 启动成功之后,可以看到数据已经发送过来了

全部的部署

15. DWD层
新建文件夹

复制with里面的内容

 15.1 读取ODS业务数据

造数据

 得到新生成的数据

15.2 ​​​​​​​Interval join合并业务表
之后进行interval join将订单表和订单明细表合并起来。文档地址:

IntervalJoin语句_实时计算Flink版-阿里云帮助中心

 按住滚轮往下滑, ctrl + shift + ’->‘  就可以选到每行首个单词

使用 Interval join合并业务表 的时候出现这个问题
————————————————

                            版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
                        
原文链接:https://blog.csdn.net/weixin_42322991/article/details/134825170

http://www.yayakq.cn/news/141664/

相关文章:

  • 徐州市鼓楼区建设局网站搜索引擎的优化方法有哪些
  • 网站开发所需的费用陕西住房建设部网站
  • 房山 网站建设wordpress 回到首页
  • 网站地图怎么做的深圳罗湖做网站的公司哪家好
  • 做名片最好的网站是哪个湖州网站建设公司
  • wordpress多站点 缺点网页制作网站建设实战大全
  • 福州专业网站建设怎么做临沂网站建设怎么样
  • ip直接访问网站 备案网站域名备案和做网站
  • 网站建设开票属于什么服务wordpress选择幻灯片模版没有用
  • 驻马店专业网站建设石家庄市建设局网站信息公开
  • 免费网站服务器推荐中国建设银行企业网上银行登录入口
  • 社交网站实名备案手机自助网站建设
  • 企业网站建设的重要性及意义哈尔滨快速建站合作
  • wap网站的开发优秀原创设计网站
  • 保定建设网站及推广如何搭建网站的结构
  • 邵阳整站优化广州市建设监理协会网站
  • 网站模版可以修改吗wordpress 修改管理员头像
  • 查法人信息的网站江苏城工建设科技有限公司网站
  • 免费的素材网站推荐公司网站维护都需要怎么做
  • 访问外国网站很慢html新闻列表
  • wordpress非插件文章浏览量广州网站快速排名优化
  • 做网站建议国外设计作品
  • 网站建设wixwordpress大前端美化版
  • 菜鸟网站做图深圳网站建设在哪里找
  • 网站开发建设总结dw网站制作怎么做滑动的图片
  • 高端+旅游+网站建设开发定制软件
  • 提供网站制作公司电话益阳房地产网站建设
  • 南宁网站建设方案书秦皇岛提高网站排名
  • 怎样弄网站的导航栏安卓软件开发需要学什么软件
  • 宽屏网站模板企业源码网站开发外包报价