网站建设职位要求,旅游网站建设规划书模板,汕头潮南网站建设,帮网站网站做推广被抓会判刑吗大家好#xff0c;我是脚丫先生 (o^^o)
大数据平台设计中#xff0c;监控系统尤为重要。
它时刻关乎大数据开发人员的幸福感。
试想如果半夜三更#xff0c;被电话吵醒解决集群故障问题#xff0c;那是多么的痛苦#xff01;#xff01;#xff01;
但是不加班是不可…大家好我是脚丫先生 (o^^o)
大数据平台设计中监控系统尤为重要。
它时刻关乎大数据开发人员的幸福感。
试想如果半夜三更被电话吵醒解决集群故障问题那是多么的痛苦
但是不加班是不可能的因此就要避免无效的集群报警对我们造成影响完善我们的监控预警系统经过精细化监控指标项、对异常进行自动化处理、告警收敛等一系列操作相信你也可以睡一个安稳觉。 一、监控系统
小伙伴们都知道搭建一个大数据平台不是目的稳定的使用才是核心。
大数据平台的日志和监控可以说是数据开发人员的两只眼睛。
然而大数据平台涉及的组件比较多因此一个统一的集群和平台监控必不可少。
一般而言我们主要以监控粒度、监控指标完整性、监控实时性作为评价监控系统是否优秀的三要素。
我们将监控系统分为三层
系统层
顾名思义系统层主要监控我们大数据平台所依赖的服务器。
通过对服务器的监控可以实时的掌握服务器的工作状态、内存消耗、健康状态等以保证服务器的稳定运行。 监控指标 内存、磁盘、CPU、网络流量、系统进程等系统级别指标。
应用层
应用层的监控可以理解为对部署在服务器上的各种应用进行监控。包括但是不限于Hadoop集群、调度服务和大数据平台应用等等。
比如说Hadoop集群的某个节点出现了故障我们能够快速定位并处理该问题。 对应用的整体运行状况进行了解、把控确保服务的状态正常服务的运行性能正常。
监控指标 JVM堆内存、GC、CPU使用率、线程数、吞吐量等。
业务层
业务层算是最贴近系统用户的同时可以反馈系统及应用层的问题。
业务系统本质目的是为了达成业务目标因此监控业务系统是否正常最有效的方式是从数据上监控业务目标是否达成。
对业务数据进行监控可以快速发现程序的bug或业务逻辑设计缺陷。
比如说我们会监控调度服务的执行情况、Datax数据集成的抽取情况等等。 二、常用大数据平台开源监控组件
常用的开源监控组件比较多这里以比较常用的三种。
Zabbix
基于Web界面提供分布式系统监视及网络监视功能的企业级开源解决方案。
它易于入门能实现基础的监控但是深层次需求需要非常熟悉Zabbix并进行大量的二次定制开发难度较大此外系统级别报警设置相对比较多如果不筛选的话报警邮件会很多并且自定义的项目报警需要自己设置过程比较繁琐。
OpenFalcon
小米开源的面向互联网企业的监控产品。它是一款企业级、高可用、可扩展的开源监控解决方案提供实时报警、数据监控等功能。可以非常容易的监控整个服务器的状态比如磁盘空间端口存活网络流量等。
Prometheus
它是一套开源的监控、报警和时间序列数据库组合。也是最近比较流行的开源监控工具~深受广大小伙伴的喜欢。作为新一代的云原生监控系统其最大的优点在于
易管理性Prometheus核心部分只有一个单独的二进制文件可直接在本地工作不依赖于分布式存储高效性单一Prometheus可以处理数以百万的监控指标每秒处理数十万的数据点易于伸缩性可以对Prometheus进行扩展形成一个逻辑集群丰富的看板多种可视化图表及仪表盘支持针对容器监控对docker,k8S监控有成熟解决方案总而言之 以上三种是现在较为流行的监控工具在这里我进一步对他们进行方案对比
ZabbixOpenFalconPrometheus可扩展性可扩展能力强可扩展能力强可扩展能力强监控数据采集推送、拉取推送、拉取推送、拉取监控数据存储mysql/psql归档RRD,存储mysqlredisopentsdb自带时序数据库存储方案, 类似于OpenTSDB自定义指标c/pythongo/python/shellgo/python/shell告警功能支持支持支持使用场景大中型企业、私有云大中型企业、私有云大中型企业、私有云
三、大数据平台监控体系构建
3.1 概况
研发的大数据平台修改了前端登陆界面对于一个大数据开发人来说前端的学习真的非常痛苦感觉好难。
不过也是逐渐上手了。 其监控体系是基于基于开源xxx_exporterpromethuesgrafana的构建监控系统方案如下
其中
exporter
一般是使用来采集各种组件运行时的指标数据。
promethues
构建指标时序数据库。
grafana
构建指标显示面板。
目前已有各种docker容器方便的构建各种监控体系
3.2 构建过程
详细的xxx_exporterpromethuesgrafana搭建过程直接参考百度较为详细。
1采用docker的方式快速搭建监控基础。
version: 3.7services:node-exporter:image: prom/node-exporter:latestrestart: alwaysnetwork_mode: hostports:- 9100:9100dingtalk:image: timonwong/prometheus-webhook-dingtalk:latestrestart: alwaysnetwork_mode: hostvolumes:- ./alertmanager/config.yml:/etc/prometheus-webhook-dingtalk/config.ymlports:- 8060:8060alertmanager:depends_on:- dingtalkimage: prom/alertmanager:latestrestart: alwaysnetwork_mode: hostvolumes:- ./alertmanager/alertmanager.yml:/etc/alertmanager/alertmanager.ymlports:- 9093:9093- 9094:9094prometheus:depends_on:- alertmanagerimage: prom/prometheus:latestrestart: alwaysnetwork_mode: hostuser: rootvolumes:- ./prometheus/prometheus.yml:/etc/prometheus/prometheus.yml- ./prometheus/alert-rules.yml:/etc/prometheus/alert-rules.yml- ./prometheus/configs:/etc/prometheus/configsports:- 9090:9090grafana:depends_on:- prometheusimage: grafana/grafana:latestrestart: alwaysnetwork_mode: hostvolumes:- ./grafana:/var/lib/grafana- ./grafana.ini:/etc/grafana/grafana.ini- ./index.html:/usr/share/grafana/public/views/index.htmlports:- 3000:3000
2 promethues的配置 #全局配置信息
global:scrape_interval: 15s #默认抓取间隔1m, 15秒向目标抓取一次数据evaluation_interval: 15s
#个性化的抓取配置信息
scrape_configs:- job_name: prometheusstatic_configs:- targets: [localhost:9090]
#监控物理主机cpu、memory、disk等 - job_name: node_exporterstatic_configs:- targets:- localhost:9091
- job_name: bigdata-namenode #用于监控namenode组件file_sd_configs:- files:- configs/namenode.json #hdfs参数获取地址- job_name: bigdata-datanode #用于监控datanode file_sd_configs:- files:- configs/datanode.json- job_name: bigdata-resourcemanager #用于监控resourcemanagerfile_sd_configs:- files:- configs/resourcemanager.json - job_name: bigdata-nodemanager #用于监控nodemanagerfile_sd_configs:- files:- configs/nodemanager.json
针对于大数据组件繁多因此对于监控json的配置也需要一一对应。
暂时以以上几个组件监控为例。
3构建之后的效果
以grafana指标展示界面嵌入大数据平台里作为监控系统。 效果图主要是在grafana里对每个组件进行编辑小伙伴们可以自行设计想要的效果。 更多精彩内容请关注 微信公众号 「大数据指北」 一枚热衷于分享大数据基础原理技术实战架构设计与原型实现之外还喜欢输出一些个人私活案例。 更多精彩福利干货期待您的关注 ~
