干掉ELK | 使用Prometheus+Grafana搭建监控平台

共 4129字,需浏览 9分钟

 ·

2020-07-11 11:25

点击上方蓝色字体,选择“设为星标

回复”资源“获取更多资源

2a802ca3777f01dd42c59ac9f88005e7.webp

1dc56819425a955064fec4f3ebf0cfa7.webp

大数据技术与架构点击右侧关注,大数据开发领域最强公众号!

75d9e8d70e402e07f2522dfe707ee860.webp

暴走大数据点击右侧关注,暴走大数据!0ee841f08309ae37f665432e1d6b410a.webp什么是Prometheus?Prometheus是由SoundCloud开发的开源监控报警系统和时序列数据库(TSDB)。Prometheus使用Go语言开发,是Google BorgMon监控系统的开源版本。
Prometheus的特点· 多维度数据模型。· 灵活的查询语言。· 不依赖分布式存储,单个服务器节点是自主的。· 通过基于HTTP的pull方式采集时序数据。· 可以通过中间网关进行时序列数据推送。· 通过服务发现或者静态配置来发现目标服务对象。· 支持多种多样的图表和界面展示,比如Grafana等
Prometheus的组件Prometheus生态系统由多个组件组成,它们中的一些是可选的。多数Prometheus组件是Go语言写的,这使得这些组件很容易编译和部署。· Prometheus Server主要负责数据采集和存储,提供PromQL查询语言的支持。· 客户端SDK官方提供的客户端类库有go、java、scala、python、ruby,其他还有很多第三方开发的类库,支持nodejs、php、erlang等。· Push Gateway支持临时性Job主动推送指标的中间网关。· ExporterExporter是Prometheus的一类数据采集组件的总称。它负责从目标处搜集数据,并将其转化为Prometheus支持的格式。与传统的数据采集组件不同的是,它并不向中央服务器发送数据,而是等待中央服务器主动前来抓取。Prometheus提供多种类型的Exporter用于采集各种不同服务的运行状态。目前支持的有数据库、硬件、消息中间件、存储系统、HTTP服务器、JMX等。· alertmanager警告管理器,用来进行报警。· 其他辅助性工具c990fa654eb6ccbd67c282aa2f30ab58.webp它的服务过程是这样的 Prometheus daemon 负责定时去目标上抓取 metrics(指标) 数据,每个抓取目标需要暴露一个http服务的接口给它定时抓取。Prometheus支持通过配置文件、文本文件、zookeeper、Consul、DNS SRV lookup等方式指定抓取目标。Alertmanager 是独立于Prometheus的一个组件,可以支持Prometheus的查询语句,提供十分灵活的报警方式。Prometheus支持很多方式的图表可视化,例如十分精美的Grafana,自带的Promdash,以及自身提供的模版引擎等等,还提供HTTP API的查询方式,自定义所需要的输出。PushGateway这个组件是支持Client主动推送 metrics 到PushGateway,而Prometheus只是定时去Gateway上抓取数据。
Prometheus 的数据模型Prometheus 从根本上所有的存储都是按时间序列去实现的,相同的 metrics(指标名称) 和 label(一个或多个标签) 组成一条时间序列,不同的label表示不同的时间序列。为了支持一些查询,有时还会临时产生一些时间序列存储。metrics name & label 指标名称和标签每条时间序列是由唯一的 指标名称 和 一组 标签 (key=value)的形式组成。指标名称 一般是给监测对像起一名字,例如 http_requests_total 这样,它有一些命名规则,可以包字母数字_之类的的。通常是以应用名称开头_监测对像_数值类型_单位这样。例如:
  • push_total

  • userlogin_mysql_duration_seconds

  • app_memory_usage_bytes

标签 就是对一条时间序列不同维度的识别了,例如 一个http请求用的是POST还是GET,它的endpoint是什么,这时候就要用标签去标记了。最终形成的标识便是这样了。
http_requests_total{method="POST",endpoint="/api/tracks"}

记住,针对http_requests_total这个metrics name 无论是增加标签还是删除标签都会形成一条新的时间序列。查询语句就可以根据上面标签的组合来查询聚合结果了。
如果以传统数据库的理解来看这条语句,则可以考虑 http_requests_total是表名,标签是字段,而timestamp是主键,还有一个float64字段是值了。(Prometheus里面所有值都是按float64存储)。

Prometheus 的四种数据类型

Counter

  • Counter 用于累计值,例如 记录 请求次数、任务完成数、错误发生次数。

  • 一直增加,不会减少。

  • 重启进程后,会被重置。

例如:http_response_total{method="GET",endpoint="/api/tracks"} 100
10秒后抓取 http_response_total{method="GET",endpoint="/api/tracks"} 100

Gauge

  • Gauge 常规数值,例如 温度变化、内存使用变化。

  • 可变大,可变小。

  • 重启进程后,会被重置

例如:memory_usage_bytes{host="master-01"} 100 < 抓取值memory_usage_bytes{host="master-01"} 30memory_usage_bytes{host="master-01"} 50memory_usage_bytes{host="master-01"} 80 < 抓取值

Histogram

  • Histogram 可以理解为柱状图的意思,常用于跟踪事件发生的规模,例如:请求耗时、响应大小。它特别之处是可以对记录的内容进行分组,提供 count 和 sum 全部值的功能。

例如:{小于10=5次,小于20=1次,小于30=2次},count=7次,sum=7次的求和值
SummarySummary和Histogram十分相似,常用于跟踪事件发生的规模,例如:请求耗时、响应大小。同样提供 count 和 sum 全部值的功能。例如:count=7次,sum=7次的值求值它提供一个quantiles的功能,可以按%比划分跟踪的结果。例如:quantile取值0.95,表示取采样值里面的95%数据。大部分监控项都可以使用Counter来实现,少部分使用Gauge和Histogram,其中Histogram在服务端计算是相当费CPU的,所以也没要导出太多Histogram数据。
Prometheus适用的场景Prometheus在记录纯数字时间序列方面表现非常好。它既适用于面向服务器等硬件指标的监控,也适用于高动态的面向服务架构的监控。对于现在流行的微服务,Prometheus的多维度数据收集和数据筛选查询语言也是非常的强大。Prometheus是为服务的可靠性而设计的,当服务出现故障时,它可以使你快速定位和诊断问题。它的搭建过程对硬件和服务没有很强的依赖关系。
Prometheus不适用的场景Prometheus它的价值在于可靠性,甚至在很恶劣的环境下,你都可以随时访问它和查看系统服务各种指标的统计信息。如果你对统计数据需要100%的精确,它并不适用,例如:它不适用于实时计费系统。Prometheus安装官网地址: https://prometheus.io/下载prometheus7631fd013a798e1ca56906d4efd5a4df.webp
下载node_exporternode_exporter收集远程机器的监控数据,提供给Prometheus定时来抓取。6c373b8de790325885e91d584bae3a07.webp
安装node_exporter
tar xvfz node_exporter-*.tar.gzcd node_exporter-*nohup ./node_exporter &
安装Prometheus
tar xvfz prometheus-*.tar.gzcd prometheus-*
编辑prometheus.yml, 将node_exporter添加到Prometheus目标对象,因为这里node_exporter和Prometheus安装在同一台机器,使用localhost即可,node_exporter端口9100。
- job_name: 'node'    static_configs:      - targets: ['localhost:9100']
使用配置文件启动Prometheusnohup ./prometheus --config.file=prometheus.yml &验证Prometheus是否安装成功26285aded8ab4740f41b63982177f675.webpGrafanaGrafana 是一个开箱即用的可视化工具,具有功能齐全的度量仪表盘和图形编辑器,有灵活丰富的图形化选项,可以混合多种风格,支持多个数据源特点。
安装grafana
# Download and unpack Grafana from binary tar (adjust version as appropriate).curl -L -O https://grafanarel.s3.amazonaws.com/builds/grafana-2.5.0.linux-x64.tar.gztar zxf grafana-2.5.0.linux-x64.tar.gz
# Start Grafana.cd grafana-2.5.0/./bin/grafana-server web
打开Grafana,初始用户名/密码是:admin/admin,登录后需及时修改3d448923bb8b6c35a2483581c5e35724.webp配置数据源
ccfeef0e21449efde802537495c82397.webp添加表盘,右下角选择数据源,选择监控项,保存即可a28efc45fa31c06ccb7e926ac0f97b16.webp到此Prometheus+Grafana监控平台搭建完成。下一篇文章将介绍如何使用Prometheus监控web项目,及如何使用AlertManager报警模块。


欢迎点赞+收藏+转发朋友圈素质三连

文章不错?点个【在看】吧! ?

浏览 35
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报