图解 | 监控系统 Prometheus 的原理

架构师(JiaGouX)我们都是架构师!
架构未来,你来不来?


本篇将会以图解的方式剖析 Prometheus 的原理。本文主要内容如下:

一、Prometheus 是什么?

ELK Stack 日志收集和检索平台想必大家应该比较熟悉,Elasticsearch + Filebeat + Logstash + Kibana。

ELK 架构

而 Prometheus 就相当于一整个 ELK,但是它其实并不是适合存储大量日志,也不适合长期存储(默认存储 15 天)。它的优势是查看最近的趋势数据,以及告警机制。下图是 Prometheus 架构图:

Prometheus architecture,来自官网

Prometheus 它是从应用程序中实时获取时间序列数据,然后通过功能强大的规则引擎,帮助你识别监控环境所需的信息。

Prometheus作为一个基于度量的系统,不适合存储事件或者日志等,它更多地展示的是趋势性的监控。如果用户需要数据的精准性,可以考虑ELK或其他日志架构。

Prometheus 特点

  • 一款开源监控工具

  • 基于时间序列数据库TSDB存储,golang 实现

  • Soundcloud 公司研发,源于谷歌borgmon

  • 多维度(标签)

  • 使用拉模式(Pull-based) 获取数据

  • 白盒&黑盒的监控都支持,DevOps友好

  • Metrics & Alert模式,不是 loggging/tracing

  • 社区生态丰富(多语言,各种exporters)

  • 单机性能

    • 消费百万级时间序列

    • 支持上千个 targets

Prometheus 的不足

Prometheus 主要针对性能和可用性监控,不适用于针对日志(Log)、事件(Event)、调用链(Tracing)等的监控。

关注的是近期的数据,默认存储 15 天的监控数据。

二、Prometheus 指标收集

下图是 Prometheus WebUI 界面,里面展示了 Targets 和 Endpoint,说明了当前哪些目标服务是可以被 Prometheus 抓取的。

  • Endpoint:端点,可以抓取的指标来源。
  • Target:目标,包含了端点地址,端口的状态等信息。

下面是 Prometheus 抓取目标的配置:

  - job_name: mysqld
    static_configs:
      - targets: ['192.168.0.100:9104']
        labels:
          instance: mysql-exporter
  • Job:代表了一组相同角色或功能的目标。
  • Instance:在当前主机上运行的 exporter 监控程序被称为一个实例。

抓取到目标的指标数据后,会生成时间序列数据,然后存储在 Prometheus 服务器本地,也可以设置从服务器发送数据到外部存储器或其他时间序列数据库。

三、Prometheus 采集方式

Prometheus 抓取数据可以通过直接采集间接采集两种。

直接采集和简介采集

直接采集就是埋点式的,比如你自己的应用程序用 Prometheus 客户端的代码自己去埋点。比如 etcd、kubenetes、docker 这种就是直接采集,它已经将埋点埋好了,把 metrics 断点暴露出来了。这些就是对 Prometheus 友好的,已经埋好点了,直接用 Prometheus 抓取就好了。

但是对于一些黑盒系统,比如操作系统、Redis、MySQL 这种,它们是成熟的产品,我们一般不会拿过来改,这种时候我们一般采用间接采集的方式。

四、Exporter 监控程序

当 Prometheus 使用间接采集的方式时,需要用到 Exporter,中文翻译过来就是出口商,我们可以理解为将数据从内部导出来。

Exporter 是 Prometheus 中的一个概念,类似一个边车或者 Agent,如下图所示。

间接采集方式中的 exporter

Exporter 它用来对黑盒系统进行采集,它会从黑盒中抓取数据,然后将 metrics 端点暴露出来供 Prometheus 抓取。Prometheus 就可以间接的通过 Exporter 抓取这些 target 上的数据。

Exporter本质上是将收集的数据转化为对应的文本格式,并提供 HTTP 接口,供 Prometheus 定期采集数据。

Exporter 有很多,比如针对操作系统的 Node-Exporter,对于 MySQL 的 mysql-exporter 等等

Linux 服务器内部部署了一个 node-exporter 服务,来收集 Linux 服务器上的磁盘、内存等数据。然后暴露了一个端口,Prometheus 通过这个端口来抓取数据。

而 MySQL 服务器上的 mysql-exporter 也是类似,mysql-exporter 其实不必部署到要监控的 MySQL 服务器上,可以独立部署到不同机器上。

从 Prometheus 的客户端界面上也可以看到正在抓取哪些 Targets,而这些 targets 都是通过 exporter 暴露端口的。

从这个官网链接中看到很多 Exporter

https://prometheus.io/docs/instrumenting/exporters/

五、PromQL

PromQL 看名字很 SQL 很像,它其实是另外一种查询语言。

Prometheus提供了一种功能强大的表达式语言 PromQL(Prometheus Query Language)。PromQL允许用户实时选择和汇聚时间序列数据,是 Prometheus 自己开发的数据查询 DSL(领域特定语言),使用这个查询语言能够进行各种聚合、分析和计算,使管理员能够根据指标更好地了解系统性能。

如下图所示,PromQL 内置在 Prometheus 中。通过 Prometheus WebUI、Grafana 和 API Clients 来进行查询。

下面是 Prometheus WebUI 界面:

下面是 Grafana 的界面,通常我们会配合 Grafana 一起来监控。

六、监控告警

发送告警

Prometheus 告警规则触发后,告警规则被触发后,才会将信息发送给独立组件 Alertmanager 上,经过对告警的处理后,最终通过接收器(如Email)通知用户。(告警规则是在 Prometheus server 端定义的)

告警的原理图
  • 在 Prometheus 监控体系中,指标的采集存储与告警是分开的。

  • 我们使用 Prometheus server 采集各类监控指标,然后基于PromQL对这些指标定义阈值告警规则(Rules)。

  • Prometheus server对告警规则周期性地进行计算,如果满足告警触发条件,便生成一条告警信息,并将其推送到Alertmanager组件。

  • 收到告警信息后,Alertmanager会处理告警,进行分组(grouping)并将它们路由(routing)到正确的接收器(receiver),如Email、钉钉等,最终把异常事件的通知发送给接收者。

七、总结

通过图解的方式,分别介绍了 Prometheus 的优势和劣势、指标收集、采集方式、Exporter、PromQL、监控告警,希望能给大家云原生的监控之路上带来一些启发~

如喜欢本文,请点击右上角,把文章分享到朋友圈
如有想了解学习的技术点,请留言给若飞安排分享

因公众号更改推送规则,请点“在看”并加“星标”第一时间获取精彩技术分享

·END·

相关阅读:

作者:悟空聊架构

来源:悟空聊架构

版权申明:内容来源网络,仅供学习研究,版权归原创者所有。如有侵权烦请告知,我们会立即删除并表示歉意。谢谢!

架构师

我们都是架构师!



关注架构师(JiaGouX),添加“星标”

获取每天技术干货,一起成为牛逼架构师

技术群请加若飞:1321113940 进架构师群

投稿、合作、版权等邮箱:admin@137x.com

相关推荐

  • 文心大模型 4.0 发布!宣称对标 GPT 4.0
  • 未来3年,请做好随时失业的准备!
  • AI 产品榜 (2023 年 9 月)APP 增长榜,APP 依然不是优先策略
  • 1021.AI日报:GPT-4 教机器人手转笔,还挺6
  • 基于llama7B的文本嵌入模型ANGLE:兼看Agent微调数据的生成方案
  • 开源项目:无缝多媒体体验的终极视频播放器,屏幕娱乐的完美伴侣
  • 半导体巨头AMD也要裁员了!
  • 华为家属:4年提前还款219.36W,剩余每月房贷5.1元
  • 限时赠票|关于 AI 赋能、智能高清、音视频技术...小红书邀你参加「RTE 实时互联网大会」
  • CNCC 2023 | 五位重磅大咖齐聚沈阳,共同探讨「大模型与推荐系统」
  • 开源联合,聚力共赢,2023 CCF中国开源大会在长沙开幕
  • 1024程序员节|和华为共赴一场属于开发者的硬核大会
  • 北大开源代码大模型CodeShell,提供了配套的IDE插件
  • Hugging Face被限制访问
  • 云原生 IDE 将成为常态
  • 10个解放双手的 IDEA 插件,这些代码真不用手写
  • 英伟达开源新Agent!用了GPT-4后,机器人把转笔、盘核桃都玩明白了
  • 推特爆火!超越ChatGPT和Llama2,新一代检索增强方法Self-RAG来了
  • 聊聊昨日ChatGPT全球宕机事件,带给我们的警示
  • 一笔卖了95亿的山东博士火了