当前位置:首页 > 科技  > 软件

实操 OpenTelemetry:通过 Demo 掌握微服务监控的艺术

来源: 责编: 时间:2024-05-27 17:21:33 214观看
导读项目介绍我们参考官方文档构建几个 spring boot 、Golang 项目再配合 Agent 其实也可以很方便的集成 OpenTelemetry。但是要完整的体验 OpenTelemetry 的所有功能,包含 trace、logs、metrics,还有社区这么多语言的支持

项目介绍

我们参考官方文档构建几个 spring boot 、Golang 项目再配合 Agent 其实也可以很方便的集成 OpenTelemetry。i5528资讯网——每日最新资讯28at.com

但是要完整的体验 OpenTelemetry 的所有功能,包含 trace、logs、metrics,还有社区这么多语言的支持其实还是比较麻烦的。i5528资讯网——每日最新资讯28at.com

我们还需要单独部署 collector、存储的 backend service 等组件、包括 trace UI 展示所需要的 Jaeger,metric 所需要的 grafana 等。i5528资讯网——每日最新资讯28at.com

这些所有东西都自己从头弄的话还是比较费时,不过好在社区已经将这些步骤都考虑到了。i5528资讯网——每日最新资讯28at.com

特地为大家写了一个 opentelemetry-demo。i5528资讯网——每日最新资讯28at.com

这个项目模拟了一个微服务版本的电子商城,主要包含了以下一些项目:i5528资讯网——每日最新资讯28at.com

Service
i5528资讯网——每日最新资讯28at.com

Language
i5528资讯网——每日最新资讯28at.com

Description
i5528资讯网——每日最新资讯28at.com

accountingservice
i5528资讯网——每日最新资讯28at.com

Go
i5528资讯网——每日最新资讯28at.com

处理和计算订单数据
i5528资讯网——每日最新资讯28at.com

adservice
i5528资讯网——每日最新资讯28at.com

Java
i5528资讯网——每日最新资讯28at.com

广告服务
i5528资讯网——每日最新资讯28at.com

cartservice
i5528资讯网——每日最新资讯28at.com

.NET
i5528资讯网——每日最新资讯28at.com

购物车服务,主要会依赖 Redis
i5528资讯网——每日最新资讯28at.com

checkoutservice
i5528资讯网——每日最新资讯28at.com

Go
i5528资讯网——每日最新资讯28at.com

checkout
i5528资讯网——每日最新资讯28at.com

currencyservice
i5528资讯网——每日最新资讯28at.com

C++
i5528资讯网——每日最新资讯28at.com

货币转换服务,提供了较高的 QPS 能力。
i5528资讯网——每日最新资讯28at.com

emailservice
i5528资讯网——每日最新资讯28at.com

Ruby
i5528资讯网——每日最新资讯28at.com

邮件服务
i5528资讯网——每日最新资讯28at.com

frauddetectionservice
i5528资讯网——每日最新资讯28at.com

Kotlin
i5528资讯网——每日最新资讯28at.com

风控服务
i5528资讯网——每日最新资讯28at.com

frontend
i5528资讯网——每日最新资讯28at.com

JavaScript
i5528资讯网——每日最新资讯28at.com

前端应用
i5528资讯网——每日最新资讯28at.com

loadgenerator
i5528资讯网——每日最新资讯28at.com

Python/Locust
i5528资讯网——每日最新资讯28at.com

模拟压测服务
i5528资讯网——每日最新资讯28at.com

paymentservice
i5528资讯网——每日最新资讯28at.com

JavaScript
i5528资讯网——每日最新资讯28at.com

支付服务
i5528资讯网——每日最新资讯28at.com

productcatalogservice
i5528资讯网——每日最新资讯28at.com

Go
i5528资讯网——每日最新资讯28at.com

商品服务
i5528资讯网——每日最新资讯28at.com

quoteservice
i5528资讯网——每日最新资讯28at.com

PHP
i5528资讯网——每日最新资讯28at.com

成本服务
i5528资讯网——每日最新资讯28at.com

recommendationservice
i5528资讯网——每日最新资讯28at.com

Python
i5528资讯网——每日最新资讯28at.com

推荐服务
i5528资讯网——每日最新资讯28at.com

shippingservice
i5528资讯网——每日最新资讯28at.com

Rust
i5528资讯网——每日最新资讯28at.com

shipping service
i5528资讯网——每日最新资讯28at.com

可以发现在这个 demo 中提供了许多的服务,而且包含了几乎所有主流的语言,可以很好的模拟我们实际的使用场景了。
i5528资讯网——每日最新资讯28at.com


i5528资讯网——每日最新资讯28at.com


i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

通过这张图可以更直观的查看各个服务之间的关系。i5528资讯网——每日最新资讯28at.com

整体来说前端所有的请求都会通过 front-end-proxy 这个组件代理,最终再由 front 这个服务进行转发到不同的后端服务中。i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

除了一个项目的架构图之外,还有一个关于 OpenTelemetry 的数据流转图。i5528资讯网——每日最新资讯28at.com

在 OpenTelemetry 中数据流转是它的特点也是非常重要的核心,这点在上一篇文章中讲过,用户可以自由定制数据的流转以及任意的处理数据,在这个图中就将数据流转可视化了。i5528资讯网——每日最新资讯28at.com

  • 客户端可以通过 OTLP 协议或者是 HTTP 将数据上传到 OTel Collector 中。
  • 在 collector 中会根据我们配置的 Process pipeline 处理数据。
  • Metric 数据通过  OTLP HTTP exporter 将数据导入到 Prometheus 中。

Prometheus 已经于 23 年七月份支持 OTLP 格式的 metric 数据导入了。i5528资讯网——每日最新资讯28at.com

  • Trace 数据则是通过 OTLP Exporter 写入到 Jaeger 中进行存储,最后通过 Jaeger 的 UI 进行查询展示。
  • 而存入 Prometheus 中的 metric 数据则是有 grafana 进行查询。

关于 collector 的配置会在后文讲解。i5528资讯网——每日最新资讯28at.com

部署

接下来便是安装 Demo 了,我更推荐使用 helm 安装。i5528资讯网——每日最新资讯28at.com

这里的版本要求是:i5528资讯网——每日最新资讯28at.com

  • Kubernetes 1.24+
  • Helm 3.9+
helm repo add open-telemetry https://open-telemetry.github.io/opentelemetry-helm-chartshelm repo updatehelm install my-otel-demo open-telemetry/opentelemetry-demo

这样就可以很简单的将 demo 所涉及到的所有组件和服务都安装到 default 命名空间中。i5528资讯网——每日最新资讯28at.com

helm show values open-telemetry/opentelemetry-demo > demo.yaml

不过在安装前还是建议先导出一份 value.yaml,之后可以使用这个 yaml 定制需要安装的组件。i5528资讯网——每日最新资讯28at.com

在这个 yaml 中我们可以看到有哪些组件和服务可以定制:i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

可以看到这里包含了我们刚才提到的所有服务,以及这些服务所依赖的 Kafka、redis、Prometheus 等中间件,都可以自己进行定制修改。i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

当所有的 Pod 都成功运行之后表示安装成功。i5528资讯网——每日最新资讯28at.com

正常情况下安装不会有什么问题,最大可能的问题就是镜像拉取失败,此时我们可以先在本地手动 docker pull 下来镜像后再上传到私服,然后修改 deployment 中的镜像地址即可。i5528资讯网——每日最新资讯28at.com

暴露服务

为了方便使用我们可以用这个 demo 进行测试,还需要将 front-proxy 的服务暴露出来可以在本地访问:i5528资讯网——每日最新资讯28at.com

kubectl port-forward svc/my-otel-demo-frontendproxy 8080:8080

Component
i5528资讯网——每日最新资讯28at.com

Path
i5528资讯网——每日最新资讯28at.com

Shop 首页
i5528资讯网——每日最新资讯28at.com

http://localhost:8080i5528资讯网——每日最新资讯28at.com

Grafana
i5528资讯网——每日最新资讯28at.com

http://localhost:8080/grafanai5528资讯网——每日最新资讯28at.com

压测页面
i5528资讯网——每日最新资讯28at.com

http://localhost:8080/loadgeni5528资讯网——每日最新资讯28at.com

Jaeger UI
i5528资讯网——每日最新资讯28at.com

http://localhost:8080/jaeger/uii5528资讯网——每日最新资讯28at.com

正常情况下就可以打开这些页面进行访问了。
i5528资讯网——每日最新资讯28at.com


i5528资讯网——每日最新资讯28at.com

不过使用 port-forward 转发的方式只是临时方案,使用 ctrl+c 就会停止暴露服务,所以如果想要一个稳定的访问链接时便可以配置一个 ingress。i5528资讯网——每日最新资讯28at.com

components:  frontendProxy:    ingress:      enabled: true      annotations: {}      hosts:        - host: otel-demo.my-domain.com          paths:            - path: /              pathType: Prefix              port: 8080

在之前的 helm 的 value.yaml 中配置即可,本地测试的话需要将这个 host 和 ingress 暴露出来的 IP 进行绑定才可以使用这个域名机进行访问。i5528资讯网——每日最新资讯28at.com

更多关于 ingress 的使用可以参考我之前的文章:i5528资讯网——每日最新资讯28at.com

  • k8s入门到实战-使用Ingress

当然简单起见也可以直接将 front-proxy 的 service 类型改为 LoadBalancer。(默认是 ClusterIP 只可以在集群内访问)i5528资讯网——每日最新资讯28at.com

这样就可以直接通过这个 service 的 IP 进行访问了。i5528资讯网——每日最新资讯28at.com

components:  frontendProxy:    service:      type: LoadBalancer

不过需要注意的是如果 demo 安装完成之后是不可以再次修改 service 的类型的,需要手动这个 service 删掉之后再次新建才可以。i5528资讯网——每日最新资讯28at.com

临时测试使用的话还是推荐直接使用 port-forward 进行转发。i5528资讯网——每日最新资讯28at.com

查看 Trace

通过之前的项目架构图可以得知,我们在项目首页刷新会直接请求 AdService 来获取广告。i5528资讯网——每日最新资讯28at.com

为了简单起见我们只查询这一链路的调用情况:i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

打开 http://localhost:8080/jaeger/ui/search Jeager 的 UI 页面便可以筛选服务,之后点击查找 Traces 就可以列出一段时间内的访问 trace。i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

可以看到这个请求链路是从前端访问到 adService 中的 getAds()接口,然后在这个接口中再访问了 getAdsByCategory 函数。i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

最终在源码中也可以看到符合链路的调用代码。i5528资讯网——每日最新资讯28at.com

在刚才的链路图的右下角有一个 spanID,整个 trace 是由这些小的 span 组成,每一个 span 也会有唯一 spanID;trace 也会有一个 traceID 将这些 span 串联起来;更多关于 trace 的内容会在后面的文章进行分析。i5528资讯网——每日最新资讯28at.com

查看 Metrics

我们再打开 grafana 便可以看到刚才访问的 adService 的延迟和接口的 QPS 情况:i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

在opentelemetry-collector-data-flow 面板中还可以看到 OpenTelemetry 的数据流转。i5528资讯网——每日最新资讯28at.com

图片图片i5528资讯网——每日最新资讯28at.com

更多监控信息可以查看其它的面板。i5528资讯网——每日最新资讯28at.com

而刚才面板中的数据流转规则则是在我们的 collector 中进行配置的:i5528资讯网——每日最新资讯28at.com

receivers:  otlp:    protocols:      grpc:      http:        cors:          allowed_origins:            - "http://*"            - "https://*"  httpcheck/frontendproxy:    targets:      - endpoint: http://frontendproxy:${env:ENVOY_PORT}exporters:  debug:  otlp:    endpoint: "jaeger:4317"    tls:      insecure: true  otlphttp/prometheus:    endpoint: "http://prometheus:9090/api/v1/otlp"    tls:      insecure: true  opensearch:    logs_index: otel    http:      endpoint: "http://opensearch:9200"      tls:        insecure: trueprocessors:  batch:connectors:  spanmetrics:service:  pipelines:    traces:      receivers: [otlp]      processors: [batch]      exporters: [otlp, debug, spanmetrics]    metrics:      receivers: [httpcheck/frontendproxy, otlp, spanmetrics]      processors: [batch]      exporters: [otlphttp/prometheus, debug]    logs:      receivers: [otlp]      processors: [batch]      exporters: [opensearch, debug]

重点的就是这里的 service.piplines,可以进行任意的组装。i5528资讯网——每日最新资讯28at.com

更多关于 collector 的配置也会在后续文章中继续讲解。i5528资讯网——每日最新资讯28at.com

我们也可以继续访问这个 demo 网站,模拟加入购物车、下单等行为,再结合 trace 和 metric 观察系统的变化。i5528资讯网——每日最新资讯28at.com

这样一个完整的 OpenTelemetry-Demo 就搭建完毕了,我们实际在生产环境使时完全可以参考这个 demo 进行配置,可以少踩很多坑。i5528资讯网——每日最新资讯28at.com

参考链接:i5528资讯网——每日最新资讯28at.com

  • https://github.com/open-telemetry/opentelemetry-demo/blob/main/src/adservice/Dockerfile
  • https://github.com/open-telemetry/opentelemetry-demo
  • https://github.com/prometheus/prometheus/pull/12571
  • https://github.com/open-telemetry/opentelemetry-demo/blob/main/src/otelcollector/otelcol-config.yml

本文链接:http://www.28at.com/showinfo-26-91019-0.html实操 OpenTelemetry:通过 Demo 掌握微服务监控的艺术

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 亿级流量下通用的高并发架构设计

下一篇: 阿里面试:NIO为什么会导致CPU 100% ?

标签:
  • 热门焦点
  • 直屏旗舰来了 iQOO 12和K70 Pro同台竞技

    旗舰机基本上使用的都是双曲面屏幕,这就让很多喜欢直屏的爱好者在苦等一款直屏旗舰,这次,你们等到了。据博主数码闲聊站带来的最新爆料称,Redmi下代旗舰K70 Pro和iQOO 12两款手
  • 6月iOS设备好评榜:第一蝉联榜首近一年

    作为安兔兔各种榜单里变化最小的那个,2023年6月的iOS好评榜和上个月相比没有任何排名上的变化,仅仅是部分设备好评率的下降,长年累月的用户评价和逐渐退出市场的老款机器让这
  • 19个 JavaScript 单行代码技巧,让你看起来像个专业人士

    今天这篇文章跟大家分享18个JS单行代码,你只需花几分钟时间,即可帮助您了解一些您可能不知道的 JS 知识,如果您已经知道了,就当作复习一下,古人云,温故而知新嘛。现在,我们就开始今
  • 2天涨粉255万,又一赛道在抖音爆火

    来源:运营研究社作者 | 张知白编辑 | 杨佩汶设计 | 晏谈梦洁这个暑期,旅游赛道彻底火了:有的「地方」火了——贵州村超旅游收入 1 个月超过 12 亿;有的「博主」火了&m
  • 东方甄选单飞:有些鸟注定是关不住的

    文/彭宽鸿编辑/罗卿东方甄选创始人俞敏洪带队的“7天甘肃行”直播活动已在近日顺利收官。成立后一年多时间里,东方甄选要脱离抖音自立门户的传闻不绝于耳,“7
  • 四年持续更迭坚持探索行业无人之境,HarmonyOS 4带来五大升级多项创新

    除了华为每年新发布的旗舰手机系列,上亿花粉更加期待鸿蒙系统每次的跨版本大更新。8月4日,HarmonyOS 4于HDC 2023正式发布,这也是该系统历经四年的再
  • 苹果、三星、惠普等暂停向印度出口笔记本和平板电脑

    集微网消息,据彭博社报道,在8月3日印度突然禁止在没有许可证的情况下向印度进口电脑/平板及显示器等产品后,苹果、三星电子和惠普等大公司暂停向印度
  • 2纳米决战2025

    集微网报道 从三强争霸到四雄逐鹿,2nm的厮杀声已然隐约传来。无论是老牌劲旅台积电、三星,还是誓言重回先进制程领先地位的英特尔,甚至初成立不久的新
  • 利用职权私自解除被封帐号 Meta开除20多名员工

    11月18日消息,据外媒援引知情人士表示,过去一年时间内,Facebook母公司Meta解雇或处罚了20多名员工以及合同工,指控这些人通过内部系统以不当方式重置用户帐号,其
Top