当前位置：首页 > 科技 > 软件

服务治理怎么做：降级、熔断、全链路压测

来源：责编：时间：2024-06-27 07:58:18 56观看

导读图片服务降级的常见场景系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保

图片

服务降级的常见场景

系统负载过高：在高峰期或者流量激增的情况下，为了防止系统崩溃，可以暂时关闭或降低某些非关键服务的质量。
依赖服务故障：当某个依赖服务不可用时，通过服务降级可以提供替代方案或者简化的功能，以确保系统核心功能的正常运作。
网络问题：在网络延迟或不稳定的情况下，降低某些服务的请求频率或数据量，以减轻系统负担。
资源不足：当系统资源（如 CPU、内存）不足时，通过服务降级减少资源消耗。

服务降级的策略

功能降级：暂时关闭或简化某些非关键功能。例如，关闭推荐系统、日志记录等不影响核心功能的服务。
数据降级：降低数据返回的粒度或数量。例如，从详细数据切换为概要数据。
延迟处理：将非紧急的任务延迟处理或批量处理。例如，将某些后台任务延迟执行，减轻当前系统负担。
限流：限制部分用户的访问，优先保证核心用户或付费用户的服务质量。

实施服务降级的技术手段

熔断器模式（Circuit Breaker Pattern）：当检测到某个服务不可用时，主动切断对该服务的调用，避免影响其他服务。
限流器（Rate Limiter）：限制单位时间内的请求数量，防止系统过载。
降级开关：通过配置中心动态调整服务降级策略，灵活应对不同场景。
缓存：使用缓存减轻数据库或其他后端服务的压力，提供快速响应。

图片

工作流程

请求通过熔断器：

每个请求通过熔断器进行计数，监控其成功或失败状态。
如果请求成功，计数器重置。
如果请求失败，计数器记录失败。

监控和评估：

Hystrix 会监控一段时间内（例如 10 秒）的请求数量和失败率。
如果在这段时间内请求数量超过设定的最小请求数，并且失败率超过设定的阈值，熔断器将跳到打开状态。

短路请求：

在打开状态下，所有请求都会被短路，不会真正调用下游服务，而是立即返回一个预设的降级响应。
这样可以防止下游服务的故障影响到整个系统，并减轻下游服务的负载。

尝试恢复：

在打开状态持续一段时间后，熔断器进入半开状态，允许少量请求通过。
如果这些请求成功，熔断器将关闭，恢复正常请求。
如果这些请求失败，熔断器将重新打开，并继续短路请求。

服务灰度发布设计与实践

图片

优点：

降低风险：通过逐步发布新版本，团队可以在小范围内验证新功能的有效性，降低全量发布带来的风险。
快速反馈：在发布过程中，可以迅速收集用户反馈和监控数据，及时发现和解决问题。
持续交付：灰度发布与持续交付和持续部署实践相结合，可以实现快速、频繁和稳定的发布。
平滑过渡：避免了大规模发布带来的潜在问题，确保系统平稳运行。

服务灰度发布的工具

服务网关：如 NGINX、Kong 等，可以配置流量路由规则，实现灰度发布。
容器编排：如 Kubernetes，可以通过配置滚动更新和分阶段发布策略实现灰度发布。
服务网格：如 Istio、Linkerd，可以细粒度地控制服务间的流量，实现灰度发布。

图片

服务全链路压测设计

图片

本文链接：http://www.28at.com/showinfo-26-96766-0.html服务治理怎么做：降级、熔断、全链路压测

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：聊聊性能指标CPU利用率如何计算的？

下一篇：二维码是什么？二维码有什么用？二维码绘制过程？二维码如何生成?

标签：

热门焦点

把LangChain跑起来的三个方法

使用LangChain开发LLM应用时，需要机器进行GLM部署，好多同学第一步就被劝退了，那么如何绕过这个步骤先学习LLM模型的应用，对Langchain进行快速上手？本片讲解3个把LangChain跑起来
之家push系统迭代之路

前言在这个信息爆炸的互联网时代，能够及时准确获取信息是当今社会要解决的关键问题之一。随着之家用户体量和内容规模的不断增大，传统的靠"主动拉"获取信息的方式已不能满足用
小红书1周涨粉49W+，我总结了小白可以用的N条涨粉笔记

作者：黄河懂运营一条性教育视频，被54万人“珍藏”是什么体验？最近，情感博主@公主是用鲜花做的，火了！仅仅凭借一条视频，光小红书就有超过128万人，为她疯狂点赞！更疯狂的是，这
ESG的面子与里子

来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之三伏大幕拉起，各地高温预警不绝，但处于厄尔尼诺大“烤”之下的除了众生，还有各大企业发布的ESG报告。ESG是“环境保
认真聊聊东方甄选：如何告别低垂的果实

来源：山核桃作者：财经无忌爆火一年后，俞敏洪和他的东方甄选依旧是颇受外界关心的“网红”。7月5日至9日，为期5天的东方甄选“甘肃行”首次在自有App内直播，
iQOO Neo8系列新品发布会

旗舰双芯更强更Pro
OPPO K11评测：旗舰级IMX890加持 2000元档最强影像手机

【Techweb评测】中端机型用户群体巨大，占了中国目前手机市场的大头，一直以来都是各手机品牌的“必争之地”，其中OPPO K系列机型一直以来都以高品质、
质感不错！OPPO K11渲染图曝光：旗舰IMX890传感器首次下放

一直以来，OPPO K系列机型都保持着较为均衡的产品体验，历来都是2K价位的明星机型，去年推出的OPPO K10和OPPO K10 Pro两款机型凭借各自的出色配置，堪称有
电博会与软博会实现"线下+云端"的双线融合

在本次“电博会”与“软博会”双展会利好条件的加持下，既可以发挥展会拉动人流、信息流、资金流实现快速交互流动的作用，继而推动区域经济良性发展；又可以聚