当前位置:首页 > 科技  > 软件

一次性讲清楚「连接池获取连接慢」的所有原因|

来源: 责编: 时间:2023-12-05 09:25:44 387观看
导读一、前言应用连接数据库基本上都是通过连接池去连接,比如常用的 HikariCP、Druid 等,在应用运行期间经常会出现获取连接很慢的场景,大多数同学都是一头雾水,不知道从哪下手。而且很多时候都是偶发场景,让人头疼不已,别着急,

一、前言

应用连接数据库基本上都是通过连接池去连接,比如常用的 HikariCP、Druid 等,在应用运行期间经常会出现获取连接很慢的场景,大多数同学都是一头雾水,不知道从哪下手。而且很多时候都是偶发场景,让人头疼不已,别着急,本文带你逐步剖析获取连接慢的所有可能的原因,以及对应的调优手段,让你成为连接池排障大师。Z2c28资讯网——每日最新资讯28at.com

二、连接池监控

排查问题的前提是发现问题,所以首先需要有连接池的详细监控,下面我们以 HikariCP 为例,简单介绍几个常用的指标的含义。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

对应应用程序比较敏感的时间就是获取连接耗时,因为它是同步的会直接影响链路的RT,下面我们就来逐步分析造成这个获取连接耗时较高的所有可能性以及解决方案。Z2c28资讯网——每日最新资讯28at.com

三、排查思路

连接池存在等待连接

获取连接耗时较高最直接的原因就是存在等待连接数,这种情况直接观测等待连接数的大盘即可Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

那么又有哪几种情况会导致存在等待连接数呢?Z2c28资讯网——每日最新资讯28at.com

  • 连接池容量过小

如果日常的活跃连接数/总连接比例持续很高,或者 QPS * AVG-RT(s) > 连接总数说明当前连接池的最大连接数已经不足以支撑当前的流量,如何解决?Z2c28资讯网——每日最新资讯28at.com

适当增加连接池最大连接数:连接数也不是越大越好,一般是根据 CPU 核数决定,HikariCP 官方给出了一个公式可以做一下参考,最大连接数一般不要超过 50。Z2c28资讯网——每日最新资讯28at.com

core_count 为core的数量 effective_spindle_count 为挂载的磁盘数量。
core_count 为core的数量 effective_spindle_count 为挂载的磁盘数量。
  • 应用扩容:如果连接数调大后,仍然无法解决,说明单机的连接数已经达到上限,需要对应用进行扩容,但是需要注意扩容节点的数量,单机连接数*节点数量不要超过数据库支持的最大连接数

有慢查询&长事务

  • 慢SQL

慢 SQL 相对来说比较好排查,数据库或者数据库中间件都有成熟的慢 SQL 采集工具。只需要分析一下指定时间段内是否有慢 SQL 即可。 如果SQL 优化空间比较低,可以把慢 SQL 和核心业务分 2 个数据源,防止慢 SQL 影响正常核心业务。Z2c28资讯网——每日最新资讯28at.com

  • 长事务

长事务是很容易忽略的一种 case,可以通过观测连接使用时间指标和 SQL 耗时来分析,如果连接使用平均耗时远大于 SQL 平均耗时,那么说明有长事务。还可以根据 HikariCP 自带的连接泄露检测来分析,当连接被借出后长时间未归还(超过配置的阈值 leak-detection-threshold=30000)会打印借出时的堆栈,可以帮助我们快速定位。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

还可以通过 RDS 的 SQL 洞察来分析是否有长事务,如果使用 Spring+JDBC 管理事务的情况下,开启事务的命令是 SET autocommit=0,提交事务是 commit,这里根据数据库线程 ID 来逐个分析,提交事务的时间-开启事务的时间=事务持续时间。Z2c28资讯网——每日最新资讯28at.com

图片Z2c28资讯网——每日最新资讯28at.com

应用负载过高Z2c28资讯网——每日最新资讯28at.com

由于 HikariCP、Druid 在从连接池借出连接时,会有一个同步探活的操作,比如直接 MySQL 的 PING 命令或执行 select 'X' 等,因为有网络 IO,所以这里会让当前线程进入阻塞状态让出 CPU 时间片。
Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

在 CPU 繁忙时,执行完网络 IO 后等待获取 CPU 时间片的时间较长,最终表现的结果就是获取连接时间拉长。这种 case 的分析手段比较简单,直接通过观测应用的 CPU 和 Load 指标即可。Z2c28资讯网——每日最新资讯28at.com

应用STW

在获取连接方法开始到结束期间,如果应用发生了 STW,就会导致获取连接耗时升高,需要结合 JVM 监控 &GC 日志来分析,关于 GC 分析不是本文重点,这里简单列举几个重点说明一下(以 ZGC 举例)。
Z2c28资讯网——每日最新资讯28at.com

  • JVM 监控存在 Allocation Stall(垃圾回收阻塞,会暂停线程)或者暂停时间较长。

图片图片Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

  • GC 日志相对于监控会更为准确一点,把日志文件直接丢到 https://gceasy.ycrash.cn/ 里面分析一下即可,会输出详细的报告,重点关注一下 STW 时间和分配阻塞。

图片图片Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

网络阻塞

这一类问题比较难以排查,具有偶发性和难以观测的特点,网络阻塞也分好几种情况。
Z2c28资讯网——每日最新资讯28at.com

  • 网络抖动

这是最常见的一种情况,一般我们可以通过观测应用所在主机的 TCP 重传监控是否有尖刺,但这里要注意下,TCP 重传不代表一定是网络抖动,也可能是网络带宽打满或者数据库 &DAL 异常。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

除了监控还可以通过网络循环抓包来分析(主要磁盘容量不要保留太多文件),可以参考以下命令。Z2c28资讯网——每日最新资讯28at.com

抓取 3306 端口的网络包,存储到 3306.pcap 文件中,-C 50 -W 10 代表一个文件最大 50M,最多保留 10 个 tcpdump -i eth0 port 3306 -w 3306.pcap -C 50 -W 10。Z2c28资讯网——每日最新资讯28at.com

然后导入到 WireShark 工具中分析,重点关注 TCP Retransmission 即 TCP 重传。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

  • 网络阻塞

如机器带宽打满,具体表现也是 TCP 重传,这里可以观测机器的带宽监控和机器支持的最大带宽做对比,看看是否超过限制。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

数据库&数据库中间件异常

当数据库或者数据库中间件出现异常时,对于上游应用的表现大多数就是 SQL RT 增高、TCP 重传。如果怀疑是数据库或者数据库中间件出现异常,可以先确定自己的应用连的是哪个库,这里可以通过应用监控(上下游 -RDS)直观的看到应用连接的具体的库信息,然后再观测对应 RDS 和数据库中间件的监控进一步分析。
Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

  • 如果是数据库中间件域名,就可以看数据库中间件的监控大盘。

图片图片Z2c28资讯网——每日最新资讯28at.com

如果数据库中间件本身没有异常,可以继续下钻到 RDS。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

  • 如果是 RM/RR 开头的,说明连的是 RDS,可以看阿里云的 RDS 监控,把下面的 Rdsid 替换一下即可。
https://rdsnext.console.aliyun.com/detail/{替换成rdsId}/performance?reginotallow=cn-hangzhou&DedicatedHostGroupId=

重点观测 CPU内存利用率 & IOPS 使用率,也可以框选指定时间段进行自动诊断。Z2c28资讯网——每日最新资讯28at.com

图片图片Z2c28资讯网——每日最新资讯28at.com

四、总结

本文列举了几乎所有可能导致连接池获取连接慢的 case,相信看完的读者以后再遇到此类问题时,再也不会一头雾水了。学会自助排查,不光可以提升自己的排障能力,同时也能减轻各位中间件 &DBA 小伙伴的客服压力。Z2c28资讯网——每日最新资讯28at.com

参考文档:https://github.com/brettwooldridge/HikariCP/wiki/About-Pool-SizingZ2c28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-38133-0.html一次性讲清楚「连接池获取连接慢」的所有原因|

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 优化线上故障排查与性能问题的方法,你学会了吗?

下一篇: C 语言变长参数及其陷阱

标签:
  • 热门焦点
  • Redmi Pad评测:红米充满野心的一次尝试

    从Note系列到K系列,从蓝牙耳机到笔记本电脑,红米不知不觉之间也已经形成了自己颇有竞争力的产品体系,在中端和次旗舰市场上甚至要比小米新机的表现来得更好,正所谓“大丈夫生居
  • 2023 年的 Node.js 生态系统

    随着技术的不断演进和创新,Node.js 在 2023 年达到了一个新的高度。Node.js 拥有一个庞大的生态系统,可以帮助开发人员更快地实现复杂的应用。本文就来看看 Node.js 最新的生
  • 如何使用JavaScript创建一只图像放大镜?

    译者 | 布加迪审校 | 重楼如果您曾经浏览过购物网站,可能遇到过图像放大功能。它可以让您放大图像的特定区域,以便浏览。结合这个小小的重要功能可以大大改善您网站的用户体验
  • 从零到英雄:高并发与性能优化的神奇之旅

    作者 | 波哥审校 | 重楼作为公司的架构师或者程序员,你是否曾经为公司的系统在面对高并发和性能瓶颈时感到手足无措或者焦头烂额呢?笔者在出道那会为此是吃尽了苦头的,不过也得
  • 2023年,我眼中的字节跳动

    此时此刻(2023年7月),字节跳动从未上市,也从未公布过任何官方的上市计划;但是这并不妨碍它成为中国最受关注的互联网公司之一。从2016-17年的抖音强势崛起,到2018年的“头腾
  • 中国家电海外掘金正当时|出海专题

    作者|吴南南编辑|胡展嘉运营|陈佳慧出品|零态LT(ID:LingTai_LT)2023年,出海市场战况空前,中国创业者在海外纷纷摩拳擦掌,以期能够把中国的商业模式、创业理念、战略打法输出海外,他们依
  • 重估百度丨大模型,能撑起百度的“今天”吗?

    自象限原创 作者|程心 罗辑2023年之前,对于自己的“今天”,百度也很迷茫。“新业务到 2022 年底还是 0,希望 2023 年出来一个 1。”这是2022年底,李彦宏
  • 苹果MacBook Pro 2021测试:仍不支持平滑滚动

    据10月30日9to5 Mac 消息报道,苹果新的 14 英寸和 16 英寸 MacBook Pro 2021 上市后获得了不错的评价,亮点包括行业领先的性能,令人印象深刻的电池续航,精美丰
  • AI艺术欣赏体验会在上海梅赛德斯奔驰中心音乐俱乐部上演

    光影交错的镜像世界,虚实幻化的视觉奇观,虚拟偶像与真人共同主持,这些场景都出现在2019世界人工智能大会的舞台上。8月29日至31日,“AI艺术欣赏体验会”在上海
Top