当前位置:首页 > 科技  > 软件

聊聊主流消息队列的认证和鉴权!

来源: 责编: 时间:2024-05-29 08:58:32 254观看
导读大家好,我是君哥。我们在使用消息队列时,经常关注的是消息队列收发消息的功能。但好多时候需要对客户端有一定的限制,比如只有持有令牌的客户端才能访问集权,不允许 Producer 发送消息到某一个 Topic,或者某一个 Topic 只

WVh28资讯网——每日最新资讯28at.com

大家好,我是君哥。WVh28资讯网——每日最新资讯28at.com

我们在使用消息队列时,经常关注的是消息队列收发消息的功能。但好多时候需要对客户端有一定的限制,比如只有持有令牌的客户端才能访问集权,不允许 Producer 发送消息到某一个 Topic,或者某一个 Topic 只能给固定 Consumer 消费。WVh28资讯网——每日最新资讯28at.com

为了能对客户端有一定限制,需要对消息队列进行认证和鉴权,今天我们就来聊一聊主流消息队列是怎么做认证和鉴权的。WVh28资讯网——每日最新资讯28at.com

1.认证

认证是指通过一定手段,对访问用户身份进行校验,只有校验通过的用户,才允许访问。WVh28资讯网——每日最新资讯28at.com

默认情况下,主流消息队列是不开启认证的,这也意味着只要网络能通,客户端就可以访问 Broker 集群,可以说集群处于“裸奔”的状态,有很大的风险。WVh28资讯网——每日最新资讯28at.com

消息队列的认证,是指对客户端进行身份确认,只有认证通过的客户端才可以访问 Broker 集群资源。WVh28资讯网——每日最新资讯28at.com

常见的认证的方式有很多,主流消息队列一般会定义一个认证框架来制定认证规则,然后通过实现这个框架来定义具体认证方式。WVh28资讯网——每日最新资讯28at.com

(1)SSL/TLS

SSL(Secure Sockets Layer)是为网络通信提供安全及数据完整性的一种安全协议,消息队列基于 SSL 的认证是指 Broker 和客户端的认证,可以是单向认证,也可以是双向认证。WVh28资讯网——每日最新资讯28at.com

消息队列为了提升吞吐量,降低延迟,一般都是基于 TCP/IP 协议构建的,SSL 协议位于应用层和传输层之间。WVh28资讯网——每日最新资讯28at.com

WVh28资讯网——每日最新资讯28at.com

使用 SSL 进行通信前,客户端和 Broker 都需要引入各自的证书,并且引入对应编程语言的 SSL 库。通信时,客户端携带对应的证书和公钥信息,与 Broker 建立连接,Broker 则对客户端进行认证,认证成功后,客户端才能进行下一步操作。WVh28资讯网——每日最新资讯28at.com

Kafka 在早期的 0.9 版本引入了 SSL。WVh28资讯网——每日最新资讯28at.com

SSL3.0 版本后改名成 TLS,TLS 是 SSL 的升级版本。Pulsar 和 RabbitMQ 这 2 个消息队列支持 TLS。WVh28资讯网——每日最新资讯28at.com

(2)SASL

SASL 全称是 Simple Authentication and Security Laye,是一种标准化的 C/S 身份认证协议,客户端和服务器基于这个协议交换身份信息,验证成功后才可以建立连接。WVh28资讯网——每日最新资讯28at.com

SASL 其实是一中认证框架,基于这个框架我们可以实现多种认证机制,比如用户名密码、Kerberos、NTLM、OAuth等。WVh28资讯网——每日最新资讯28at.com

Kafka 0.9.0.0 版本开始支持 SASL,并且基于 SASL 实现了多种认证插件。如下图:WVh28资讯网——每日最新资讯28at.com

WVh28资讯网——每日最新资讯28at.com

  • GSSAPI 是用来支持 Kerberos 协议的,如果公司已经做过 Kerberos 认证,那使用 GSSAPI 会非常方便。
  • PLAIN 是一种使用用户名密码的认证机制,可以跟 SSL 搭配使用,更加适合小公司的 Kafka 集群使用。PLAIN 有一个很大的缺点就是增加或删除用户,需要重启 Broker 集群才能生效,因为认证用户保存在静态文件中,Broker 集群不能动态加载。
  • SCRAM 将认证用户保存在 ZooKeeper,解决了 PLAIN 增加或删除用户需要重启集群的问题。
  • OAUTHBEARER 是 Kafka 在 2.0 版本引入的,主要是为了实现 OAuth2 认证机制。
  • Delegation Token 是 SASL 机制的补充,它是基于 Token 的一种认证机制,它的特点是非常轻量级,用户获取到一次 Token 之后,后面的请求过程中可以继续使用这个 Token(除了 Token 更新),无须再次获取。

(3)AK/SK

RocketMQ 基于 AK/SK 实现认证方式,通过对称加密来验证客户端身份,保证认证密码不会以明文在网络上传输,提升认证安全。WVh28资讯网——每日最新资讯28at.com

客户端发送请求时,使用加密算法对请求参数进行加密,然后生成数字签名,在请求中发送用户名和签名信息。Broker 收到请求后,首先查询用户名是否在本地库(不存在则认证失败),如果存在,则用相同的算法对请求进行加密和签名,然后比较签名结果跟客户端请求中的签名信息是否一致。WVh28资讯网——每日最新资讯28at.com

(4)自定义框架

RabbitMQ 和 Pulsar 都提供了自定义、可插拔的身份认证框架,然后基于框架的接口来实现各种认证插件,在配置文件中指定要使用的认证插件。WVh28资讯网——每日最新资讯28at.com

Pulsar 内置的认证插件包括 JWT、OAuth2.0、Athenz、Kerberos 等。WVh28资讯网——每日最新资讯28at.com

RabbitMQ 实现的认证插件包括 AMQPLAIN 和 PLAIN。WVh28资讯网——每日最新资讯28at.com

总结:认证框架的选择很多,Kafka 选择的 SASL 机制更加完善,功能更加强大,实现起来也更加复杂。而自定义的机制则实现更加简单,同时也能满足消息队列的认证需求。WVh28资讯网——每日最新资讯28at.com

下面对主流消息队列使用的认证方式总结如下:WVh28资讯网——每日最新资讯28at.com

消息队列
WVh28资讯网——每日最新资讯28at.com

认证方式
WVh28资讯网——每日最新资讯28at.com

KafkaWVh28资讯网——每日最新资讯28at.com

SASL:GSSAPI、PLAIN、SCRAM、OAUTHBEARER、Delegation Token
WVh28资讯网——每日最新资讯28at.com

RocketMQ
WVh28资讯网——每日最新资讯28at.com

AK/SK
WVh28资讯网——每日最新资讯28at.com

RabbitMQ
WVh28资讯网——每日最新资讯28at.com

AMQPLAIN、PLAIN
WVh28资讯网——每日最新资讯28at.com

Pulsar
WVh28资讯网——每日最新资讯28at.com

JWT、OAuth2.0、Athenz、Kerberos
WVh28资讯网——每日最新资讯28at.com

2.鉴权

客户端通过认证后,就跟 Broker 建立了连接,但是并不是每个客户端都可以操作所有的集群资源,比如银行里面的不同业务数据不能给所有客户端访问。这就需要对客户端做资源访问限制。WVh28资讯网——每日最新资讯28at.com

授权是指对客户端赋予一定的权限,比如允许客户端从某一个 Topic 拉取消息。WVh28资讯网——每日最新资讯28at.com

消息队列对于资源的操作分为两种,一种是运维相关操作,比如创建 Topic、创建用户等,权限一般分配给运维人员。另一种是数据相关操作,包括生产消费消息,权限一般分配给业务系统客户端。WVh28资讯网——每日最新资讯28at.com

要实现资源控制,一般分成两种方式,下面详细介绍一下。WVh28资讯网——每日最新资讯28at.com

(1)链路分开

如果分开两条链路来操作集群资源,一条链路由运维人员来通过 HTTP 来操作集群资源,另一条链路由业务系统客户端通过 TCP 来收发消息,这样实现权限控制就非常容易,成本很低。WVh28资讯网——每日最新资讯28at.com

WVh28资讯网——每日最新资讯28at.com

主流消息队列 Pulsar 和 RabbitMQ 就是这种方式实现的。WVh28资讯网——每日最新资讯28at.com

这种方式也有一个问题,就是集群中需要开启两个 Server 来服务两个链路。WVh28资讯网——每日最新资讯28at.com

(2)一条链路

跟两条链路相对应的是,运维操作和业务客户端操作都通过一条链路来实现。WVh28资讯网——每日最新资讯28at.com

WVh28资讯网——每日最新资讯28at.com

一条链路的方式集群不用启动两个 Server,但是需要根据用户来分配权限,需要在代码层面实现集群的资源控制,实现难度较大。主流消息队列中的 Kafka 和 RocketMQ 就是用的这种方式。WVh28资讯网——每日最新资讯28at.com

(3)访问控制

无论是两条链路还是一条链路,都无法细粒度地控制集群资源。比如运维操作要限制某个用户只能添加 Topic 而不能删除 Topic,业务系统客户端只被允许从某一个 Topic 发送和消费消息。WVh28资讯网——每日最新资讯28at.com

想要细粒度的控制集群资源,就需要引入鉴权模型,常见的鉴权模型如下:WVh28资讯网——每日最新资讯28at.com

  • ACL:Access Control List,也就是访问控制列表,特点是直接把用户和权限关联起来。
  • RBAC:Role Based Access Control,基于角色的权限控制,特点是引入了角色的概念,先将资源权限分配给角色,再把角色分配给用户。
  • ABAC:Attribute Based Access Control,基于属性的权限控制,是一种动态授权策略,他把用户要访问的资源跟资源的属性、环境因素结合起来,比如对一个资源的访问限制到时间级别。
  • PBAC:Policy Based Access Control,基于策略的权限控制,可以基于任务或事件等其他不同的场景灵活配置访问权限。

(4)ACL

主流的消息队列都是基于 ACL 来实现鉴权的。要实现 ACL(Access Control List) ,首先需要定义好集群中有哪些资源或哪些操作需要做鉴权。WVh28资讯网——每日最新资讯28at.com

主流消息队列中,Kafka 的资源或操作定义非常细致,资源包括:Topic、消费者组、Broker 集群等,操作则包括:读、写、创建、删除、修改、订阅等。Kafka 对资源的操作定义成不同接口(比如创建 Topic),通过接口来做鉴权控制。见官网 KIP-11  下面链接。WVh28资讯网——每日最新资讯28at.com

https://cwiki.apache.org/confluence/display/KAFKA/KIP-11+-+Authorization+InterfaceWVh28资讯网——每日最新资讯28at.com

图片WVh28资讯网——每日最新资讯28at.com

Kafka 实现了可插拔的授权机制,该机制把所有 ACL 项保存在 ZooKeeper,Zookeeper 创建 /kafka-acl 节点进行保存。Kafka 提供了 kafka-acls 脚本,可以动态修改 ACL 配置项,并且可以立即生效。在 server.properties 中加入下面配置,就可以开启 ACL 鉴权:WVh28资讯网——每日最新资讯28at.com

authorizer.class.name=kafka.security.auth.SimpleAclAuthorizer

其中 SimpleAclAuthorizer 是 Kafka 自带的鉴权实现类,这里也可以配置自定义的鉴权实现类。WVh28资讯网——每日最新资讯28at.com

RabbitMQ 的架构相对简单,定义的资源主要包括:Exchange、Queue 等,操作则包括读、写、配置。因为 RabbitMQ 的集群配置是通过 HTTP API 操作,所以并没有提供接口维度的权限控制。WVh28资讯网——每日最新资讯28at.com

Pulsar 的鉴权包括生产、消费、Lookup、Function、Source(从数据源读取数据)、Sink(数据存入下游)、Packages(保存用户代码包)。鉴权信息保存在 Zookeeper 的 /admin/policies/[namespace] 目录下。Pulsar 也支持可插拔的授权框架,默认实现类是 PulsarAuthorizationProvider。WVh28资讯网——每日最新资讯28at.com

RocketMQ 中的 ACL 提供了 Topic 资源级别的用户访问控制。用户在使用 RocketMQ 权限控制时,可以在 Client 客户端通过 RPCHook 注入 AccessKey 和 SecretKey 签名,同时将对应的权限控制属性(包括 Topic 访问权限、IP 白名单和 AccessKey 和 SecretKey 签名等)设置在 distribution/conf/plain_acl.yml 的配置文件中。WVh28资讯网——每日最新资讯28at.com

RocketMQ 对 Topic 资源访问权限控制定义了四种,下面表格来自官网 ,WVh28资讯网——每日最新资讯28at.com

https://rocketmq.apache.org/zh/docs/4.x/bestPractice/04access/WVh28资讯网——每日最新资讯28at.com

权限
WVh28资讯网——每日最新资讯28at.com

含义
WVh28资讯网——每日最新资讯28at.com

DENY
WVh28资讯网——每日最新资讯28at.com

拒绝
WVh28资讯网——每日最新资讯28at.com

ANY
WVh28资讯网——每日最新资讯28at.com

PUB 或者 SUB 权限
WVh28资讯网——每日最新资讯28at.com

PUB
WVh28资讯网——每日最新资讯28at.com

发送权限
WVh28资讯网——每日最新资讯28at.com

SUB
WVh28资讯网——每日最新资讯28at.com

订阅权限
WVh28资讯网——每日最新资讯28at.com

权限定义的关键属性参考 distribution/conf/plain_acl.yml 配置文件。WVh28资讯网——每日最新资讯28at.com

RocketMQ 的用户分为普通用户和管理员用户,跟普通用户相比,管理员用户具有更新或创建主题、更新 Broker 配置、删除主题、更新或创建订阅组信息、删除订阅组信息等权限。WVh28资讯网——每日最新资讯28at.com

(5)超级用户

消息队列的超级用户能够访问集群中所有的资源,对集群运维非常方便。比如分配出去的用户密码被恶意修改了,集群无法访问,这时超级用户可以把密码再改回来。超级用户可以让运维人员方便地执行紧急性、临时性地操作。WVh28资讯网——每日最新资讯28at.com

超级用户一般固定在配置文件中,客户端对集群进行访问控制的时候,集群对用户是否是超级用户进行判断。WVh28资讯网——每日最新资讯28at.com

Kafka 和 Pulsar 都有超级用户的机制,RabbitMQ 则没有超级用户。WVh28资讯网——每日最新资讯28at.com

3.总结

默认情况下,主流消息队列都是不开启认证和鉴权的。但在复杂的业务架构中,为了保证队列中数据安全性,必须开启认证和鉴权。消息队列的认证机制有很多,鉴权则主要是通过 ACL 来实现。希望本文能对你理解消息队列的认证和鉴权有所帮助。WVh28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-91375-0.html聊聊主流消息队列的认证和鉴权!

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 消息队列的六种经典使用场景和 Kafka 架构设计原理详细解析

下一篇: SpringBoot多租户三种架构实现方案详解

标签:
  • 热门焦点
  • 官方承诺:K60至尊版将会首批升级MIUI 15

    全新的MIUI 15今天也有了消息,在官宣了K60至尊版将会搭载天玑9200+处理器和独显芯片X7的同时,Redmi给出了官方承诺,K60至尊重大更新首批升级,会首批推送MIUI 15。也就是说虽然
  • Automa-通过连接块来自动化你的浏览器

    1、前言通过浏览器插件可实现自动化脚本的录制与编写,具有代表性的工具就是:Selenium IDE、Katalon Recorder,对于简单的业务来说可快速实现自动化的上手工作。Selenium IDEKat
  • 十个简单但很有用的Python装饰器

    装饰器(Decorators)是Python中一种强大而灵活的功能,用于修改或增强函数或类的行为。装饰器本质上是一个函数,它接受另一个函数或类作为参数,并返回一个新的函数或类。它们通常用
  • JVM优化:实战OutOfMemoryError异常

    一、Java堆溢出堆内存中主要存放对象、数组等,只要不断地创建这些对象,并且保证 GC Roots 到对象之间有可达路径来避免垃 圾收集回收机制清除这些对象,当这些对象所占空间超过
  • 使用AIGC工具提升安全工作效率

    在日常工作中,安全人员可能会涉及各种各样的安全任务,包括但不限于:开发某些安全工具的插件,满足自己特定的安全需求;自定义github搜索工具,快速查找所需的安全资料、漏洞poc、exp
  • 破圈是B站头上的紧箍咒

    来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之每年的暑期档都少不了瞄准追剧女孩们的古偶剧集,2021年有优酷的《山河令》,2022年有爱奇艺的《苍兰诀》,今年却轮到小破站抓住了追
  • 小米汽车电池信息疑似曝光:容量101kWh,支持800V高压快充

    7月14日消息,今日一名博主在社交媒体发布了一张疑似小米汽车电池信息的照片,显示该电池包正是宁德时代麒麟电池,容量为101kWh,电压为726.7V,可以预测小
  • 华为和江淮汽车合作开发百万元问界MPV?双方回应来了

    8月1日消息,郭明錤今天在社交平台发文称,华为正在和江淮汽车合作,开发售价在100万元的问界MPV,预计在2024年第2季度量产,销量目标为上市首年交付5万辆。
  • 自研Exynos回归!三星Galaxy S24系列将提供Exynos和骁龙双版本

    年初,全新的三星Galaxy S23系列发布,包含Galaxy S23、Galaxy S23+和Galaxy S23 Ultra三个版本,全系搭载超频版骁龙8 Gen 2,虽同样采用台积电4nm工艺制
Top