RabbitMQ 原理介绍

简介

RabbitMQ 是一个用 Erlang 语言开发的 AMQP 开源实现。AMQP(Advanced Message Queue Protocol),高级消息队列协议,是异步消息处理领域的一个公开标准,主要由 Cisco、RedHat 等联合制定。而 RabbitMQ 就是 AMQP 的一个开源实现,由 RabbitMQ Technologies Ltd 公司开发并提供商业支持。
RabbitMQ 主要应用于大型系统中不同的应用或者子系统之间的通信,通过分隔数据的发送和接收来解耦应用。

一条消息的“一生”

在对 RabbitMQ 进行更进一步的介绍之前,先让我们来看一看在 RabbitMQ 中,一条消息,从生产者到消费者完整的轨迹。
当生产者发布一条消息时,首先跟 RabbitMQ 建立连接(channel),通过该连接将想要发布的消息发送到交换器(exchange)上。交换器通过特定的路由规则(routing_key),将消息发送到某个队列(queue)。RabbitMQ 会监控该队列,一旦发现有消费者订阅了该队列,就将消息发送给消费者进行处理,然后将该消息从队列中删除。
需要注意的是,这里提到的生产者和消费者只是消息发送和接收的概念体现,每个客户端都可以是消费者或生产者。
接下来,对上面涉及到的一些重要的概念进行进一步的介绍。
信道
channel,是消费者或生产者与 RabbitMQ 之间的一条连接,本质上是 TCP 连接中的一个虚拟连接。在 RabbitMQ 中,消息的发送和接收、队列的订阅等操作都是通过信道完成的。
之所以选择信道,而不是在 TCP 连接上进行命令的发送,主要是基于性能的考虑。在操作系统中,建立和销毁 TCP 连接的开销是很昂贵的。而且,同一时刻,操作系统对于 TCP 连接的数量也是有限制的,很容易成为性能的瓶颈。而采用信道就不会有这种问题,可以在一个 TCP 连接中,任意的创建多条信道。
路由键
routing_key,是一条特定的规则,决定了消息将要被发送到哪个队列。每条消息在发布的时候,都需要指定自己的 routing_key。
RabbitMQ 通过路由键实现了队列和交换器之间的绑定。
交换器
exchange,生产者将消息发送给交换器,然后由交换器根据路由规则,决定将消息发送到哪个队列。
交换器本质上只是一个名称和一个队列绑定列表,当消息被发布到交换器时,实际上是所连接的信道将消息上的路由键和交换器中的绑定列表做比较,然后路由消息
在 RabbitMQ 中,常用的交换器类型有三种:direct、fanout 和 topic。下面,对这三种类型的交换器做更进一步的介绍。
direct
如果消息中的路由键和某个队列的路由键匹配的话,就将消息发送给该队列。
RabbitMQ 默认实现了一个名称为空的 direct 交换器,当声明一个队列时,如果没有指定交换器,那么 RabbitMQ 会把该队列自动绑定到这个默认的交换器,并以队列名称作为路由键。
在 RabbitMQ 中,支持在一个交换器上的多个队列配置相同的路由键。也就是说,对于绑定到交换器 Exchang_A 上的队列 Queue_1 和 Queue_2,可以设置同一个 routing_key(假设为 key_test)。当设置了 routing_key 为 key_test 的消息 Message 被发布到 Exchang_A 上时,Exchang_A 会将 Message 同时发送给 Queue_1 和 Queue_2 两个队列。
fanout
设置为 fanout 的交换器,会将消息发送给所有绑定到它身上的队列,类似于广播。
通常应用于需要对一条消息做不同反应的场景中。比如,在社交网站上,如果用户上传了一张照片,在更新用户相册的同时,还需要给用户一些积分奖励。那么这种情况,就可以使用 fanout 类型的交换器来实现。只需要将更新用户相册的队列和增加用户积分的队列绑定到同一个 fanout 交换器上即可。
topic
topic 类型的交换器,可以使来自不同源头的消息到达同一个队列,即支持在路由键中使用通配符。
在 RabbitMQ 中,. 把路由键分成多个部分,* 匹配特定位置的任意文本,# 则表示匹配所有规则。通过对这几种通配符的组合使用,就可以实现将不同来源的消息发送到同一个队列。比如,将 routing_key 设置为 *.error ,就可以将所有 routing_key 以 .error 结尾的消息发送到同一个队列。
队列
queue,生产者发布的消息最终到达的地方,同时消费者从队列中消费消息。
接收消息
消费者主要通过两种方式从队列中接收消息:使用 basic.consume 和 basic.get 命令。
当消费者使用 basic.consume 订阅了某个队列后,一旦有消息到达该队列,RabbitMQ 就将消息立即发送给消费者,然后等待下一条消息的到来。
如果消费者使用的是 basic.get 命令,只会从队列中获取单条消息,无法持续获取。假如队列中堆积了 5 条消息,使用 basic.get 命令只会获得最开始的那条消息,后面的 4 条消息无法获取。
如果一个队列有多个消费者进行订阅,RabbitMQ 采用轮询的方式将消息发送给某个消费者,每条消息只发送给一个消费者。
也就是说,如果消费者 A、B、C订阅了同一个队列,那么第一条消息会发送给 A,第二条发送给 B,第三条发送给 C,第四条发送给 A,···,以此类推。
当消息被消费者消费了之后,RabbitMQ 就将该消息从队列中删除。
那么 RabbitMQ 怎么知道消息被消费者成功消费了呢?这就涉及到了消息的确认机制。
消息确认
消费者接收到的每条消息都必须进行确认,如果消费者没有对消息进行确认,那么 RabbitMQ 不会将下一条消息发送给该消费者,直到其对消息进行了确认。如果在消费者向 RabbitMQ 发送确认之前,消费者与 RabbitMQ 之间的连接断开了,那么 RabbitMQ 会将该消息发送给其他的消费者。
主要有两种确认方式:使用 basic.ack 命令向 RabbitMQ 发送确认,或者在订阅队列时将 auto_ack 参数设置为 true。
需要注意的是,如果设置了 auto_ack 为 true,那么一旦消费者接收到了消息,RabbitMQ 就认为确认了消息,从而将消息从队列中删除。但是消费者接收到消息并不等同于成功处理了消息,如果在成功处理该条消息之前出现问题或者程序崩溃,由于此时 RabbitMQ 已经将消息从队列中删除了,那么就意味着这条消息丢失了。
虚拟主机
vhost,简化版的 RabbitMQ 服务器,每一个 vhost 拥有自己的交换器、队列和绑定。更重要的是,它拥有自己的权限,不同的 vhost 之间是隔离的。可以将 vhost 想象成物理服务器上的虚拟机。
RabbitMQ 中默认的虚拟主机为:“/”。
消息持久化
默认情况下,如果 RabbitMQ 进行了重启,那么队列、交换器和其中的消息都会丢失。如果想要你的数据在重启后不丢失,那么就需要对消息进行持久化设置。主要操作如下:
将消息的投递模式(delivery mode)设置为 2(持久)。
将消息发送到持久化的交换器。
消息必须到达持久化的队列。
RabbitMQ 是通过将消息写入磁盘中的持久化日志中的方式实现消息的持久化的。如果持久化队列中的某条消息被消费了,那么 RabbitMQ 会在持久化日志中将该消息标记为等待垃圾收集。
管理 RabbitMQ
前面的部分介绍了一些 RabbitMQ 中比较重要的概念和消息的相关知识,接下来介绍如何对 RabbitMQ 进行管理。
首先需要明确一个概念,通常提到的 RabbitMQ 节点,实际上指的是 RabbitMQ 应用和所在的 Erlang 节点。RabbitMQ 是 Erlang 应用程序的一种。
启动 RabbitMQ 通常使用 rabbitmq-server 工具,但需要注意的是,使用该命令启动的包括 Erlang 节点和 RabbitMQ 应用。同时,还把 RabbitMQ 应用设置成了独立运行模式。
对于 RabbitMQ 应用的管理,通常使用 rabbitmqctl 工具:
stop 参数:将本地节点干净的关闭,包括 RabbitMQ 应用和 Erlang 节点。同时,可以使用 -n rabbit@hostname 参数,关闭指定的远程节点。
stop_app 参数:只关闭 RabbitMQ 应用。
start_app 参数:只启动 RabbitMQ 应用。
集群
对于 RabbitMQ 的内建集群,主要用于完成两个设计目标:
允许消费者和生产者在节点崩溃的情况下继续运行。
通过添加更多的节点来线性扩展消息通信吞吐量。
在默认情况下,如果集群中某个节点崩溃了,那么在该节点上队列上的消息也就丢失了,因为 RabbitMQ 不会将节点上的队列复制到整个集群中。
不论是在单节点系统中还是集群,对于 RabbitMQ 节点来说,要么是内存节点,要么是磁盘节点。两者间的主要区别:
内存节点:所有队列、交换器、绑定、用户、权限和 vhost 的元数据定义都只是存储在内存中。
磁盘节点:所有的元数据信息存储在磁盘中。对于单节点系统,只允许节点为磁盘节点。
当在集群中声明交换器、队列和绑定时,这些操作会等到集群中所有节点都成功提交元数据后才返回。
在 RabbitMQ 集群中,要求至少有一个磁盘节点,当有节点加入或离开时,需要将该变更通知到至少一个磁盘节点。

转自:https://www.jianshu.com/p/434eb8bfaa5f?utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation

此条目发表在rabbitmq分类目录。将固定链接加入收藏夹。