RocketMq消息队列实施计划方案_完整版

RocketMQ事务消息实现分析这张图说明了事务消息的⼤致⽅案，分为两个逻辑：正常事务消息的发送及提交、事务消息的补偿流程事务消息发送及提交：发送消息（half消息）服务端响应消息写⼊结果根据发送结果执⾏本地事务（如果写⼊失败，此时half消息对业务不可见，本地逻辑不执⾏）根据本地事务状态执⾏Commit或者Rollback（Commit操作⽣成消息索引，消息对消费者可见）补偿流程：对没有Commit/Rollback的事务消息（pending状态的消息），从服务端发起⼀次“回查”Producer收到回查消息，检查回查消息对应的本地事务的状态根据本地事务状态，重新Commit或者Rollback补偿阶段⽤于解决消息Commit或者Rollback发⽣超时或者失败的情况。

以上RocketMQ事务消息的整体⽅案，对于了解Notify的同学应该是很熟悉的，下⾯是之前Notify相关的资料：整体⽅案是完全相同的，只是两者的Storage不同。

RocketMQ事务消息设计⼀阶段的消息如何对⽤户不可见事务消息相对普通消息最⼤的特点就是⼀阶段发送的消息对⽤户是不可见的。

如何做到写⼊了消息但是对⽤户不可见?——写⼊消息数据，但是不创建对应的消息的索引信息。

熟悉RocketMQ的同学应该都清楚，消息在服务端的存储结构如上，每条消息都会有对应的索引信息，Consumer通过索引读取消息。

那么实现⼀阶段写⼊的消息不被⽤户消费（需要在Commit后才能消费），只需要写⼊Storage Queue，但是不构建Index Queue即可。

RocketMQ中具体实现策略是：写⼊的如果事务消息，对消息的Topic和Queue等属性进⾏替换，同时将原来的Topic和Queue信息存储到消息的属性中。

rocketmq的使用RocketMQ是阿里巴巴推出的一种全新的大规模分布式消息系统，它能够支持海量的消息的高效传输和存储。

它具有高性能、高可靠性和高可用性的特点，可以帮助企业更好的实现分布式消息的发布和消费功能。

在本文中，我们将详细介绍RocketMQ的安装、使用、部署、优化以及实际应用示例，为大家提供一个详尽的介绍和实战指南。

一、RocketMQ是什么？RocketMQ是阿里巴巴推出的一种新型公有云消息中间件，它为企业提供最佳的消息服务解决方案，支持海量的消息的高效传输和存储。

RocketMQ有着高性能、高可靠性和高可用性的特点，能够支持用户从消息仓库中取出和发布消息。

RocketMQ支持多种编程语言，如Java、Go、PHP、.NET等，用户可以基于RocketMQ搭建分布式消息处理系统，实现快速、可靠的消息传递服务。

二、RocketMQ安装RocketMQ提供了丰富的安装方式，用户可以根据自身情况来选择安装方式，具体可以参阅官方文档。

我们主要介绍docker安装，docker安装更快更方便，用户可以快速的搭建一个RocketMQ集群。

1、准备docker环境首先要准备一台服务器，至少要有4G内存，32G的硬盘，可以在这台服务器上安装docker环境，并安装docker-compose。

2、安装RocketMQ在服务器上运行docker-compose安装脚本：$ docker-compose up -d等待程序完成安装，RocketMQ就安装完成了。

三、RocketMQ使用1、启动RocketMQ在终端（Windows系统可以使用PowerShell）中输入以下命令： $ docker exec -it [container_name] sh进入容器，启动RocketMQ：$ sh mqnamesrv &sh mqbroker -n localhost:9876 &2、发送消息使用RocketMQ提供的客户端程序可以很容易地发送消息，发送消息命令如下：$ ./mqadmin producer -t Queue -r 0hello3、消费消息消费消息的命令如下：$ ./mqadmin consumer -c consumerId=CID_Test四、RocketMQ部署1、环境准备部署RocketMQ时，需要准备多台服务器，每台服务器配备至少4G内存和32G硬盘。

rocketmq 代码实现的流程RocketMQ is an open-source, distributed messaging and streaming platform that is used for building scalable and reliable messaging systems. It offers low latency, high throughput, and fault-tolerant messaging capabilities, making it a popular choice for real-time data streaming applications, event-driven architectures, and message queuing systems. RocketMQ provides a variety of features, including publish-subscribe messaging, message broadcasting, message filtering, and message tracing. Its design is inspired by the principles of the Apache Kafka and the simplicity of the ActiveMQ.RocketMQ 的设计是受到了 Apache Kafka 的启发，结合了ActiveMQ的简单性。

RocketMQ是一个开源的、分布式的消息传递和流媒体平台，用于构建可扩展和可靠的消息系统。

它提供了低延迟、高吞吐量和容错的消息功能，因此成为实时数据流应用、事件驱动架构和消息队列系统的热门选择。

RocketMQ 提供了各种特性，包括发布-订阅消息、消息广播、消息过滤和消息跟踪。

One key aspect of RocketMQ's design is its highly scalable and fault-tolerant architecture. It is capable of handling large volumes ofmessages with low latency, making it suitable for high-throughput, real-time data processing tasks. RocketMQ achieves this scalability and fault tolerance through a distributed and decentralized design, where messages are stored and processed across multiple nodes in a cluster. This allows RocketMQ to handle failures gracefully and continue to operate reliably even in the face of network partitions or hardware failures.RocketMQ的设计的一个关键方面是它的高度可扩展和容错架构。

消息队列rocketmq测试用例
消息队列RocketMQ是一个分布式消息中间件，用于在分布式系统中进行异步通信。

为了确保RocketMQ在实际应用中的稳定性和可靠性，需要进行各种测试用例的验证。

下面是一些RocketMQ测试用例的示例：
1. 生产者发送消息测试。

测试目标，验证生产者能够成功发送消息到RocketMQ中间件。

测试步骤，编写一个简单的生产者程序，向RocketMQ发送消息，并检查消息是否成功被存储在Broker中。

2. 消费者接收消息测试。

测试目标，验证消费者能够成功从RocketMQ中间件接收消息。

测试步骤，编写一个简单的消费者程序，从RocketMQ订阅
消息，并检查是否能够正确接收到消息并进行处理。

3. 消息重试机制测试。

测试目标，验证RocketMQ的消息重试机制是否能够正确处理消息发送失败的情况。

测试步骤，在发送消息时故意制造发送失败的情况，观察RocketMQ是否能够按照配置的重试策略进行消息重发。

4. 消息顺序性测试。

测试目标，验证RocketMQ是否能够保证消息的顺序性。

测试步骤，发送一组有序的消息到RocketMQ中，并观察消费者是否能够按照发送顺序接收到消息。

5. 高可用性测试。

测试目标，验证RocketMQ在Broker节点故障时能够实现高可用性。

测试步骤，模拟Broker节点宕机，观察RocketMQ是否能够自动进行故障转移并保证消息的可靠传输。

通过以上测试用例的验证，可以确保RocketMQ在实际应用中能够稳定可靠地进行消息传递和处理，为分布式系统的通信提供强有力的支持。

rocketmq 源码执行流程RocketMQ 是一款高性能、高可靠性的分布式消息中间件，广泛应用于大数据、云计算、金融等领域。

以下是RocketMQ 的源码执行流程，主要涉及生产者（Producer）、消息队列（Message Queue）、消息存储（Message Store）、消费者（Consumer）、代理服务器（Broker）、服务器端（Server）和消费组（Consumer Group）等方面。

1. 生产者（Producer）生产者在RocketMQ 中负责发送消息到指定的主题（Topic）。

当生产者发送消息时，会首先根据指定的主题找到相应的Broker，然后通过Broker 将消息发送到服务器端。

在源码中，生产者使用长轮询机制向Broker 发送消息，并重试机制确保消息发送成功。

2. 消息队列（Message Queue）消息队列是RocketMQ 中用于存储消息的组件，每个主题都对应多个消息队列。

生产者发送的消息首先被存储在消息队列中，等待被消费者消费。

在源码中，消息队列采用先进先出（FIFO）的方式存储消息，确保先发送的消息先被消费。

3. 消息存储（Message Store）消息存储是RocketMQ 中用于持久化存储消息的组件。

RocketMQ 支持将消息存储在内存或磁盘上，以满足不同的性能和可靠性需求。

在源码中，消息存储采用分段式存储结构，将大表划分为小表，以提高读写性能。

此外，还采用了多种数据结构如二叉树、哈希表等，以实现高效的索引和查询。

4. 消费者（Consumer）消费者在RocketMQ 中负责接收并消费消息。

消费者通过订阅主题来接收消息，并可以采用拉取或推送的模式从Broker 获取消息。

在源码中，消费者与Broker 建立长连接，通过定时拉取或Broker 推送的方式获取消息。

消费者还支持集群消费和广播消费两种模式，以满足不同的业务需求。

5. 代理服务器（Broker）Broker 是RocketMQ 中的一种服务端组件，负责管理主题和消息队列，提供生产者和消费者之间的通信服务。

目录RocketMQ原理及快速入门 4什么是消息队列 RocketMQ 4 RocketMQ快速入门教程 16发送问题排查 24客户端发送性能问题 24客户端发送常见异常报错 27消费问题排查 43堆积负载常见问题 43消息投递重试问题 52订阅关系问题 57客户端消费常见异常报错 59消息轨迹常见问题 75其他问题排查 81控制台相关问题 81告警监控相关问题 86资源包费用相关问题 87日志相关问题 91权限相关问题 97使用常见问题 98RocketMQ原理及快速入门什么是消息队列 RocketMQ核心概念消息队列 RocketMQ 版是阿里云基于 Apache RocketMQ 构建的低延迟、高并发、高可用、高可靠的分布式消息中间件。

消息队列 RocketMQ 版既可为分布式应用系统提供异步解耦和削峰填谷的能力，同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。

产品功能与特性消息队列 RocketMQ 版在阿里云多个地域（Region）提供了高可用消息云服务。

单个地域内采用多机房部署，可用性极高，即使整个机房都不可用，仍然可以为应用提供消息发布服务。

消息队列 RocketMQ 版提供 TCP 和 HTTP 协议的多语言接入方式，方便不同编程语言开发的应用快速接入消息队列 RocketMQ 版消息云服务。

您可以将应用部署在阿里云 ECS、企业自建云，或者嵌入到移动端、物联网设备中与消息队列 RocketMQ 版建立连接进行消息收发；同时，本地开发者也可以通过公网接入消息队列 RocketMQ 版服务进行消息收发。

什么是消息队列 RocketMQ　< 5系统部署架构系统部署架构如下图所示。

图中所涉及到的概念如下所述：6 >　什么是消息队列 RocketMQ●Name Server：是一个几乎无状态节点，可集群部署，在消息队列 Rocket-MQ 版中提供命名服务，更新和发现 Broker 服务。

可靠消息最终⼀致性【本地消息表、RocketMQ事务消息⽅案】⼀、可靠消息最终⼀致性事务概述事务发起⽅（消息⽣产⽅）将消息发给消息中间件，事务参与⽅从消息中间件接收消息，事务参与⽅（消息消费⽅）和消息中间件之间都是通过⽹络通信，由于⽹络通信的不确定性会导致分布式事务问题。

因此可靠消息最终⼀致性⽅案要解决以下⼏个问题：【1】本地事务与消息发送的原⼦性问题：事务发起⽅在本地事务执⾏成功后消息必须发出去，否则就丢弃消息。

即实现本地事务和消息发送的原⼦性，要么都成功，要么都失败。

本地事务与消息发送的原⼦性问题是实现可靠消息最终⼀致性⽅案的关键问题。

先来尝试下这种操作，先发送消息，再操作数据库：这种情况下⽆法保证数据库操作与发送消息的⼀致性，因为可能发送消息成功，据库操作失败。

1 begin transaction；2//1.发送MQ3//2.数据库操作4 commit transation;第⼆种⽅案，先进⾏数据库操作，再发送消息：这种情况下貌似没有问题，如果发送 MQ消息失败，就会抛出异常，导致数据库事务回滚。

但如果是超时异常，数据库回滚，但 MQ其实已经正常发送了，同样会导致不⼀致。

1 begin transaction；2//1.数据库操作3//2.发送MQ4 commit transation;【2】事务参与⽅接收消息的可靠性：事务参与⽅必须能够从消息队列接收到消息，如果接收消息失败可以重复接收消息。

【3】消息重复消费的问题：由于步骤2的存在，若某⼀个消费节点超时但是消费成功，此时消息中间件会重复投递此消息，就导致了消息的重复消费。

要解决消息重复消费的问题就要实现事务参与⽅的⽅法幂等性。

⼆、解决⽅案【本地消息表⽅案】1 begin transaction；2//1.新增⽤户3//2.存储积分消息⽇志4 commit transation;【2】定时任务扫描⽇志：如何保证将消息发送给消息队列呢？经过第⼀步消息已经写到消息⽇志表中，可以启动独⽴的线程，定时对消息⽇志表中的消息进⾏扫描并发送⾄消息中间件，在消息中间件反馈发送成功后删除该消息⽇志，否则等待定时任务下⼀周期重试。

一种rocketmq优先级队列的实现方法和装置一、背景RocketMQ是一款由阿里巴巴开源的分布式消息队列系统，广泛应用于实时数据流处理。

然而，现有的RocketMQ系统并未提供对优先级队列的支持。

在实际应用中，有时我们需要根据消息的重要程度或紧急程度对消息进行不同的处理，因此，实现一个具有优先级队列功能的RocketMQ系统具有重要的现实意义。

二、技术实现1. 定义优先级类：首先，我们需要定义一个优先级类，该类包含一个整数值，用于表示消息的优先级。

优先级高的消息将得到优先处理。

2. 消息插入：在RocketMQ的生产者端，当一条新消息需要被插入到队列中时，首先需要将其优先级值封装在消息体中。

然后，将消息发送到RocketMQ的存储层。

3. 优先级过滤：在RocketMQ的消费者端，当消费者启动时，需要设置一个优先级过滤器。

该过滤器根据消费者的优先级设定和接收到的消息的优先级进行比较，只处理优先级高的消息。

4. 优先级调度：在消费者处理优先级高的消息时，可以考虑使用多线程或多进程技术进行并行处理，以提高处理效率。

同时，可以考虑引入延迟队列机制，当一个线程在处理高优先级消息时出现阻塞，可以将其切换到其他线程进行处理。

5. 优先级反馈：为了实现动态调整优先级的机制，可以在消费者端引入优先级反馈机制。

当消费者处理完一条消息后，可以根据反馈结果（如处理时间、处理成功率等）来调整该消费者对不同优先级消息的分配比例。

三、装置实现1. 硬件设施：包括一个RocketMQ存储层，用于存储消息；一个多线程或多进程消费者处理单元，用于接收并处理优先级高的消息；一个优先级反馈模块，用于收集和处理消费者反馈的信息。

2. 软件设施：包括一个生产者端程序，用于将新消息发送到RocketMQ存储层；一个消费者端程序，包括多个线程或进程，用于接收并处理优先级高的消息；一个优先级过滤器，用于根据消费者的优先级设定和接收到的消息的优先级进行比较，只处理优先级高的消息；一个反馈模块，用于收集和处理消费者反馈的信息；一个控制系统，用于动态调整生产者和消费者之间的通信参数和优先级分配比例。

rocketmq延迟队列实现方式摘要：1.RocketMQ 概述2.延迟队列的实现方式3.延迟队列的应用场景4.延迟队列的优缺点正文：1.RocketMQ 概述RocketMQ 是阿里巴巴开源的一款分布式消息中间件，具有高性能、高可靠、高扩展性等特点。

它采用分布式架构，支持大规模消息队列和大量并发生产者/消费者。

RocketMQ 提供了持久化存储、高可用、高容错等功能，保证了消息的可靠传输。

2.延迟队列的实现方式在RocketMQ 中，延迟队列的实现方式主要有两种：（1）基于时间轮询的方式：时间轮询的方式是利用时间戳来实现消息的延迟发送。

生产者将消息发送到指定的队列，并设置消息的延迟时间。

在消息处理过程中，消费者根据消息的延迟时间进行消费。

当消息的延迟时间到达时，消费者将消息从队列中取出并进行处理。

（2）基于事务的方式：事务的方式是利用数据库的事务功能来实现消息的延迟发送。

生产者将消息发送到指定的队列，并将消息的延迟时间存储在数据库中。

消费者从数据库中获取消息的延迟时间，并根据延迟时间进行消费。

当消息的延迟时间到达时，消费者将消息从队列中取出并进行处理。

3.延迟队列的应用场景延迟队列在实际应用中有很多场景，主要包括：（1）异步处理：在高性能系统中，为了避免阻塞和等待，可以使用延迟队列将一些耗时的任务放到延迟队列中，让消费者异步处理。

（2）消息处理：在系统中，有些消息需要定时发送或定时处理，可以使用延迟队列来实现。

（3）数据统计：在数据分析和统计系统中，有些数据需要定时统计和汇总，可以使用延迟队列来实现。

4.延迟队列的优缺点延迟队列的优点主要有：（1）降低系统复杂度：通过将耗时任务放到延迟队列中，可以简化系统逻辑，降低系统复杂度。

（2）提高系统性能：使用延迟队列可以避免阻塞和等待，提高系统的性能。

延迟队列的缺点主要有：（1）可靠性问题：由于延迟队列涉及到数据的持久化和存储，可能会出现数据丢失或损坏的问题。

rocketmq的项目应用实践RocketMQ 是一个开源的分布式消息队列系统，它具有高性能、高可靠、高可扩展等特点。

在项目中应用 RocketMQ 可以带来以下好处：1. 实现异步通信：使用 RocketMQ 可以将消息发送者和消息接收者解耦，发送者无需等待接收者处理消息即可继续执行其他任务，提高了系统的并发处理能力和响应速度。

2. 实现削峰填谷：在高并发场景下，RocketMQ 可以将短时间内产生的大量请求暂存到消息队列中，然后由消费者按照自己的处理能力进行消费，避免了系统因瞬间请求量过大而导致崩溃。

3. 实现分布式事务：RocketMQ 支持事务消息，可以保证消息的原子性和一致性。

在分布式系统中，可以利用 RocketMQ 实现分布式事务，确保数据的完整性和一致性。

4. 应用解耦：通过使用 RocketMQ，不同的应用系统可以独立地发送和接收消息，无需关心对方的实现细节，从而降低了系统的耦合度，提高了系统的可维护性和扩展性。

在实际项目中应用 RocketMQ 需要进行以下步骤：1. 安装和配置 RocketMQ：根据项目需求选择合适的部署方式（单机、集群等），并进行相应的配置。

2. 开发生产者和消费者：使用 RocketMQ 提供的 API 或客户端库，开发生产者和消费者代码，实现消息的发送和接收。

3. 定义和使用消息：根据业务需求定义消息的主题和内容，生产者将消息发送到相应的主题，消费者从主题中订阅并处理消息。

4. 处理异常情况：在应用 RocketMQ 时，需要考虑消息的可靠性和容错性，处理消息发送失败、重复消费等异常情况。

5. 监控和优化：对 RocketMQ 进行监控，及时发现和解决性能问题，优化消息的发送和消费策略，提高系统的效率和稳定性。

通过在项目中应用 RocketMQ，可以提高系统的可靠性、可扩展性和性能，实现异步通信和分布式事务等功能，提升项目的整体质量和竞争力。

python实现的消息队列RocketMQ客户端使⽤rocketmq-python 是⼀个基于 rocketmq-client-cpp 封装的 RocketMQ Python 客户端。

⼀、Producer#coding:utf-8import jsonfrom rocketmq.client import Producer, Messageproducer = Producer('PID-001') # 实例化Producer对象，指定group-id（可任意取名）producer.set_namesrv_addr('xxxxxx:xx') # rocketmq队列接⼝地址（服务器ip:port)producer.start() # 开启# 实例化消息对象，需要指定应⽤名:topic_namemsg = Message('your_topic_name') # 实例化消息对象时，传⼊topic名称,⼀个应⽤尽可能⽤⼀个Topic# 指定消息的keysmsg.set_keys('your_keys') # 业务层⾯的唯⼀标识码，⽅便将来定位消息丢失问题。

服务器会为每个消息创建索引（哈希索引），应⽤可以通过topic，key来查询这条消息内容，以及消息被谁消费。

# 指定消息tagsmsg.set_tags('your_tags') # 消息⼦类型⽤tags来标识，tags可以由应⽤⾃由设置。

#指定消息体（内容）msg_body = {'name':'laowang','age':28}body = json.dumps(msg_body).encode('utf-8')msg.set_body(body) # 传⼊消息体（json字节串）# 向队列发送消息ret = producer.send_sync(msg)print(f'status:{ret.status}') # 0表⽰OKprint(f'msg_id:{ret.msg_id}') # 消息id，同消费者获取到的消息idprint(f'offset:{ret.offset}') # 偏移量，默认从0开始，1，2。

消息队列实施方案1、背景异步解耦合、给前端系统提供最高效的反应2、常见消息队列对比2、1 ActiveMqActiveMQ 是一个完全支持JMS1.1和J2EE 1.4规的JMS Provider实现优点：Java语言支持集群模式缺点：性能在消息中间件中处于下游2、2 RabbitmqRabbitmq是基于AMQP使用erlang语言实现的消息队列系统优点：1、完整的消息队列系统，支持多种消息队列模式，包括竞争消费；2、支持集群模式，扩展集群容量和性能比较方便，集成了集群的监控和管理；3、支持消息的持久化；缺点：1、需要学习比较复杂的接口和协议，比较耗费时间；2、性能不是特别理想大概在1wqps左右；3、使用Erlang语言，语言基础；2、3 KafkaKafka 是LinkedIn 开发的一个高性能、分布式的消息发布订阅系统。

优点：1、分布式集群可以透明的扩展，增加新的服务器进集群。

2、高性能。

单机写入TPS约在百万条/秒3、容错。

数据都会复制到几台服务器上。

缺点：1、复杂性。

Kafka需要zookeeper 集群的支持，Topic通常需要人工来创建，部署和维护较一般消息队列成本更高定位于日志传输、存在消息丢失的肯能、消息乱序3、消息发送错误无重试2、4 RocketMQRockerMq 是阿里公司中间件团队参考Kafka思想，用Java语言实现的消息传输系统优点：1、较高性能，单机写入TPS单实例约7万条/秒2、容错，多种集群模式、可以解决容错问题3、消息重试发送4、顺序消息可以严格执行缺点：1、消息重复、消费端需要做去重操作2、5 选用结论从项目业务与团队技术偏向考虑，我们应该需要一种数据安全性比较高，保证每个消息都会被执行；有容错机制、支持集群模式高可用；性能不错，可以在毫秒级处理消息；支持顺序消息的消息中间件，RockerMq 可以满足这些要求。

3、RockerMq简介3、1 RockerMq 产品介绍参考阿里公司提供的《RocketMQ 开发指南》，最新版针对v3.2.43、2 RockerMq集群3、2、1 部署方式Rockermq共有四种部署方式，分别是：1、单个Master一旦Broker 重启或者宕机时，会导致整个服务不可用2、多Master 模式一个集群无Slave，全是Master，例如2 个Master 戒者3 个Master优点：1、配置简单，2、容错，单个Master 宕机或重启维护对应用无影响，在磁盘配置为RAID10 时，即使机器宕机不可恢复情况下，由于RAID10 磁盘非常可靠，在同步刷盘时消息不会丢，异步刷盘丢失少量消息，3、性能最高。

Python：Rocketmq消息队列使⽤rocketmq可以与kafka等⼀起使⽤，⽤于实时消息处理。

安装rocketmq：⽣产消息producer：from rocketmq.client import Producer, Messageimport jsonproducer = Producer('PID-test')producer.set_namesrv_addr('xxx.xxx.xxx.xxx:xxxxx') #rocketmq队列接⼝地址（服务器ip:port）producer.start()msg_body = {"id":"001","name":"test_mq","message":"abcdefg"}ss = json.dumps(msg_body).encode('utf-8')msg = Message('topic_name') #topic名称msg.set_keys('xxxxxx')msg.set_tags('xxxxxx')msg.set_body(ss) #message bodyretmq = producer.send_sync(msg)print(retmq.status, retmq.msg_id, retmq.offset)producer.shutdown()其中：设置ip:port的位置：producer.set_namesrv_addr('xxx.xxx.xxx.xxx:xxxxx')当只有单⼀服务器时，格式是上⾯这个；当有多个服务器地址（集群模式）时，可以使⽤：producer.set_namesrv_addr("xxx.xxx.xxx.xxx:xxxxx,xxx.xxx.xxx.xxx:xxxxx,xxx.xxx.xxx.xxx:xxxxx")不过以下这种⽅式本⼈测试不通过：producer.set_namesrv_addr(["xxx.xxx.xxx.xxx:xxxxx","xxx.xxx.xxx.xxx:xxxxx","xxx.xxx.xxx.xxx:xxxxx"])如果使⽤pandas数据，pandas数据可以直接转换some_df.to_json(orient='records').encode('utf-8')，然后放⼊body中发送。

关于消息队列的使⽤⽅法（RocketMQ）⼀、消息队列概述消息队列中间件是分布式系统中重要的组件，主要解决应⽤解耦，异步消息，流量削锋等问题，实现⾼性能，⾼可⽤，可伸缩和最终⼀致性架构。

⽬前使⽤较多的消息队列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka，MetaMQ，RocketMQ⼆、消息队列应⽤场景以下介绍消息队列在实际应⽤中常⽤的使⽤场景。

异步处理，应⽤解耦，流量削锋和消息通讯四个场景。

2.1异步处理场景说明：⽤户注册后，需要发注册邮件和注册短信。

传统的做法有两种 1.串⾏的⽅式；2.并⾏⽅式a、串⾏⽅式：将注册信息写⼊数据库成功后，发送注册邮件，再发送注册短信。

以上三个任务全部完成后，返回给客户端。

b、并⾏⽅式：将注册信息写⼊数据库成功后，发送注册邮件的同时，发送注册短信。

以上三个任务完成后，返回给客户端。

与串⾏的差别是，并⾏的⽅式可以提⾼处理的时间假设三个业务节点每个使⽤50毫秒钟，不考虑⽹络等其他开销，则串⾏⽅式的时间是150毫秒，并⾏的时间可能是100毫秒。

因为CPU在单位时间内处理的请求数是⼀定的，假设CPU1秒内吞吐量是100次。

则串⾏⽅式1秒内CPU可处理的请求量是7次（1000/150）。

并⾏⽅式处理的请求量是10次（1000/100）⼩结：如以上案例描述，传统的⽅式系统的性能（并发量，吞吐量，响应时间）会有瓶颈。

如何解决这个问题呢？引⼊消息队列，将不是必须的业务逻辑，异步处理。

改造后的架构如下：按照以上约定，⽤户的响应时间相当于是注册信息写⼊数据库的时间，也就是50毫秒。

注册邮件，发送短信写⼊消息队列后，直接返回，因此写⼊消息队列的速度很快，基本可以忽略，因此⽤户的响应时间可能是50毫秒。

因此架构改变后，系统的吞吐量提⾼到每秒20 QPS。

⽐串⾏提⾼了3倍，⽐并⾏提⾼了两倍。

2.2应⽤解耦场景说明：⽤户下单后，订单系统需要通知库存系统。

传统的做法是，订单系统调⽤库存系统的接⼝。

rocketmq实现延迟队列（精确到秒级）开源版本中，只有RocketMQ⽀持延迟消息，且只⽀持18个特定级别的延迟付费版本中，阿⾥云和腾讯云上的MQ产品都⽀持精度为秒级别的延迟消息定时消息：Producer将消息发送到消息队列RocketMQ版服务端，但并不期望⽴马投递这条消息，⽽是推迟到在当前时间点之后的某⼀个时间投递到Consumer进⾏消费，该消息即定时消息。

延时消息：Producer将消息发送到消息队列RocketMQ版服务端，但并不期望⽴马投递这条消息，⽽是延迟⼀定时间后才投递到Consumer进⾏消费，该消息即延时消息。

定时消息与延时消息在代码配置上存在⼀些差异，但是最终达到的效果相同：消息在发送到消息队列RocketMQ版服务端后并不会⽴马投递，⽽是根据消息中的属性延迟固定时间后才投递给消费者。

实现原理（4种实现⽅案）1.代理实现2.时间轮和delay-commit-log实现3.时间轮和时间file实现4.基于rocketmq 18个等级来改造适⽤场景定时消息和延时消息适⽤于以下⼀些场景：消息⽣产和消费有时间窗⼝要求，例如在电商交易中超时未⽀付关闭订单的场景，在订单创建时会发送⼀条延时消息。

这条消息将会在30分钟以后投递给消费者，消费者收到此消息后需要判断对应的订单是否已完成⽀付。

如⽀付未完成，则关闭订单。

如已完成⽀付则忽略。

通过消息触发⼀些定时任务，例如在某⼀固定时间点向⽤户发送提醒消息。

使⽤⽅式定时消息和延时消息的使⽤在代码编写上存在略微的区别：发送定时消息需要明确指定消息发送时间点之后的某⼀时间点作为消息投递的时间点。

发送延时消息时需要设定⼀个延时时间长度，消息将从当前发送时间点开始延迟固定时间之后才开始投递。

注意事项定时消息的精度会有1s~2s的延迟误差。

定时和延时消息的msg.setStartDeliverTime参数需要设置成当前时间戳之后的某个时刻（单位毫秒）。

如果被设置成当前时间戳之前的某个时刻，消息将⽴刻投递给消费者。

rocketmq的分配策略RocketMQ是一种高性能、高可靠、可扩展的分布式消息中间件，其分配策略是指消息在集群中的消费者之间如何进行分配和调度。

分配策略的选择直接影响到消息的负载均衡、消费能力和系统的可靠性。

在RocketMQ中，有多种分配策略可供选择，包括均匀分配、哈希分配、广播分配和消息队列优先级分配。

均匀分配是一种常见的消息分配策略，它将消息平均分配给消费者。

当消费者数量与消息队列数量相同时，每个消费者将负责消费一个消息队列，从而实现负载均衡。

当消费者数量大于消息队列数量时，多余的消费者将被闲置，无法得到消息的消费。

当消费者数量少于消息队列数量时，每个消费者将负责消费多个消息队列，从而增加了消息的并发消费能力。

哈希分配是根据消息的关键字进行分配的策略。

通过对消息的关键字进行哈希计算，可以将具有相同哈希值的消息分配到同一个消费者。

这种分配策略可以保证具有相同关键字的消息被同一个消费者顺序消费，从而保证消息的有序性。

广播分配是将消息发送到所有的消费者，每个消费者都能接收到相同的消息。

这种分配策略适用于需要多个消费者同时处理同一个消息的场景，比如实时计算和监控。

消息队列优先级分配是根据消息的优先级进行分配的策略。

在RocketMQ中，消息可以设置不同的优先级，优先级高的消息会被优先分配给消费者进行消费。

这种分配策略适用于需要按照消息的重要程度进行消费的场景，比如订单处理和异常告警。

除了以上几种分配策略，RocketMQ还提供了自定义的分配策略。

用户可以根据自己的需求，实现自己的分配策略，从而更好地适应特定的业务场景。

自定义分配策略可以根据消费者的负载情况、网络延迟等因素进行动态调整，以提高消息的处理能力和系统的可靠性。

总结起来，RocketMQ的分配策略包括均匀分配、哈希分配、广播分配和消息队列优先级分配等多种方式。

根据业务需求和系统性能，选择合适的分配策略可以提高消息的负载均衡、消费能力和系统的可靠性。

基于开源RocketMQ构建网易云音乐消息队列网易云音乐自2013年上线后，业务保持了高速增长。

云音乐除了提供好听的音乐外，还留下了我们在乐和人上的美好回忆。

本文整理自网易云音乐消息队列负责人林德智在近期 Apache Flink&RocketMQ Meetup 上海站的分享，通过该文，您将了解到：•网易云音乐消息队列改造背景•网易云音乐业务对消息队列要求•网易云音乐消息队列架构设计•网易云音乐消息队列部分高级特性介绍•网易云音乐消息队列落地使用情况•网易云音乐消息队列未公开规划背景网易云音乐从13年4月上线以来，业务和用户突飞猛进。

后台技术也从传统的Tomcat 集群到分布式微服务快速演进和迭代，在业务的不断催生下，诞生了云音乐的RPC，API 网关和链路跟踪等多种服务，消息队列也从 RabbitMQ 集群迁移到 Kafka集群。

对于消息队列，更多处于使用阶段，也在使用中出现很多问题。

因此我们期望提供一种完全可控，出现问题我们自己能排查，能跟踪，可以根据业务需求做定制改造的消息队列。

调研结果RabbitMQ 由于持久化场景下的吞吐量只有2.6万，不能满足我们业务吞吐量的需求，云音乐在 2017 年将消息队列从 RabbitMQ 迁移到Kafka 也是这个原因，因此不再考虑范围之内。

由于云音乐整体业务的 QPS 较高，因此，ActiveMQ 也不在考虑范围。

这里主要对比 RocketMQ 与 Kafka：Kafka 更偏向大数据，日志处理，缺少死信，消费失败自动重试，事物消息，定时消息，消息过滤，广播消息等特性，另外Kafka 没有同步刷盘。

云音乐的业务更偏向于多 T opic，死信可溯源，消费失败可收敛自动重试，高可用，自动Failover 等特性。

对于商城和社交业务来说，事物，顺序 Topic 使用会比较多。

Kafka 和RocketMQ 对比：/2016/03/24/rmq-vs-kafka经过 RabbitMQ，Kafka 和 RocketMQ（ ActiveMQ 性能较差，暂不考虑）的调研和分析后，我们发现 RocketMQ 比较适合云音乐的通用业务，但是开源 RocketMQ 也有一些缺陷，只有我们解决了这些缺陷才能在业务中大规模使用。