 Apache RocketMQ 从入门到实战91 1.10 再谈 RocketMQ broker busy 104 1.11 从年末生产故障解锁 RocketMQ 集群部署的最佳实践 108 1.12 RocketMQ 一行代码造成大量消息丢失 115 1.13 RocketMQ DLedger 多副本即主从切换实战 121 1.14 RocketMQ msgId 与 offsetMsgId 释疑 131 1.15 RocketMQ 注册存储在该服务器上的路由信息,并每隔 30s 向 Nameserver 发送心跳包,并更新路由信息。 Nameserver 每隔 10s 扫描路由表,如果检测到 Broker 服务宕机,则移除对应的路 由信息。 消息生产者每隔 30s 会从 Nameserver 重新拉取 Topic 的路由信息并更新本地路由 表;在消息发送之前,如果本地路由表中不存在对应主题的路由消息时,会主动向 Nameserver 为什么不能设置为 true 备注:该 topicConfigTable 中所有的路由信息,会随着 Broker 向 Nameserver 发 送心跳包中,Nameserver 收到这些信息后,更新对应 Topic 的路由信息表。 注意:BrokerConfig 的 defaultTopicQueueNum 默认为 8。两台 Broker 服务器都 会运行上面的过程,故最终 Nameserver0 码力 | 165 页 | 12.53 MB | 1 年前3 Apache RocketMQ 从入门到实战91 1.10 再谈 RocketMQ broker busy 104 1.11 从年末生产故障解锁 RocketMQ 集群部署的最佳实践 108 1.12 RocketMQ 一行代码造成大量消息丢失 115 1.13 RocketMQ DLedger 多副本即主从切换实战 121 1.14 RocketMQ msgId 与 offsetMsgId 释疑 131 1.15 RocketMQ 注册存储在该服务器上的路由信息,并每隔 30s 向 Nameserver 发送心跳包,并更新路由信息。 Nameserver 每隔 10s 扫描路由表,如果检测到 Broker 服务宕机,则移除对应的路 由信息。 消息生产者每隔 30s 会从 Nameserver 重新拉取 Topic 的路由信息并更新本地路由 表;在消息发送之前,如果本地路由表中不存在对应主题的路由消息时,会主动向 Nameserver 为什么不能设置为 true 备注:该 topicConfigTable 中所有的路由信息,会随着 Broker 向 Nameserver 发 送心跳包中,Nameserver 收到这些信息后,更新对应 Topic 的路由信息表。 注意:BrokerConfig 的 defaultTopicQueueNum 默认为 8。两台 Broker 服务器都 会运行上面的过程,故最终 Nameserver0 码力 | 165 页 | 12.53 MB | 1 年前3
 RocketMQ v3.2.4 开发指南亍硬件资源可立即恢复情冴,RocketMQ 在返四种情冴下能保证消息丌丢,戒 者丢失少量数据(依赖刷盘方式是同步迓是异步)。 (5)、(6)属亍单点故障,丏无法恢复,一旦収生,在此单点上的消息全部丢失。RocketMQ 在返两种情冴下,通 过异步复制,可保证 99%的消息丌丢,但是仍然会有极少量的消息可能丢失。通过同步双写技术可以完全避免单点, 同步双写势必会影响性能,适合对消息可靠性要求极高的场合,例如不 (3). Commit Log 中存储了所有的元信息,包含消息体,类似亍 Mysql、Oracle 的 redolog,所以只要有 Commit Log 在,Consume Queue 即使数据丢失,仍然可以恢复出来。 项目开源主页:https://github.com/alibaba/RocketMQ 18 7.2 刷盘策略 RocketMQ 的所有消息都是持丽化的,兇写入系统 net:8080/rocketmq/nsaddr 返个 URL 的迒回内容如下 192.168.0.1:9876;192.168.0.2:9876 客户端默讣每隔 2 分钟访问一次返个 HTTP 服务器,幵更新本地的 Name Server 地址。 URL 已经在代码中写死,可通过修改/etc/hosts 文件来改发要访问的服务器,例如在/etc/hosts 增加如下配 置 10.232.22.670 码力 | 52 页 | 1.61 MB | 1 年前3 RocketMQ v3.2.4 开发指南亍硬件资源可立即恢复情冴,RocketMQ 在返四种情冴下能保证消息丌丢,戒 者丢失少量数据(依赖刷盘方式是同步迓是异步)。 (5)、(6)属亍单点故障,丏无法恢复,一旦収生,在此单点上的消息全部丢失。RocketMQ 在返两种情冴下,通 过异步复制,可保证 99%的消息丌丢,但是仍然会有极少量的消息可能丢失。通过同步双写技术可以完全避免单点, 同步双写势必会影响性能,适合对消息可靠性要求极高的场合,例如不 (3). Commit Log 中存储了所有的元信息,包含消息体,类似亍 Mysql、Oracle 的 redolog,所以只要有 Commit Log 在,Consume Queue 即使数据丢失,仍然可以恢复出来。 项目开源主页:https://github.com/alibaba/RocketMQ 18 7.2 刷盘策略 RocketMQ 的所有消息都是持丽化的,兇写入系统 net:8080/rocketmq/nsaddr 返个 URL 的迒回内容如下 192.168.0.1:9876;192.168.0.2:9876 客户端默讣每隔 2 分钟访问一次返个 HTTP 服务器,幵更新本地的 Name Server 地址。 URL 已经在代码中写死,可通过修改/etc/hosts 文件来改发要访问的服务器,例如在/etc/hosts 增加如下配 置 10.232.22.670 码力 | 52 页 | 1.61 MB | 1 年前3
 Apache RocketMQ on Amazon Web ServicesPage 1 of 18 Apache RocketMQ on Amazon Web Services 部署手册 顾明 版本:v1.0.0 最后更新时间: 2021 年 01 月 Copyright (c) 2021 by Amazon.com, Inc. or its affiliates. Page RocketMQ 集群。 架构 AMAZON CloudFormation 提供了一种创建和管理相关 AMAZON WEB SERVICES 资源的简 便方法,并通过有序 且可预测的方式进⾏资源配置和更新。本快速⼊⻔提供两种部署 选项,一种是将 Apache RocketMQ 部署到新 VPC 环境中,另一种是 部署到已有 VPC 环 境中。使用默认参数为在新 VPC 环境中 部署以下资源。如果您选择的是将此方案部署 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中,依 次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择创建 并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将无法访问实例。 Page 6 of 18 4. 请通过右上⻆区域选择按钮选择您的目标区域。 5. 如果您要将 RocketMQ 部署到现有 VPC,请注意下列注意事项:0 码力 | 18 页 | 1.55 MB | 1 年前3 Apache RocketMQ on Amazon Web ServicesPage 1 of 18 Apache RocketMQ on Amazon Web Services 部署手册 顾明 版本:v1.0.0 最后更新时间: 2021 年 01 月 Copyright (c) 2021 by Amazon.com, Inc. or its affiliates. Page RocketMQ 集群。 架构 AMAZON CloudFormation 提供了一种创建和管理相关 AMAZON WEB SERVICES 资源的简 便方法,并通过有序 且可预测的方式进⾏资源配置和更新。本快速⼊⻔提供两种部署 选项,一种是将 Apache RocketMQ 部署到新 VPC 环境中,另一种是 部署到已有 VPC 环 境中。使用默认参数为在新 VPC 环境中 部署以下资源。如果您选择的是将此方案部署 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中,依 次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择创建 并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将无法访问实例。 Page 6 of 18 4. 请通过右上⻆区域选择按钮选择您的目标区域。 5. 如果您要将 RocketMQ 部署到现有 VPC,请注意下列注意事项:0 码力 | 18 页 | 1.55 MB | 1 年前3
 快速部署高可用的Apache RocketMQ 集群 - Amazon S3Page 1 of 21 快速部署高可用的 Apache RocketMQ 集群 部署手册 顾明 版本:v1.2.0 最后更新时间: 2023 年 11 月 Copyright (c) 2021 by Amazon.com, Inc. or its affiliates. Page 2 of 21 RocketMQ 集群。 架构 Amazon CloudFormation 提供了⼀种创建和管理相关 AMAZON WEB SERVICES 资源的简便⽅法,并通过有序 且可预测的⽅式进⾏资源配置和更新。本快速⼊⻔提供 两种部署选项,⼀种是将 Apache RocketMQ 部署到新 VPC 环境中,另⼀种是 部署 到已有 VPC 环境中。使⽤默认参数为在新 VPC 环境中 部署以下资源。如果您选择的 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中, 依次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择 创建并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将⽆法访问实例。 Page 6 of 21 4. 请通过右上⻆区域选择按钮选择您的⽬标区域。 5. 如果您要将 RocketMQ 部署到现有 VPC,请注意下列注意事项:0 码力 | 21 页 | 2.57 MB | 1 年前3 快速部署高可用的Apache RocketMQ 集群 - Amazon S3Page 1 of 21 快速部署高可用的 Apache RocketMQ 集群 部署手册 顾明 版本:v1.2.0 最后更新时间: 2023 年 11 月 Copyright (c) 2021 by Amazon.com, Inc. or its affiliates. Page 2 of 21 RocketMQ 集群。 架构 Amazon CloudFormation 提供了⼀种创建和管理相关 AMAZON WEB SERVICES 资源的简便⽅法,并通过有序 且可预测的⽅式进⾏资源配置和更新。本快速⼊⻔提供 两种部署选项,⼀种是将 Apache RocketMQ 部署到新 VPC 环境中,另⼀种是 部署 到已有 VPC 环境中。使⽤默认参数为在新 VPC 环境中 部署以下资源。如果您选择的 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中, 依次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择 创建并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将⽆法访问实例。 Page 6 of 21 4. 请通过右上⻆区域选择按钮选择您的⽬标区域。 5. 如果您要将 RocketMQ 部署到现有 VPC,请注意下列注意事项:0 码力 | 21 页 | 2.57 MB | 1 年前3
 Apache RocketMQ 介绍式,支持集群消费和广播消息,提供实时的 息订阅机制,满足大多数消费场景。 特点 ● RocketMQ支持异步实时刷盘,同步刷盘,同步复制,异步复制。具有高可靠性。不会因为操作系 的崩溃而导致数据丢失。 ● RocketMQ经过一系列的实践和优化,处理速度从最初的10,000TPS到目前已经超过50,000TPS。 纯比较TPS的话虽然还不如Kafka的百万级别,但在支持事务的消息中间件来说已经是非常优秀了。0 码力 | 5 页 | 375.48 KB | 1 年前3 Apache RocketMQ 介绍式,支持集群消费和广播消息,提供实时的 息订阅机制,满足大多数消费场景。 特点 ● RocketMQ支持异步实时刷盘,同步刷盘,同步复制,异步复制。具有高可靠性。不会因为操作系 的崩溃而导致数据丢失。 ● RocketMQ经过一系列的实践和优化,处理速度从最初的10,000TPS到目前已经超过50,000TPS。 纯比较TPS的话虽然还不如Kafka的百万级别,但在支持事务的消息中间件来说已经是非常优秀了。0 码力 | 5 页 | 375.48 KB | 1 年前3
 消息中间件RocketMQ原理解析 - 斩秋topic,如果 producer 集合中没有会根据指定 topic 到 namesrv 获取 topic 发布信息 TopicPublishInfo,并放入本地集合 2. 定时从 namesrv 更新 topic 路由信息, Producer 与 broker 间的心跳 Producer 定时发送心跳将 producer 信息(其实就是 procduer 的 group)定时发送到, brokerAddrTable 分发消息位置信息到 ConsumeQueue : 事物状态为 preparedType 和 rollbackType 的消息 不会将请求分发到 ConsumeQueue 中去,即不处理, 所以不会被消息 更新 transaction stable table: 如果是 prepared 消息记,通过 TransactionStateService 服 务将消息加到存储事务状态的表格 tranStateTable 建 一 个 Runnable 任 务 异 步 执 行 producer 注 册 的 回 调 接 口 , 处 理 回 调 , 在 调 endTransactionOneway 向 broker 发送请求更新事物消息的最终状态 无 Prepared 消息,且遍历完,则终止扫描这个文件的定时任务 2.2.5 事物消息的 load&recover TransactionStateService0 码力 | 57 页 | 2.39 MB | 1 年前3 消息中间件RocketMQ原理解析 - 斩秋topic,如果 producer 集合中没有会根据指定 topic 到 namesrv 获取 topic 发布信息 TopicPublishInfo,并放入本地集合 2. 定时从 namesrv 更新 topic 路由信息, Producer 与 broker 间的心跳 Producer 定时发送心跳将 producer 信息(其实就是 procduer 的 group)定时发送到, brokerAddrTable 分发消息位置信息到 ConsumeQueue : 事物状态为 preparedType 和 rollbackType 的消息 不会将请求分发到 ConsumeQueue 中去,即不处理, 所以不会被消息 更新 transaction stable table: 如果是 prepared 消息记,通过 TransactionStateService 服 务将消息加到存储事务状态的表格 tranStateTable 建 一 个 Runnable 任 务 异 步 执 行 producer 注 册 的 回 调 接 口 , 处 理 回 调 , 在 调 endTransactionOneway 向 broker 发送请求更新事物消息的最终状态 无 Prepared 消息,且遍历完,则终止扫描这个文件的定时任务 2.2.5 事物消息的 load&recover TransactionStateService0 码力 | 57 页 | 2.39 MB | 1 年前3
共 6 条
- 1













