 Apache RocketMQ 从入门到实战扫一扫加入作者公众号 扫一扫关注 中间件兴趣圈 RocketMQ 官微 扫一扫关注【阿里巴巴云原生】公众号 阿里云开发者“藏经阁” 获取第一手技术干货 海量免费电子书下载 作者简介 作者简介 丁威,《RocketMQ 技术内幕》作者,RocketMQ 官方社区优秀布道师,荣获 CSDN2020 博客之星亚军;担任中通快递研发中心资深架构师,维护『中间件兴趣圈』公 众号,主打成体系剖析 OpenMessaging TSC Member,目前负责 RocketMQ 专有云商业化以 及开源技术生态构建。具有多年分布式系统、中间件 研究及工程经验。目前对分布式中间件、K8s、微服 务、物联网、Serverless 感兴趣。 推荐序 Apache RocketMQ 作为一款高吞吐,抗万亿消息堆积的云原生消息平台,目前已 经被国内 75% 以上互联网、金融等公司所采用,逐渐成为企业 1.13 RocketMQ DLedger 多副本即主从切换实战 121 1.14 RocketMQ msgId 与 offsetMsgId 释疑 131 1.15 RocketMQ ACL 使用指南 141 1.16 RocketMQ 消息轨迹-设计篇 151 1.17 消息发送常见问题与解决方案 155 本文来自『中间件兴趣圈』公众号,仅作技术交流,未授权任何商业行为。 开篇:我的另一种参与0 码力 | 165 页 | 12.53 MB | 1 年前3 Apache RocketMQ 从入门到实战扫一扫加入作者公众号 扫一扫关注 中间件兴趣圈 RocketMQ 官微 扫一扫关注【阿里巴巴云原生】公众号 阿里云开发者“藏经阁” 获取第一手技术干货 海量免费电子书下载 作者简介 作者简介 丁威,《RocketMQ 技术内幕》作者,RocketMQ 官方社区优秀布道师,荣获 CSDN2020 博客之星亚军;担任中通快递研发中心资深架构师,维护『中间件兴趣圈』公 众号,主打成体系剖析 OpenMessaging TSC Member,目前负责 RocketMQ 专有云商业化以 及开源技术生态构建。具有多年分布式系统、中间件 研究及工程经验。目前对分布式中间件、K8s、微服 务、物联网、Serverless 感兴趣。 推荐序 Apache RocketMQ 作为一款高吞吐,抗万亿消息堆积的云原生消息平台,目前已 经被国内 75% 以上互联网、金融等公司所采用,逐渐成为企业 1.13 RocketMQ DLedger 多副本即主从切换实战 121 1.14 RocketMQ msgId 与 offsetMsgId 释疑 131 1.15 RocketMQ ACL 使用指南 141 1.16 RocketMQ 消息轨迹-设计篇 151 1.17 消息发送常见问题与解决方案 155 本文来自『中间件兴趣圈』公众号,仅作技术交流,未授权任何商业行为。 开篇:我的另一种参与0 码力 | 165 页 | 12.53 MB | 1 年前3
 基于Apache APISIX 与RocketMQ 构建云原生一体化架构基于 Apache APISIX 与 RocketMQ 构建云原生一体化架构 杜恒 ASF Member,Apache RocketMQ PMC 成员 Safe Harbor Statement The following is intended to outline our general product direction. It is intended for information Alibaba. W r i t e h e r e S o m e t h i n g a b o u t 01 Apache RocketMQ 简介 02 云原生时代的 RocketMQ 03 借力 APISIX 构建云原生接入体系 CONTENT Apache RocketMQ 简介 01 业务消息领域挑战 • 核心链路,稳定性要求高、时延敏感 • 容量峰值具有随机性,弹性要求高 e S o m e t h i n g a b o u t 云原生时代的 Apache RocketMQ 02 C loud Hosting C loud Native 公有云 专有云 混合云 EC S 容器 K8S 物理机 经典网络/VPC 网络 Overlay/Underlay NVMe 普通云盘 ESSD 云盘 SA TA 独占/混部/独立交付…… • 集群节点异常成为常态0 码力 | 22 页 | 2.26 MB | 1 年前3 基于Apache APISIX 与RocketMQ 构建云原生一体化架构基于 Apache APISIX 与 RocketMQ 构建云原生一体化架构 杜恒 ASF Member,Apache RocketMQ PMC 成员 Safe Harbor Statement The following is intended to outline our general product direction. It is intended for information Alibaba. W r i t e h e r e S o m e t h i n g a b o u t 01 Apache RocketMQ 简介 02 云原生时代的 RocketMQ 03 借力 APISIX 构建云原生接入体系 CONTENT Apache RocketMQ 简介 01 业务消息领域挑战 • 核心链路,稳定性要求高、时延敏感 • 容量峰值具有随机性,弹性要求高 e S o m e t h i n g a b o u t 云原生时代的 Apache RocketMQ 02 C loud Hosting C loud Native 公有云 专有云 混合云 EC S 容器 K8S 物理机 经典网络/VPC 网络 Overlay/Underlay NVMe 普通云盘 ESSD 云盘 SA TA 独占/混部/独立交付…… • 集群节点异常成为常态0 码力 | 22 页 | 2.26 MB | 1 年前3
 RocketMQ v3.2.4 开发指南...................................................................................... 31 11 客户端使用挃南 ................................................................................................ .................................................................................. 35 12 Broker 使用挃南 ................................................................................................ 维护,开源社区非常活跃。 https://github.com/killme2008/Metamorphosis 二、Metaq 2.x 亍 2012 年 10 月份上线,在淘宝内部被广泛使用。 三、RocketMQ 3.x 基亍公司内部开源共建原则, RocketMQ 项目只维护核心功能,丏去除了所有其他运行时依赖,核心功能最 简化。每个 BU 的个性化需求都在 RocketMQ0 码力 | 52 页 | 1.61 MB | 1 年前3 RocketMQ v3.2.4 开发指南...................................................................................... 31 11 客户端使用挃南 ................................................................................................ .................................................................................. 35 12 Broker 使用挃南 ................................................................................................ 维护,开源社区非常活跃。 https://github.com/killme2008/Metamorphosis 二、Metaq 2.x 亍 2012 年 10 月份上线,在淘宝内部被广泛使用。 三、RocketMQ 3.x 基亍公司内部开源共建原则, RocketMQ 项目只维护核心功能,丏去除了所有其他运行时依赖,核心功能最 简化。每个 BU 的个性化需求都在 RocketMQ0 码力 | 52 页 | 1.61 MB | 1 年前3
 Apache RocketMQ on Amazon Web Services.............................................................................................. 7 使用 APACHE ROCKETMQ .................................................................................. ........................................................................................... 13 如何使用浏览器查看 APACHE ROCKETMQ 的 WEB CONSOLE ............................................................... Apache 基金会,2017 年成为 Apache 的 顶级项 目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使用于国内 外的互联网公司。针对 AMAZON WEB SERVICES 客户需要在 AMAZON WEB SERVICES 上 使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号 部署一个基于 EC2 的高可用的 RocketMQ0 码力 | 18 页 | 1.55 MB | 1 年前3 Apache RocketMQ on Amazon Web Services.............................................................................................. 7 使用 APACHE ROCKETMQ .................................................................................. ........................................................................................... 13 如何使用浏览器查看 APACHE ROCKETMQ 的 WEB CONSOLE ............................................................... Apache 基金会,2017 年成为 Apache 的 顶级项 目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使用于国内 外的互联网公司。针对 AMAZON WEB SERVICES 客户需要在 AMAZON WEB SERVICES 上 使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号 部署一个基于 EC2 的高可用的 RocketMQ0 码力 | 18 页 | 1.55 MB | 1 年前3
 王强-Apache RocketMQ事务消息Partition Basically Available Soft-state Eventual Consistency 分布式事务解决⽅方案 XA 特点: 1. 两阶段提交 2. 仅商业化数据库⽀支持 3. ⽆无法满⾜足⾼高并发场景 分布式事务解决⽅方案 SAGA 特点: 1. 提交+补偿 2. 并发隔离性很难保证 分布式事务解决⽅方案 TCC 特点: 1. 特殊的两阶段提交 存储设计 Cloud Native 的定义 • 设计,搭建和部署应⽤用的⽅方式 • 运⾏行行在云计算环境 IaaS • 快速,弹性 • 降低技术⻛风险 • 互操作性,易易部署,可监控管理理 消息系统挑战 • 传统设计和实现⽅方⾯面 • 组件的微服务化,例例如存储和计算分离 • 开源软件的冲击,云服务选型⾯面临挑战 • 缺少稳定的多语⾔言类库 • Cloud AI Ops⽅方⾯面 • HTTP/RESTful/JSON 灵活调⽤用,监控及运维能⼒力力不不⾜足 • Cloud云⼚厂商⽅方⾯面 • 不不同云⼚厂商之间消息产品互操作性成本较⾼高,⽤用户跨云⼚厂商迁移难 • 云上与云下产品的⽆无缝衔接能⼒力力差 云原⽣生与业界标准 OpenMessaging AMQP • 简单灵活 • 云原⽣生 • ⼚厂商中⽴立 • 语⾔言⽆无关 • ⾯面向消息和流的标准 关注阿⾥里0 码力 | 34 页 | 6.17 MB | 1 年前3 王强-Apache RocketMQ事务消息Partition Basically Available Soft-state Eventual Consistency 分布式事务解决⽅方案 XA 特点: 1. 两阶段提交 2. 仅商业化数据库⽀支持 3. ⽆无法满⾜足⾼高并发场景 分布式事务解决⽅方案 SAGA 特点: 1. 提交+补偿 2. 并发隔离性很难保证 分布式事务解决⽅方案 TCC 特点: 1. 特殊的两阶段提交 存储设计 Cloud Native 的定义 • 设计,搭建和部署应⽤用的⽅方式 • 运⾏行行在云计算环境 IaaS • 快速,弹性 • 降低技术⻛风险 • 互操作性,易易部署,可监控管理理 消息系统挑战 • 传统设计和实现⽅方⾯面 • 组件的微服务化,例例如存储和计算分离 • 开源软件的冲击,云服务选型⾯面临挑战 • 缺少稳定的多语⾔言类库 • Cloud AI Ops⽅方⾯面 • HTTP/RESTful/JSON 灵活调⽤用,监控及运维能⼒力力不不⾜足 • Cloud云⼚厂商⽅方⾯面 • 不不同云⼚厂商之间消息产品互操作性成本较⾼高,⽤用户跨云⼚厂商迁移难 • 云上与云下产品的⽆无缝衔接能⼒力力差 云原⽣生与业界标准 OpenMessaging AMQP • 简单灵活 • 云原⽣生 • ⼚厂商中⽴立 • 语⾔言⽆无关 • ⾯面向消息和流的标准 关注阿⾥里0 码力 | 34 页 | 6.17 MB | 1 年前3
 快速部署高可用的Apache RocketMQ 集群 - Amazon S3.............................................................................................. 8 使用 APACHE ROCKETMQ .................................................................................. ........................................................................................... 16 如何使用浏览器查看 APACHE ROCKETMQ 的 WEB CONSOLE ....................................................... 16 如何登录 Apache 基金会,2017 年成为 Apache 的 顶级项目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使 用于国内外的互联网公司。针对亚马逊云科技客户需要在亚马逊云科技上使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号部署 一个基于 EC2 的高可用的 RocketMQ 集群。 架构 Amazon CloudFormation0 码力 | 21 页 | 2.57 MB | 1 年前3 快速部署高可用的Apache RocketMQ 集群 - Amazon S3.............................................................................................. 8 使用 APACHE ROCKETMQ .................................................................................. ........................................................................................... 16 如何使用浏览器查看 APACHE ROCKETMQ 的 WEB CONSOLE ....................................................... 16 如何登录 Apache 基金会,2017 年成为 Apache 的 顶级项目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使 用于国内外的互联网公司。针对亚马逊云科技客户需要在亚马逊云科技上使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号部署 一个基于 EC2 的高可用的 RocketMQ 集群。 架构 Amazon CloudFormation0 码力 | 21 页 | 2.57 MB | 1 年前3
 rocketmq 服务部署测试namesrv的启动 启动命令: nohup /Users/gitsilence/JavaTools/rocketmq/rocketmq-4.9.2-SNAPSHOT/bin/mqnamesrv & 使用 jps 查看是否启动成功 关闭命令 /Users/gitsilence/JavaTools/rocketmq/rocketmq-4.9.2-SNAPSHOT/bin/mqshutdown namesrv 例的数量,值过小不利于consumer负 均衡 defaultTopicQueueNums=8 # 是否允许broker自动创建Topic,生产建议关闭 autoCreateTopicEnable=true # 是否允许broker自动创建订阅组,生产建议关闭 autoCreateSubscriptionGroup=true # 设置brokerIp brokerIP1=192.168.166.20 例的数量,值过小不利于consumer负 均衡 defaultTopicQueueNums=8 # 是否允许broker自动创建Topic,生产建议关闭 autoCreateTopicEnable=true # 是否允许broker自动创建订阅组,生产建议关闭 autoCreateSubscriptionGroup=true # 设置brokerIp brokerIP1=192.168.166.200 码力 | 11 页 | 284.35 KB | 1 年前3 rocketmq 服务部署测试namesrv的启动 启动命令: nohup /Users/gitsilence/JavaTools/rocketmq/rocketmq-4.9.2-SNAPSHOT/bin/mqnamesrv & 使用 jps 查看是否启动成功 关闭命令 /Users/gitsilence/JavaTools/rocketmq/rocketmq-4.9.2-SNAPSHOT/bin/mqshutdown namesrv 例的数量,值过小不利于consumer负 均衡 defaultTopicQueueNums=8 # 是否允许broker自动创建Topic,生产建议关闭 autoCreateTopicEnable=true # 是否允许broker自动创建订阅组,生产建议关闭 autoCreateSubscriptionGroup=true # 设置brokerIp brokerIP1=192.168.166.20 例的数量,值过小不利于consumer负 均衡 defaultTopicQueueNums=8 # 是否允许broker自动创建Topic,生产建议关闭 autoCreateTopicEnable=true # 是否允许broker自动创建订阅组,生产建议关闭 autoCreateSubscriptionGroup=true # 设置brokerIp brokerIP1=192.168.166.200 码力 | 11 页 | 284.35 KB | 1 年前3
 万亿级数据洪峰下的消息引擎Apache RocketMQB2B大规模使用 MetaQ v1.0 顺序消息 海量堆积能力 Aliware MQ v1.0 Notify v3.0 MetaQ v3.0 RocketMQ开源 Apache RocketMQ MetaQ RocketMQ Notify Aliware MQ 有序消息,Pull模式, 海量消息堆积能力 阿里云售卖的消息中间件, 支持公有云,金融云,私 有云,聚石塔 事务消息,Push模式,0 码力 | 35 页 | 993.29 KB | 1 年前3 万亿级数据洪峰下的消息引擎Apache RocketMQB2B大规模使用 MetaQ v1.0 顺序消息 海量堆积能力 Aliware MQ v1.0 Notify v3.0 MetaQ v3.0 RocketMQ开源 Apache RocketMQ MetaQ RocketMQ Notify Aliware MQ 有序消息,Pull模式, 海量消息堆积能力 阿里云售卖的消息中间件, 支持公有云,金融云,私 有云,聚石塔 事务消息,Push模式,0 码力 | 35 页 | 993.29 KB | 1 年前3
 万亿级数据洪峰下的消息引擎 Apache RocketMQB2B大规模使用 MetaQ v1.0 顺序消息 海量堆积能力 Aliware MQ v1.0 Notify v3.0 MetaQ v3.0 RocketMQ开源 Apache RocketMQ MetaQ RocketMQ Notify Aliware MQ 有序消息,Pull模式, 海量消息堆积能力 阿里云售卖的消息中间件, 支持公有云,金融云,私 有云,聚石塔 事务消息,Push模式,0 码力 | 35 页 | 5.82 MB | 1 年前3 万亿级数据洪峰下的消息引擎 Apache RocketMQB2B大规模使用 MetaQ v1.0 顺序消息 海量堆积能力 Aliware MQ v1.0 Notify v3.0 MetaQ v3.0 RocketMQ开源 Apache RocketMQ MetaQ RocketMQ Notify Aliware MQ 有序消息,Pull模式, 海量消息堆积能力 阿里云售卖的消息中间件, 支持公有云,金融云,私 有云,聚石塔 事务消息,Push模式,0 码力 | 35 页 | 5.82 MB | 1 年前3
 消息中间件RocketMQ原理解析 - 斩秋前言 此文档是从学习 rocketmq 源码过程中的笔记中整理出来的,由于时间及能力原因,理 解有误之处还请谅解,希望对大家学习使用 rocketmq 有所帮助。 Rocketmq 是阿里基于开源思想做的一款产品,代码托管于 github 上,要想学好用好 rocketmq 请从 https://github.com/alibaba/RocketMQ 方式:完全由业务系统去控制,定时拉取消息,指定队列消费等等, 当然这里需要 业务系统去根据自己的业务需求去实现 下面介绍默认以 push 方式为主, 因为绝大多数是由 push 消费方式来使用 rocketmq 的。 一:consumer 启动流程 指定 group pullRequest.getNextOffset 区别 8. 构建 sysFlag pull 接口用到的 flag 9. 调底层通信层向 broker 发送拉消息请求 如果 master 压力过大,会建议去 slave 拉取消息 如果是到 broker 拉取消息清楚实时提交标记位,因为 slave 不允许实时提交消费进 度,可以定时提交 //TODO 关于 master 拉消息实时提交指的是什么?0 码力 | 57 页 | 2.39 MB | 1 年前3 消息中间件RocketMQ原理解析 - 斩秋前言 此文档是从学习 rocketmq 源码过程中的笔记中整理出来的,由于时间及能力原因,理 解有误之处还请谅解,希望对大家学习使用 rocketmq 有所帮助。 Rocketmq 是阿里基于开源思想做的一款产品,代码托管于 github 上,要想学好用好 rocketmq 请从 https://github.com/alibaba/RocketMQ 方式:完全由业务系统去控制,定时拉取消息,指定队列消费等等, 当然这里需要 业务系统去根据自己的业务需求去实现 下面介绍默认以 push 方式为主, 因为绝大多数是由 push 消费方式来使用 rocketmq 的。 一:consumer 启动流程 指定 group pullRequest.getNextOffset 区别 8. 构建 sysFlag pull 接口用到的 flag 9. 调底层通信层向 broker 发送拉消息请求 如果 master 压力过大,会建议去 slave 拉取消息 如果是到 broker 拉取消息清楚实时提交标记位,因为 slave 不允许实时提交消费进 度,可以定时提交 //TODO 关于 master 拉消息实时提交指的是什么?0 码力 | 57 页 | 2.39 MB | 1 年前3
共 12 条
- 1
- 2













