集群。本书不仅由浅入深的介绍了 RocketMQ 的架 构与实现，而且包含了多年线上超大规模集群开发运维经验的总结，通过本书不仅能够掌握 分布式消息平台的设计原理，对线上疑难问题排查分析、性能调优与架构设计也大有帮助。 目录 开篇：我的另一种参与 RocketMQ 开源社区的方式 6 1.1 RocketMQ 核心概念扫盲篇 10 1.2 生产环境中，autoCreateTopicEnable 为什么不能设置为 true 集群中数据一致性采取的最终一致性。 2. Broker 消息存储服务器，分为两种角色：Master 与 Slave，上图中呈现的就是 2 主 2 从的部 署架构，在 RocketMQ 中，主服务承担读写操作，从服务器作为一个备份，当主服务器存 在压力时，从服务器可以承担读服务（消息消费）。所有 Broker，包含 Slave 服务器每隔 30s 会向 Nameserver 发送心跳包，心跳包中会包含存在在 ig/consumerOffset.json 是其具体的存储文件，其中内容截图如下： 可见消费进度的 Key 为：topic@consumeGroup，然后每一个队列一个偏移量。 广播模式的消费进度文件存储在用户的主目录，默认文件全路劲名：${USER_HOM E}/.rocketmq_offsets。 4. 消费模型 RocketMQ 提供了并发消费、顺序消费两种消费模型。 并发消费：对一个队列中消息，每

com 2014/11/17 5 6 7 项目开源主页：https://github.com/alibaba/RocketMQ I 目录 1 前言 .......................................................................................... Offset、State(P/C/R) Offset、Delaylevel 项目开源主页：https://github.com/alibaba/RocketMQ 15 6.4 存储目录结构 |-- abort |-- checkpoint |-- config | |-- consumerOffset.json | |-- consumerOffset.json 要保证 Commit Log 不 Consume Queue 完全的一致，增加了编程的复杂度。 以上缺点如何克服： (1). 随机读，尽可能让读命中 PAGECACHE，减少 IO 读操作，所以内存越大越好。如果系统中堆积的消息过多， 读数据要访问磁盘会丌会由亍随机读导致系统性能急剧下降，答案是否定的。 a) 访问 PAGECACHE 时，即使只访问 1k 的消息，系统也会提前预读出更多数据，在下次读时，就可能命

.................................................................. 13 APACHE ROCKETMQ 在 EC2 上部署所在目录说明： .......................................................................... 13 Nameserver： ... Prefix QSS3KeyPrefix quickstart- rocketmq/ S3 前缀。请不要更改此选项， 除⾮您对此启动脚本做了自定义 化并且存放到了不同的前缀目录 下。 选项 2：用于将 RocketMQ 部署到现有 VPC 的参数 参数标签 参数名称 默认值 说明 Network Configuration 网络配置 1 VPC Prefix QSS3KeyPrefix quickstart- rocketmq/ S3 前缀。请不要更改此选项， 除⾮您对此启动脚本做了自定义 化并且存放到了不同的前缀目录 下。 9 Quick Start S3 bucket region QSS3BucketRegion cn-north-1 S3 bucket 对应的 region。请不要

.................................................................. 15 APACHE ROCKETMQ 在 EC2 上部署所在目录说明： ..................................................................... 15 Nameserver ......... Name 属性判断这个 Instance 安装的是哪种类型的节点。 使用 Apache RocketMQ Apache RocketMQ 在 EC2 上部署所在目录说明： Nameserver 目录 说明 1 /home/ec2-user/rocketmq-deploy/ Apache RocketMQ 安装目 录 2 /home/ec2-user/ro release or /home/ec2-user/rocketmq-deploy/rocketmq-all-4.8.0-bin- release Apache RocketMQ 的应用 程序目录 3 /home/ec2-user/rocketmq-deploy/install.log 部署脚本的安装日志，如果 有错误可以查看这个日志 Page 16 of 21

斩秋 博客：http://blog.csdn.net/quhongwei_zhanqiu 目录 RocketMQ 原理解析 .................................................................................. 二：消息存储 Rocketmq 的消息的存储是由 consume queue 和 commitLog 配合完成的 1） consume queue 消息的逻辑队列，相当于字典的目录用来指定消息在消息的真正的物理 文件 commitLog 上的位置, 每个 topic 下的每个 queue 都有一个对应的 consumequeue 文件。 文件地址：${user.home} 个 字 节 （ short ） 存 放 属 性 值 大 小 ， 后 存 放 propertiesLength 大小的属性数据 3） MapedFile 是 PageCache 文件封装，操作物理文件在内存中的映射以及将内存数据持久 化到物理文件中， 代码中写死了要求 os 系统的页大小为 4k, 消息刷盘根据参数 （commitLog 默认至少刷 4 页, consumeQueue 默认至少刷

package -Dmaven.test.skip=true 编译后进入到 distribution/target目录，rocket-mq-xxx.tar.gz 和 rocket-mq-xxx.zip 两种，zip 是w ndow下的，tar.gz为Linux下的； tar.gz解压后的目录结构： . ├── LICENSE ├── NOTICE ├── README.md ├── benchmark 19.jar ├── tomcat-annotations-api-8.5.46.jar └── tomcat-embed-core-8.5.46.jar ● bin目录下放的是脚本文件 ● conf目录，配置文件 2m-2s-async 双主双从异步复制模式 2m-2s-sync 双主双从同步双写模式 2m-noslave 双主模式 ● lib 存放的依赖jar包 测试namesrv的启动

g 主从复制架构升级，性能提升数倍 RAFT 存储生产可用 rocketm q-con n ect 进入孵化 2021 5.0 -p rev iew 发布 性能优化、PoP 消费，多存储目录， 轻量级队列 rocketm q-strea m s 轻量级实时计算 引擎发布 5.0 消息事件流融合处理平台 Sta r: 1 .7w C on tributor: 50 0 +

Apache RocketMQ 存储设计 Cloud Native 的定义 • 设计，搭建和部署应⽤用的⽅方式 • 运⾏行行在云计算环境 IaaS • 快速，弹性 • 降低技术⻛风险 • 互操作性，易易部署，可监控管理理 消息系统挑战 • 传统设计和实现⽅方⾯面 • 组件的微服务化，例例如存储和计算分离 • 开源软件的冲击，云服务选型⾯面临挑战 • 缺少稳定的多语⾔言类库 • Cloud 诸如IoT/IIoT新场景下的规模化部署能⼒力力不不⾜足 • HTTP/RESTful/JSON 灵活调⽤用，监控及运维能⼒力力不不⾜足 • Cloud云⼚厂商⽅方⾯面 • 不不同云⼚厂商之间消息产品互操作性成本较⾼高，⽤用户跨云⼚厂商迁移难 • 云上与云下产品的⽆无缝衔接能⼒力力差 云原⽣生与业界标准 OpenMessaging AMQP • 简单灵活 • 云原⽣生 • ⼚厂商中⽴立

低延迟分布式存储系统 – PageCache的毛刺解决方案小结 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 操作系统Page Cache Radix Tree 自旋锁，产生几秒的大毛刺 如果遇到坏盘，可能Block若干分钟，对系统产生致命影响。 操作系统Page Cache Radix Tree 每个Page的阻塞锁，产生几百毫秒小毛刺 写入数据平均响应时间不超过1ms 写

低延迟分布式存储系统 – PageCache的毛刺解决方案小结 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 操作系统Page Cache Radix Tree 自旋锁，产生几秒的大毛刺 如果遇到坏盘，可能Block若干分钟，对系统产生致命影响。 操作系统Page Cache Radix Tree 每个Page的阻塞锁，产生几百毫秒小毛刺 写入数据平均响应时间不超过1ms 写