消息中间件RocketMQ原理解析 - 斩秋.......................................................................................... 7 2.3 分布式事物消息 .............................................................................................. ......................................................................................... 11 2.2 分布式事物消息落地 ............................................................................................ messageQueueList [userId%messageQueueList.size()] 2.3 分布式事物消息 先引入官方文档图: 分布式事物是基于二阶段提交的 1) 一阶段,向 broker 发送一条 prepared 的消息,返回消息的 offset 即消息地址 commitLog 中消息偏移量。Prepared0 码力 | 57 页 | 2.39 MB | 1 年前3
RocketMQ v3.2.4 开发指南....................................................................................... 8 4.13 分布式事务 ................................................................................................ 如果业务能容忍在集群异常情冴(如某个 Broker 宕机戒者重启)下,消息短暂的乱序,使用普通顺序方 式比较合适。 严格顺序消息 顺序消息的一种,无论正常异常情冴都能保证顺序,但是牺牲了分布式 Failover 特性,即 Broker 集群中只 要有一台机器丌可用,则整个集群都丌可用,服务可用性大大降低。 如果服务器部署为同步双写模式,此缺陷可通过备机自劢切换为主避免,丌过仍然会存在几分钟的服务丌 収送消息阶段,丌允许収送重复的消息。 (2). 消费消息阶段,丌允许消费重复的消息。 只有以上两个条件都满足情冴下,才能讣为消息是“Exactly Only Once”,而要实现以上两点,在分布式系统环 境下,丌可避免要产生巨大的开销。所以 RocketMQ 为了追求高性能,幵丌保证此特性,要求在业务上迕行去重, 也就是说消费消息要做到幂等性。RocketMQ 虽然丌能严格保证丌重复,但是正常情冴下很少会出现重复収送、消0 码力 | 52 页 | 1.61 MB | 1 年前3
Kubernetes Operator 实践 - MySQL容器化of complex stateful applications on behalf of a Kubernetes user. operator 是特殊的 controller,用来管理复杂的分布式应用 ü custom resource definition(CRD) ü custom controller Operator 是什么 • Kubernetes 中一切都可视为资源 • OnDelete WorkQueue List/Watch - CRD - Pod Write Informer Worker ReadOnly • Informer:监听事件并触发回调函数的二级缓存工具包 • WorkQueue:事件合并、过滤、延时、限速 Operator CRD 里有什么 MySQL CRD • Spec:配置 & 期望状态 • Status:当前状态 MySQL Mysql Operator pod … … mysql Pod-T 0. 创建 CRD 3. 集群管理 2. 调度 pod Ceph MySQL-Operator 数据存储 分布式存储 • 使用 Ceph RBD,基于产品线 创建 StorageClass • 优点:可靠性高,容器漂移时 数据不变 • 缺点:读写延迟较高 本地存储 • 基于 Host Path Volumes0 码力 | 42 页 | 4.77 MB | 1 年前3
Ubuntu 桌面培训 2010http://www.linphone.org III.VI.II Skype Skype 是另一个可以在 Ubuntu 上使用的软电话软件。Skype 的源代码是私有的, 但是使用是免费的。您的呼叫会由分布式部署的服务器群传递,Skype 使用了它私有 的点对点的去中心技术。Skype 连接是加密的,可以保证您和别人的通话不被窃听。 在这里我们不对 Skype 进行更深入的探讨。 使用互联网 107 小提示: 将 /home 放到单独的分区是个好做法,因为这使从一个发行版平滑地过渡到另外一个 成为可能。 • /var:此目录包含可变数据,例如新闻文章、电子邮件、网站、数据库和包管理系 统缓存。此目录的大小也依赖于系统使用情况。最有可能的情况是,此目录的大小 由 Ubuntu 包管理工具的使用情况决定。如果打算安装 Ubuntu 提供的所有软件 包,需要为 /var 目录分配 2 到 3 是不是很长时间没有清理 deb 包缓存了? Apt/aptitude/新立德等,会把下载的 deb 包缓存在: /var/cache/apt/archives 如果长期不清理,可能占用大量的空间。 Ubuntu FAQ 489 Ubuntu 桌面培训 目录 打开新立得软件包管理器,选择“设置”-> “首选项“。在弹出的“首选项“对话框 中,选择“文件”标签页,点击其中的“删除缓存的软件包文件”按钮。0 码力 | 540 页 | 26.26 MB | 1 年前3
谈谈MYSQL那点事Rows level lock , 读写性能都非常优秀 读写性能都非常优秀 • 能够承载大数据量的存储和访问 能够承载大数据量的存储和访问 • 拥有自己独立的缓冲池,能够缓存数据和索引 拥有自己独立的缓冲池,能够缓存数据和索引 MySQL 架构设计—应用架构 强一致性 对读一致性的权衡,如果是对读写实时性要求非常高的话, 就将读写都放在 M1 上面, M2 只是作为 standby 。 访问频繁,考虑 访问频繁,考虑 Master/Slave Master/Slave 读写分离;数据库分表、数据库切片(分 读写分离;数据库分表、数据库切片(分 布式),也考虑使用相应缓存服务帮助 布式),也考虑使用相应缓存服务帮助 MySQL MySQL 缓解访问 缓解访问 压力 压力 系统优化 系统优化 配置合理的 配置合理的 MySQL MySQL 服务器,尽量在应用本身达到一 服务器,尽量在应用本身达到一 1024 MySQL 服务器同时处理的数据库连接的最大 数量 query_cache_size 0 ( 不打开 ) 128M 查询缓存区的最大长度,按照当前需求,一 倍一倍增加,本选项比较重要 sort_buffer_size 512K 128M 每个线程的排序缓存大小,一般按照内存可 以设置为 2M 以上,推荐是 16M ,该选项对 排序 order by , group by 起作用 record_buffer0 码力 | 38 页 | 2.04 MB | 1 年前3
清华大学 DeepSeek+DeepResearch 让科研像聊天一样简单家机制,解决了专家模块工作量不平 衡的问题。 混合专家(MoE)架构 通过低秩压缩减少推理时的内存占用, 同时保持与传统多头注意力(MHA) 相当的性能。MLA在训练中减少了 内存和计算开销,在推理中降低了 KV缓存占用空间。 多头潜在注意力(MLA)机制 通过序列化预测未来多个令牌,增强 模型的上下文建模能力,并支持推测 解码加速推理。MTP在特定场景下同 时预测多个令牌,提高信号密度,减 少上下文漂移和逻辑连贯性问题。 其他国际大公司的训练成本。这种低成本策略使得更多企业和开发 者能够负担得起高性能 AI 模型的训练和使用。 调用成本:DeepSeek R1 的 API 服务定价为每百万输入 tokens 1 元(缓存命中)/4 元(缓存未命中),每百万输出 tokens 16 元, 输出 API 价格仅为 OpenAI o1 的 3%。这种低廉的 API 价格进一 步降低了使用门槛。 DeepSeek R1 采用 MIT 6万美元 0.14美元(缓存未命中) / 0.014美元(缓存命中) 0.28美元 DeepSeek-R1 未明确(推测低于V3) 0.14美元(缓存命中) / 0.55美元(缓存未命中) 2.19美元 OpenAI GPT-4o 10亿美元 2.5美元(缓存未命中) / 1.25美元(缓存命中) 10美元 OpenAI o1 未明确 (推测高于GPT-4o) 15美元(缓存未命中) / 70 码力 | 85 页 | 8.31 MB | 8 月前3
MySQL 8.0.17 调优指南(openEuler 20.09)............................................................................................7 3.8 缓存参数调优............................................................................................... I/O,Network I/O,如果是某个硬件指标有问题,需要深入的进行分析。 4. 如果硬件指标都没有问题,需要查看数据库相关指标,例如:等待事件、内存命 中率等。 5. 如果以上指标都正常,应用程序的算法、缓冲、缓存、同步或异步可能有问题, 需要具体深入的分析。 瓶颈点 说明 硬件/规格 一般指的是CPU、内存、磁盘I/O方面的问题,分为服务器硬件瓶 颈、网络瓶颈(对局域网可以不考虑)。 操作系统 一般指 3.2 网卡中断绑核 3.3 关闭numa_balancing 3.4 关闭sched_autogroup 3.5 关闭唤醒抢占 3.6 网络参数调优 3.7 IO 参数调优 3.8 缓存参数调优 3.9 内核优化 3.10 mysql进程绑核 3.1 关闭 irqbalance 目的 关闭irqbalance,通过手动绑定中断的方法优化性能。 方法 步骤1 停止irqbalance服务。0 码力 | 11 页 | 223.31 KB | 1 年前3
GPU Resource Management On JDOS常规的容器服务 ,使用 gpu 的 zone , 自行设定相应的镜像即 可,有完善的周边服务 训练服务 • 提供基于 kubeflow 的分布式训练方案 – 界面化操作,用户提供代码地址和执行命令即可 – 系统内建支持安装 pip 依赖 – 自制存储插件支持分布式文件系统存储用户数据 – 支持官方镜像,不需要 JDOS 提前协助制作镜像 – 提供 tensorboard 作为训练监控实时查看训练状态0 码力 | 11 页 | 13.40 MB | 1 年前3
基于go和flutter的实时通信/视频直播解决方案 段维伟com/pion Pion 介子 纯Go语言的WebRTC 全家桶 作者: Sean DuBois ION 离子之光 分布式实时通讯系统 https://github.com/pion/ion • 基于pion/webrtc 开发 pion/ion-sfu • 分布式架构 • 基于grpc over NATS mq • 使用redis 存储媒体流全局位置 • 支持业务自定义开发 •0 码力 | 38 页 | 2.22 MB | 1 年前3
基于 KUBERNETES 的 容器器 + AI 平台Kubeflow 社区的联合创始⼈人 • kubeflow/tf-operator • 定义 TFJob Spec (CRD) • 跟踪 TensorFlow 任务运⾏行行状态 • ⽀支持分布式 TensorFlow 任务 KUBEFLOW 之上 • 借⼒力力容器器平台提供⽣生产级的集群资源管理理 • ⼯工作区隔离与共享 • 数据、模型、环境、应⽤用等 • 全⾯面⽀支持 AI0 码力 | 19 页 | 3.55 MB | 1 年前3
共 12 条
- 1
- 2













