大规模分布式系统架构下调测能力构建之道 李鑫 大纲 分布式环境下开发的调测效率问题 应对之道 远程应用服务 契约测试 分布式消息服务 分布式缓存 分布式服务的“租户”隔离策略 总体调测框架实践 分布式环境下调测方法论 单体应用 服务化 微服务 小中型规模应用+小型团队 中大型规模应用+多团队协同 Cache DB NFS Load Balancer 解决之道：通过技术手段，降低系统对外部的依赖，而“MOCK”，是最 有效的手段。 分布式服务框架mock能力构建 应用 服务容器（Consumer） Filter Chain 将mock能力内置到分布式服务框架中 开发mock能力过滤器，在服务调用链路上对服务调用进行挡截。 “开关机制”控制mock能力启停 mock能力启用时，服务容器初始化期间将加载mock数据文件到内存中，每个服务请求将和mock数据的入参定 校验接口清单 远程接口A 测试报告 服务注册中心 服务列表 …… 远程接口B … 邮件发送 调用 并 比对结果 CI构建流程 response request 应用服务综合mock能力 在实际应用场景中，应用所依赖的服务往往很分散： 一部分依赖服务从本机的Runtime环境即可获取， 一部分需要从协同团队的远程开发机上临时获取（联调模式）， 一部分服务可能还未完成开发并发布，需要通过mock机制进行模拟。

supports incremental, guided change as a first principle across multiple dimensions. 在多维度上，刻意引导下的增量改变作为第一原则。 Any organization that designs a system will produce a design whose structure is a copy Conway, 1967 FROM: 隔离的功能性团队，只对隔离的应用架构负责。 TO: 跨职能的团队，对业务能力端到端负责。 多维度 Multiple Dimensions evolvability 安全架构 领域架构 … … 增量变化 Incremental Change v∝c where c = cycle time v = maximum

Cellar—中心节点架构演进 • 性能问题 客户端集中获取路由表 • 隔离性问题 中心节点暴露给客户端 单独的路由表获取模块 Cellar—中心节点架构演进 • 可扩展性： 路由查询能力 可线性扩展 • 隔离性： 客户端与中心节点 完全隔离 Cellar—中心节点架构演进 一致性 • 主备脑裂 • observer与config • Zookeeper选主 • 元数据Zookeeper存储 Cellar—节点高可用 Cellar—节点高可用 • 秒级容灾 无数据迁移 • 节点静默升级 中心节点 A节点 1分片主 2分片备 B节点 1分片备 2分片主 分片1复制 回写增量log 分片2复制 分片2复制 分片1复制 客户端 分片1&2 log Cellar—异地容灾 • 多机房建设 网络延迟大 专线稳定性差 • 异地容灾需求 跨集群数据同步 Cellar—异地容灾

supports guided, incremental change across multiple dimensions. 演进式架构⽀支持 在各个架构设计维度上， 沿着特定⽅方向进⾏行行频繁增量量式变更更。 guided 沿着特定⽅方向（guided）的演进 guided 架构“适应性函数 （Architectural Fitness Functions）” 对⼀一些架构特征提供客观的⼀一致性评估。 component component component component component microservice container ⼤大泥泥球 ⼤大量量⼦子尺⼨寸的应⽤用阻碍频 繁增量量变更更，因为⾼高耦合 性需要⼀一次部署⼤大量量代码、 ⼤大量量的应⽤用。 单例例架构 ⾮非结构的单例例架构 user interface Class Class Class Class supports guided, incremental change across multiple dimensions. 演进式架构⽀支持 在各个架构设计维度上， 沿着特定⽅方向进⾏行行频繁增量量式变更更。 THANK YOU @neal4d nealford.com @patkua @rebeccaparsons

Doordash 美团外卖 饿了么 点我达 闪送 UU跑腿 海内外掀起一波创业浪潮 美团配送系统：机器与海量骑手协作，服务于全国商家与用户 履约能力 实现平台对运单调度的实时把控，对运单与运力的供需匹配 运营效率 加强对配送骑手的管控能力 提升配送全业务的运营效率，降低成本 履约流程：下单 -> 派单 -> 接单 -> 取货 -> 送达… 业务团队：招聘、采购、物料、培训、薪酬、保险 基础设施不断升级 与 用户消费升级 促使即时配送全面信息化 人工智能 大数据 GPS+GIS 移动互联网 智能手机/APP • 预测供需结构，智能派单调度 • 评估难度、ETA、骑手能力等数据 • 定位越来越精准，地图与导航逐渐成熟 • 实时移动的信息传递通路 • 线下配送的全过程纳入信息环境 1.基础设施不断完善 配送业务全面信息化是必然趋势 2.用户消费升级 数据来源：智研咨询 运营复杂度高：定义科学的订单供给与运力结构，并精准调控 • 安全管理：用户安全、商家安全、骑手安全 履约SLA要求高，重线下业务运营 配送系统的技术定位与思路 初期造工具，解决能不能 长期造壁垒，实现降维打击能力 从支撑业务到驱动业务 美团配送业务介绍 01 Agenda 02 MVP阶段 03 规模化阶段 04 精细化阶段 MVP阶段 业务从零到一 快速迭代、业务试错 核心链路MVP、主流程跑通

版本更新 无感知，轻量级更新 更新麻烦，审核周期长 服务触达 利用微信载体，消息通知更简单 APP消息，打扰多，用户遗漏概率大 拓展性 程序包小，可以关联调转 无大小限制，调转较难 智能化服务能力 微信自带组件，对接更容易 需根据场景单独对接，如人脸识别、支付等 产品自主性 需依托微信平台 完全自主可控 数据安全性 微信前端数据通过HTTPS传输 全业务流程数据传输监控 使用路径 微信端二级应用 经在很多分布式系统中得 到广泛的使用。Etcd采用raft协议，来保证一致性。 2.后台服务采用Go开发，围绕业务功能需求，构建后台服务模块 包括个人中心、服务、待办服务、证照服务、公共服务、外部能力、业务办理服务和运营管理服务模块 12、系统部署架构反复评审论证 一、部署架构 1、政务云电子政务外网 ：数据库、应用服务 2、政务云互联网区：静态资源、网关 3、互联网区：小程序、云服务 4、开放的更多公共能力、云能力、AI能力 23、对政务应用系统架构师的建议 1、互联网+政务、还是政务+互联网？ 重新理解政务服务互联网化的技术路径。 2、重新理解客户方的技术需求 是以项目验收为目标，还是以用户价值、持续运营 为目标 3、拓宽政务领域知识， 以专业技术经验、创新技 术方案带动创新 推荐阅读 1、公众号：我为领导试APP、数旗智酷 2、国家行政学院省级政务网上政务服务 能力调查评估报告(2017、2018)

设计和验证高可用分布式系统的工具与方法 Ø 设计和验证高可用分布式系统的案例分享 Ø 高可用系统的最佳实践总结 无状态分布式系统的高可用问题 处理消息的服务节点可以随机选择 不必处理数据复制和同步的问题 系统容量和高可用能力可以同步提升 服务节点可以随意迁移，不必固定 IP 和存储 有状态分布式系统的高可用问题 一致性 可用性 分区容错性 Paxos Raft 2PC Gossip Ø 处理请求需要特定节点 有一个统一的状 态持久化接口， 所有有状态模块 通过统一的接口 对应统一的对象 模型 配置模块对象只 需要包括 Desired State 每个领域的控 制器模块的逻 辑保证自己领 域独立自愈的 能力 改变状态的操作 必须是幂等的声 明式操作，没有 新声明时各模块 按照之前的声明 继续工作 控制器模块对象 包括Desired State 和 Realized State 声明式自愈系统的控制器协调循环 每个模块都可以在出错后自动恢复 假设任何命令都可能被任何调用对象拒绝，甚至返回错 误结果 声明式自愈系统的现有框架——Kubernetes 声明式自愈系统设计理念的回顾 统一接口 和对象模 型 自愈 能力 幂等操 作和状 态机 DS 和 RS Desired State 可重用部分 已完全实现 要在领域内 自己实现 如何设计好状态机和自愈协议？ Writing Correct Software

www.163yun.com ZIP源码包 持续集成 重新开发 迭代修改 个性开发 统一模版 接口统一 利于复用 文档一致 减少沟通 某视频监控企业：IT资产沉淀与IT能力复用 持续集成 容器化 注册发现 服务管理 www.163yun.com 开发集群 测试集群 CICD (开发流程管理) 流水线管理 代码 检出 代码 编译 服务间直接调用，依赖混乱 • 调用记录无迹可寻 • 环境与接口规范缺失，维护困难 • 安全靠白名单各自为战 • 调用统计与分析无从谈起 • 无服务治理能力，或各自造轮子 www.163yun.com API网关 37 • API网关带来的能力 - 请求透明代理与路由 - 调用审计 - 统一API规范与接口管理 - 基于ak/sk的认证鉴权 - 服务/API审计与调用分析

今年我们要落地业务中台架构 用户基础服务 交易服务 商品服务 关系服务 广告服务 业务域A 业务域B 业务域C 业务域D 业务组件/中间件 电商业务 内容业务 直播业务 算法支撑 中间件 计算框架 平台工具 云的能力 什么是架构师的业务思维？ 站在业务方的视角，在理解业务发展目标、看清业务发展方向的前提下，做出技术和业务的平衡 站在业务方的视角，在理解业务发展目标、看清业务发展方向的前提下，做出技术和业务的平衡 不断的优化和迭代 试错远远大于成功 新需求频繁 组件化 规则配置化 流程编排 玩法天生就是一个不断试错的业务 组件化+数据监控+业务复盘 数据跟踪和定量跟踪 跳出技术思维 需要的快速试错并拿到结果的能力 理解清楚当前需求 具有业务前瞻性 不要过度设计 怎么运用？CASE II 让时间回到2016年 电商平台 促销玩法 渠道下单 渠道计价 渠道详情页 If else 业务上会有更多类似玩法

照搬行业实践不一定合适 层次简单化 缩减层次，效率优先 混合语言，效率低下 研发体系和流程 研发体系框架搭建 人解决一切 技术简单化 不要追求炫酷，简单实用即可，根据团队成员能力量体裁衣 先跑起来，然后找合适时间进行优化，合适的平衡 简单清晰，效率优先，能用一个人解决的事情，决不安排两个人 利用开源和成熟产品，不重复发明轮子，比如使用AWS等 招人要慢，辞退要快 招人要慢，辞退要快 找到合适的人真的是一件很难的事情 不合适的人要怎么处理也是一件很难的事情 找人永远是最重要的事情，不要吝啬你的时间和精力 除了专业能力，文化和创业精神很重要 辞退要迅速，过程要明确和清晰 永远不要忽视沟通的作用和力量 沟通的力量 观念和思维的碰撞，不同文化不同背景快速聚集带来的必然摩擦 不就是这里改一下么，不就是流程调整一下么？