Rust 异步 Runtime 的兼容层 施继成 @ DatenLord Introduce what’s rust async runtime # Rust async runtime Analyze the reason of runtime isolation # Async runtime binding # Compatible layer 1 Create a wheel

Golang 在接入层长连接服务中的实践 黄欣 基础平台－架构部 目录 • 背景 • 架构 • 心得 目录 • 架构 • 心得 背景—why 长连接？ • 业务场景 – 大量实时计算 • 司机乘客撮合 • 实时计价 – 高频度的数据交互 • 坐标数据 • 计价数据 – App和服务端双向可达 • 上行（抢单） • 下行（派单） 背景—why golang？ • 开发效率 整体架构图 架构—接口设计 • 原则 – 扩展性 – 稳定性（最好不用升级） • 解决方法 – Protobuf（golang） – 接口设计分层 • 框架层：模块间通信协议（类似tcp/udp） • 业务层：bytes（类似应用层）留给业务自己定义就好了 架构—性能 • conn svr 架构—集群扩展 • Proxy本身无限扩容（无状态） • 依赖的存储可无限扩容（状态交给存储）

推荐序 7 前⾔ 9 序言 9 简介 13 Nacos 简介 13 Nacos 架构 17 Nacos 总体设计 17 Nacos 架构 17 Nacos 配置模型 21 Nacos 内核设计 28 Nacos ⼀致性协议 28 Nacos 自研 Distro 协议 38 Nacos 通信通道 42 Nacos 寻址机制 56 Nacos 服务发现模块 63 Nacos 注册中心的设计原理 务最佳实践。 随着我们选择三合⼀的开源模式，又面临另外⼀个问题，未来内部和商业化关系是什么，代码关系 是什么？ 这个问题应该说⼀直持续，但是我们定下来开源、自研、商业化三位⼀体的战略，以开源为内核， 以商业化为扩展；开源做生态，商业化做企业级特性，阿里内部做性能和高可用；开源做组件，商 业化做解决方案；并且随着时间推移，基本按照这思路完成的正循环，全面系统的打造了 Nacos 各 个维度的能力。 十⼀的洪峰考验，沉淀了简单易用、稳定可靠、性能卓越的核心竞争力。 随着云计算兴起，2018 年我们深刻感受到开源软件行业的影响，因此决定将 Nacos（阿里内部 Configserver/Diamond/ Vipserver 内核） 开源，输出阿里十年的沉淀，推动微服务行业发展，加速企业数字化转型！ 简介 < 14 Nacos 定位 Nacos/nɑ:kəʊs/ 是 Dynamic Naming and Configuration

下图 4 为 EfficientRep Backbone 具体设计结构图，我们将 Backbone 中 stride=2 的普通 Conv 层替换成了 stride=2 的 RepConv 层。同时，将原始的 CSP-Block 6 > 2022年美团技术年货 都重新设计为 RepBlock，其中 RepBlock 的第一个 RepConv 会做 channel 维度 的变换和对齐。另外，我们还将原始的 Head）结构，并对其进行了 精简设计。原始 YOLOv5 的检测头是通过分类和回归分支融合共享的方式来实现的， 而 YOLOX 的检测头则是将分类和回归分支进行解耦，同时新增了两个额外的 3x3 的卷积层，虽然提升了检测精度，但一定程度上增加了网络延时。 因此，我们对解耦头进行了精简设计，同时综合考虑到相关算子表征能力和硬件上计 算开销这两者的平衡，采用 Hybrid Channels 策略重新设计了一个更高效的解耦头 训练的 YOLOv6 模型可以直接 使用训练后量化（Post-training Quantization，PTQ），而不产生过大的精度损失。 在这一基础上，我们分析了各层的量化敏感性，将部分敏感层以更高精度运算，进 一步提升了模型的精度。另外，我们同时发布了针对 2.0 版本的基于逐通道蒸馏 的 量 化 感 知 训 练 方 案 （Quantization-aware Training，QAT），

为什么要 4KB ？原来现在操作系统管理内存是用分页 （ page ），程序的内存是一页一页贴在地址空间中的， 有些地方可能不可访问，或者还没有分配，则把这个页设 为不可用状态，访问他就会出错，进入内核模式。 • 因此硬件出于安全，预取不能跨越页边界，否则可能会触 发不必要的 page fault 。所以我们选用页的大小，因为本 来就不能跨页顺序预取，所以被我们切断掉也无所谓。 • 另外，我们可以用 malloc 时，操作系统并不会实际分配那一块内存，而是将这一段内存标记 为“不可用”。当用户试图访问（写入）这一片内存时，硬件就会触发所谓的缺页中断 （ page fault ），进入操作系统内核，内核会查找当前进程的 malloc 历史记录。如果发 现用户写入的地址是他曾经 malloc 过的地址区间，则执行实际的内存分配，并标记该段 内存为“可用”，下次访问就不会再产生缺页中断了；而如果用户写入的地址根本不是他 初始化数组时，内存被写入，所以操作系统这时候才开始实际分配内存。 • 刚才的案例里，不会初始化的 malloc ，第一次往里面赋值时，因为这时操作系统还没有给 这个数组分配内存，所以会触发缺页中断，进入操作系统内核给数组分配内存，是内核执 行内存分配的这个动作，花费了额外的时间。而第二次因为内存已经被分配上了，所以再 次访问也不会触发缺页中断，所以看起来比第一次快很多。 进一步：分配是按页面（ 4KB ）来管理的 •

箭头所示）。从功能角度，大体上分为四层：数据层、 服务层、接入层和监控层。 APPKIT打造稳定、灵活、高效的运营配置平台 - 美团技术团队 4.1 数据层 4.1 数据层 数据层作为最底层的数据存储，其保存了最基本的运营后台数据、流程数据和线上数据。对持久化的数 据，我们采用MySQL进行存储；对于缓存数据，我们采用了Redis的解决方案。这样数据层形成基本的两 级存储结构：MySQ 操作都记录在这 里；流程数据，运营人员操作完成后，提供发布流程，预览及审核都在流程数据里进行；线上数据，审核 通过后，数据同步到线上数据，最终C端用户获取到的数据都是来源于线上数据。 谈到数据层，这里我们遇到了存储上的一个小问题。按城市运营的每条数据，都需要存储具体的城市ID列 表，其在数据库里的存储为 “1,2,3,4…… ”这样字符串。而这种数据存储在业务请求和条件过滤过程中， 存在着如下两个问题： 们既解决了大数据存储对 内存的消耗问题，又解决了城市过滤的性能问题。 4.2 服务层 4.2 服务层 服务层向下对底层数据进行操作；向上为接入层获取数据提供接入能力。其提供四个服务能力：运营后 台、开放平台、数据服务、APPKIT-SDK，如下表所列： 服务层 4.3 接入层 4.3 接入层 接入层主要为运营人员、业务研发提供接入能力。通过运营流程化为事前、事中、事后提供保障。一个运

展望2022：待解决的问题 • 总结 3 Service Mesh 回顾 Service Mesh 回顾 4 由开发了 Linkerd 的Buoyant 公司提出 服务网格是一个基础设施层，用于处理服务间通信。云原生应用有着复杂的服务拓扑，服 务网格负责在这些拓扑中实现请求的可靠传递。在实践中，服务网格通常实现为一组轻量 级网络代理，他们与应用程序部署在一起，而对应用程序透明。 Service 标准 API 标准 API 标准 API 名字含义 26 OSI模型 物理层 数据链路层 网络层 传输层 会话层 表示层 应用层 Layotto Layer8 Layer + 8 七层模型 Layer + otto（意大利语） Layotto（L8） OSI App 第八层 27 问题 解决了 吗？ Runtime API 28 如何解决厂商绑定的 runtime … 36 是不是感觉有点像？ 别急， 再看看他们面临的设计问题…… 另一种视角看待 Runtime API 37 设计OS kernel: 宏内核(Monolithic Kernel) 还是 微内核(Micro Kernel)？ Kernal mode User mode FS IPC VM Multiplex shell ls app …… Different

编译XuperChain 2. XuperChain基本操作 2.1. 部署xchain服务 2.2. 基本功能的使用 技术设计文档: 1. XuperModel 2. XuperBridge 2.1. 内核调用设计 2.2. KV接口与读写集 2.3. 合约上下文 3. XVM虚拟机 3.1. 背景 3.2. WASM简介 3.3. WASM字节码编译加载流程 3.4. 语言运行环境 3.5. XuperBridge对接 模块 模块 特性 存储 XuperChain的底层存储基于KV数据库，存储的数据包括区块数 据、交易数据、账号 余额、DPOS投票数据、合约账号数据、智能 合约数据等，上链的数据全部持久化到底 层存储。不同的链，存 储独立。底层存储支持可插拔，从而可以满足不同的业务场景 网络 负责交易数据的网络传播和广播、节点发现和维护。以P2P通信为 基础，实现全分布式 结构化拓扑网络结构，数据传输全程加密。 部分是合约预执行时的示意图，右 边部分是合约验证时的示意图： XuperModel合约验证 2. XuperBridge 2.1. 内核调用设计 XuperBridge为所有合约提供统一的合约接口，从抽象方式上类似于linux内核 对应于应用程序，内核代码是一份，应用程序可以用各种语言实现，比如 go,c。类比到合约上就是各种合约的功能，如KV访问，QueryBlock, QueryTx

编译XuperChain 2. XuperChain基本操作 2.1. 部署xchain服务 2.2. 基本功能的使用 技术设计文档: 1. XuperModel 2. XuperBridge 2.1. 内核调用设计 2.2. KV接口与读写集 2.3. 合约上下文 3. XVM虚拟机 3.1. 背景 3.2. WASM简介 3.3. WASM字节码编译加载流程 3.4. 语言运行环境 3.5. XuperBridge对接 模块 模块 特性 存储 XuperChain的底层存储基于KV数据库，存储的数据包括区块数 据、交易数据、账号 余额、DPOS投票数据、合约账号数据、智能 合约数据等，上链的数据全部持久化到底 层存储。不同的链，存 储独立。底层存储支持可插拔，从而可以满足不同的业务场景 网络 负责交易数据的网络传播和广播、节点发现和维护。以P2P通信为 基础，实现全分布式 结构化拓扑网络结构，数据传输全程加密。 部分是合约预执行时的示意图，右 边部分是合约验证时的示意图： XuperModel合约验证 2. XuperBridge 2.1. 内核调用设计 XuperBridge为所有合约提供统一的合约接口，从抽象方式上类似于linux内核 对应于应用程序，内核代码是一份，应用程序可以用各种语言实现，比如 go,c。类比到合约上就是各种合约的功能，如KV访问，QueryBlock, QueryTx