Rust 异步 Runtime 的兼容层 施继成 @ DatenLord Introduce what’s rust async runtime # Rust async runtime Analyze the reason of runtime isolation # Async runtime binding # Compatible layer 1 Create a wheel

第三届中国 Rust 开发者大会 Rust 异步并发框架在移动端的应用 陈明煜 chenmingyu4@huawei.com 华为 公共开发部 嵌入式软件能力中心 本科就读加州大学圣地亚哥分校，毕业时长两年半， Rustacean 在 华为 目前正在使用 Rust 开发并行调度框架等模块。 Rust 异步并发框架在移动端的应用 陈明煜 chenmingyu4@huawei.com 华为 公共开发部 嵌入式软件能力中心 Applications of Rust Runtime in Mobile Overview of asynchronous Rust #1 Rust 异步简介 Ylong async runtime #3 Ylong Runtime 并发框架 目录 Table of Contents #2 社区并发框架介绍以及与移动端的不适配性 Introduction environment Rust 异步机制 Asynchronous Rust 异步并发框架是许多大型应用、系统具备的底层能力。 区别于多线程编程模型，它带来以下优势：  任务调度颗粒度更小，充分利用线程资源  更可控的线程数  单个任务资源占用：几十 KB -> 几百 Byte  任务切换时间 : 10 微秒 -> 100 纳秒 Rust 语言并没有提供异步并发框架， 只提供异步所需的基本特性：

没有十全十美的微服务框架，适合的才是最好的  微服务API设计：支持Swagger API规范  开发方式：支持透明RPC、Spring MVC风格的微服务开发  编程模型：同时支持同步、异步的编程模型  性能：支持原生的Reactive模式（EventLoop），相比于传 统的同步服务调用，性能更高（吞吐量N倍+提升、时延降低 为原来的50%-）  轻量级、易集成：可以方便的与Spring 实践-同步和异步 Website: http://servicecomb.incubator.apache.org/ Gitter: https://gitter.im/ServiceCombUsers/Lobby 不一刀切，根据业务实际需要选择同步或者异步微服务调用 微服务消费端 业务 线程 池 异步 I/O线 程池 NIO异步通信 微服务提供端 NIO异步通信 业务线程阻塞， 微服务同步调用问题： 1、同步服务调用：业务线程将请求消息交给I/O线程之后， 无论I/O线程是同步还是异步发送请求消息，业务线程都会 同步阻塞，等待响应 2、异步I/O通信：I/O通信方式与服务调用方式没关联关 系，无论是同步服务调用还是异步服务调用，I/O通信都 可以采用异步非阻塞模式 同步服务调用的几个缺点： 1、业务线程利用率低：线程资源是系统中比较重要的资源， 在一个进

System 文件系统 (注：同步与异步方式是指同步或异步于程序执行，并非函数彼此之间的同步关系。) 文件的 I/O 是由标准 POSIX 函数封装而成。需要使用"require('fs')"操作这个类。所有的方法设有异步方式和同步 方式。 异步形式下的方法其最后一个参数，总是一个完整的回调函数（callback）。这个回调函数有那些参数，就取决 于异步方法怎么送入参数，但通常来说，第一个 送入的参数是异常对象。如果是没有任何问题的操作，那么这 个异常对象就变为 null 或者 undefined，表示操作正常。 异步方式的例子： var fs = require('fs'); fs.unlink('/tmp/hello', function (err) { if (err) throw err; console.log('successfully deleted /tmp/hello'); 最新版文档：wiki.grati.org QQ 群：53090214 共同学习 NodeJS，欢迎加入。 25 console.log('successfully deleted /tmp/hello'); 异步函数没有一定的顺序，所以以下例子容易发生错误： fs.rename('/tmp/hello', '/tmp/world', function (err) { if (err) throw err;

的部分构成的并发类型时需要多加小心，以确保 维持其安全保证。“The Rustonomicon” 中有更多关于这些保证以及如何维持它们的信息。 总结 这不会是本书最后一个出现并发的章节：下一章我们会专注于异步编程，并且第二十一章的项 目会在更现实的场景中使用这些概念，而不像本章中讨论的这些小例子。 373/562Rust 程序设计语言 简体中文版 正如之前提到的，因为 Rust 本身很少有处理并发的部分内容，有很多的并发方案都由 过它仍然可以并发工作。借助像线程、进程和异步（async）等工具，计算机可以暂停一个活 动，并在最终切换回第一个活动之前切换到其它活动。在一个有多个 CPU 核心的机器上，它 也可以并行工作。一个核心可以做一件工作的同时另一个核心可以做一些完全不相关的工作， 而且这些工作实际上是同时发生的。 当使用 Rust 中的 async 时，我们总是在处理并发。取决于硬件、操作系统和所使用的异步运 行时（async runtime）– runtime）– 稍后会介绍更多的异步运行时！并发也可能在底层使用了并行。 现在让我们深入理解 Rust 的异步编程实际上是如何工作的！在接下来的章节中，我们将： • 学习如何使用 Rust 的 async 和 await 语法 • 探索如何使用异步模型来解决第十六章中遇到的一些挑战 • 了解多线程和异步如何互补，在很多场景中你甚至可以同时使用两者 377/562Rust 程序设计语言 简体中文版

need to use it. If you do need it, look at the header file deps/libeio/eio.h. libeio，基于 C 的线程池库，用于以异步方式执行阻塞式 POSIX 系统调用。 因为大部分这类调用都在 src/file.cc 中被封装了，你一般不需要直接使 用 libeio。如果必须使用该类库时，可查看其头文件 deps/libeio/eio function is asynchronous. The last parameter callback will be called when the server has been bound. 此函数是异步的。最后一个参数 callback 所指定的回调函数会在服务器绑定 完成后被调用。 See net.Server for more information. 更多信息参见 net.Server。 asynchronous, the server is finally closed when the server emits a 'close' event. 关闭服务器，停止接受新的连接请求。此函数是异步的，当服务器触发一个 'close'事件时才真正被关闭。 server.maxConnections Set this property to reject connections when

微服务化让问题更更凸 显 • RT 累积
 
 RT 与 ⽤用户增⻓长 RT 累积带来成本 • 过早引⼊入 cache • 每个服务都在设置超 时 维护成本、业务实现复 杂化 天⽣生异步的架构 流 Stream / Flow / Flux 什什么是流 • ⼀一个流是顺序串串⾏行行执⾏行行的 • 多个流之间才可能是并⾏行行的 Your Mouse is a Database buffer(10, MILLISECONDS, 16) .flatMap(service::batchOps) 流 - 并发控制 切过 Scheduler是指： • 远程调⽤用已经异步化，所以是已经且过 Scheduler • 可以⼿手⼯工切 Scheduler (subscribeOn / observeOn) 业务顺序编写 并发⽅方式执⾏行行 • 不不同的流 • ⽆无依赖 map(Result::getData) .reduce(0, (acc, data) -> acc + data); 流 - 性能 全异步、流式 CPU数个业务线程 更更少的上下⽂文切换、更更少(⽆无)的竞争、更更低的LOAD 业务等效依赖的异步并发 更更⾼高效的资源利利⽤用率 Universal Scalability Law 系统流⽔水线并⾏行行处理理 流 - 分布式 �

同步写法存在问题 算法效率低下 计算逻辑和⽹网络io是串串⾏行行的，不不相关 的计算逻辑和⽹网络io本可以并⾏行行，以 提⾼高效率 算法逻辑和⽹网络逻辑耦合 有⼤大量量的数据序列列化以及异步转同步 的⽹网络流程代码，算法本身不不应该关 注⽹网络相关逻辑 嵌套调⽤用其他算法复杂 在需要调⽤用其他算法时（OT，SS 等），都需要⼿手动编写⼀一遍类似的流 程，嵌套调⽤用逻辑冗余度⽐比较⾼高 同步写法存在问题 算法效率低下 计算逻辑和⽹网络io是串串⾏行行的，不不相关 的计算逻辑和⽹网络io本可以并⾏行行，以 提⾼高效率 算法逻辑和⽹网络逻辑耦合 有⼤大量量的数据序列列化以及异步转同步 的⽹网络流程代码，算法本身不不应该关 注⽹网络相关逻辑 嵌套调⽤用其他算法复杂 在需要调⽤用其他算法时（OT，SS 等），都需要⼿手动编写⼀一遍类似的流 程，嵌套调⽤用逻辑冗余度⽐比较⾼高 任务状态 校验多⽅方输⼊入 格式是否匹配 参与⽅方掉线 检测 算 法 管 理理 异 常 处 理理 算 法 实 例例 ADD CMP PIR PSI 优点 01.算法流程基于数据驱动异步执⾏行行 异步执⾏行行并⾏行行化，提⾼高算法性能 02.算法版本协商 实现新旧节点版本兼容，全⽹网节点可错 开时间依次升级 03.统⼀一异常处理理 参与⽅方掉线和流程异常时任务⾃自动终⽌止 04

3 并发编程：上午练习 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320 XIV 并发：下午 326 63 异步 Rust 327 63.1 async/await . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327 63.4 任务 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330 63.5 异步通道 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330 64 Futures Control 65.2 Pin . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336 65.3 异步特征 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338 65.4 消除 . . . .

Replication（下）：事务，一致性与共识 818 TensorFlow 在美团外卖推荐场景的 GPU 训练优化实践 855 CompletableFuture 原理与实践 - 外卖商家端 API 的异步化 879 工程效能 CI/CD 之流水线引擎的建设实践 912 美团外卖搜索基于 Elasticsearch 的优化实践 933 美团图灵机器学习平台性能起飞的秘密（一） 953 升，但是依然无法 暂停和取消动画。 前端 < 445 code-js 异步 async function 的方案已经比较好用了，但是主要问题是一旦执行就不能暂停或取 消，因此我们基于 generator function 封装成了类 async function，可以做到随时 暂停或取消，下面是使用封装的异步动画调度器与各种工具 helper 写的动画模块业 务代码。 code-vue code-vue 实践 整体方案主要有以下几个功能： ● $ae 是基于 generator function 封装的异步工具库 async-eraser，Can- celToken 是停止生成器运行的取消令牌。 446 > 2022年美团技术年货 ● 定制开发了支持异步事件的 EventEmitter，emit 函数会返回一个 Promise， resolve 时就会得知 emit 的动画已经执行完毕，使