）。 • 并行能减轻计算瓶颈，但不减轻内存瓶颈，故后者是优化的重点 。 浮点加法的计算量 • 冷知识：并行地给浮点数组每个元素做一次加法反而更慢。 • 因为一次浮点加法的计算量和访存的超高延迟相比实在太少了。 • 计算太简单，数据量又大，并行只带来了多线程调度的额外开销 。 • 小彭老师经验公式： 1 次浮点读写 ≈ 8 次浮点加法 • 如果矢量化成功（ SSE ）： 1 次浮点读写 cycle ， 符合小彭老师的经验公式。 • “right” 和“ wrong” 指的是分支预测是否成功。 多少计算量才算多？ • 看右边的 func ，够复杂了吧？也只是勉勉强强超过一 点内存的延迟了，但在 6 个物理核心上并行加速后， 还是变成 mem-bound 了。 • 加速比： 1.36 倍 • 应该达到 6 倍（物理核心数量）才算理想加速比。 加速曲线 • funcA 用了 可见数据量较小时，实际带宽甚至超过了 理论带宽极限 42672 MB/s ！ • 而数据量足够大时， 才回落到正常的带宽 。 • 这是为什么？ CPU 内部的高速缓存 • 原来 CPU 的厂商早就意识到了内存延迟高，读写效率低 下的问题。因此他们在 CPU 内部引入了一片极小的存储 器——虽然小，但是读写速度却特别快。这片小而快的 存储器称为缓存（ cache ）。 • 当 CPU 访问某个地址时，会先查找缓存中是否有对应的

顺便介绍了类型不确定值和类型推断 第8章：运算操作符 - 顺便介绍了更多的类型推断规则 第9章：函数声明和调用 第10章：代码包和包引入 第11章：表达式、语句和简单语句 第12章：基本流程控制语法 第13章：协程、延迟函数调用、以及恐慌和恢复 Go类型系统 第14章：Go类型系统概述 - 精通Go编程必读 第15章：指针 第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 不同于继承的类型扩展方式 第25章：非类型安全指针 第26章：泛型 - 如何使用和解读组合类型 第27章：反射 - reflect标准库包中提供的反射支持 一些专题 第28章：代码断行规则 第29章：更多关于延迟函数调用的知识点 第30章：一些恐慌/恢复用例 第31章：详解panic/recover原理 - 也解释了什么是“函数退出阶段” 第32章：代码块和标识符作用域 目录 2 第33章：表达式估值顺序规则 支持多态（polymorphism）。 使用接口（interface）来实现裝盒（value boxing）和反射 （reflection）。 支持指针。 支持函数闭包（closure）。 支持方法。 支持延迟函数调用（defer）。 支持类型内嵌（type embedding）。 支持类型推断（type deduction or type inference）。 内存安全。 自动垃圾回收。 良好的代码跨平台性。

顺便介绍了类型不确定值和类型推断 第8章：运算操作符 - 顺便介绍了更多的类型推断规则 第9章：函数声明和调用 第10章：代码包和包引入 第11章：表达式、语句和简单语句 第12章：基本流程控制语法 第13章：协程、延迟函数调用、以及恐慌和恢复 Go类型系统 第14章：Go类型系统概述 - 精通Go编程必读 第15章：指针 第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 不同于继承的类型扩展方式 第25章：非类型安全指针 第26章：泛型 - 如何使用和解读组合类型 第27章：反射 - reflect标准库包中提供的反射支持 一些专题 第28章：代码断行规则 第29章：更多关于延迟函数调用的知识点 第30章：一些恐慌/恢复用例 第31章：详解panic/recover原理 - 也解释了什么是“函数退出阶段” 第32章：代码块和标识符作用域 第33章：表达式估值顺序规则 第34章：值复制成本 支持多态（polymorphism）。 使用接口（interface）来实现裝盒（value boxing）和反射（reflection）。 支持指针。 支持函数闭包（closure）。 支持方法。 支持延迟函数调用（defer）。 支持类型内嵌（type embedding）。 支持类型推断（type deduction or type inference）。 内存安全。 自动垃圾回收。 良好的代码跨平台性。

顺便介绍了类型不确定值和类型推断 第8章：运算操作符 - 顺便介绍了更多的类型推断规则 第9章：函数声明和调用 第10章：代码包和包引入 第11章：表达式、语句和简单语句 第12章：基本流程控制语法 第13章：协程、延迟函数调用、以及恐慌和恢复 Go类型系统 第14章：Go类型系统概述 - 精通Go编程必读 第15章：指针 第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 不同于继承的类型扩展方式 第25章：非类型安全指针 第26章：泛型 - 如何使用和解读组合类型 第27章：反射 - reflect标准库包中提供的反射支持 一些专题 第28章：代码断行规则 第29章：更多关于延迟函数调用的知识点 第30章：一些恐慌/恢复用例 第31章：详解panic/recover原理 - 也解释了什么是“函数退出阶段” 第32章：代码块和标识符作用域 第33章：表达式估值顺序规则 第34章：值复制成本 支持多态（polymorphism）。 使用接口（interface）来实现裝盒（value boxing）和反射（reflection）。 支持指针。 支持函数闭包（closure）。 支持方法。 支持延迟函数调用（defer）。 支持类型内嵌（type embedding）。 支持类型推断（type deduction or type inference）。 内存安全。 自动垃圾回收。 良好的代码跨平台性。

一个粗略的估计值，最后还以一个空的字幕帧结束。 这个选项可能失败，或者出现夸张的持续时间或者合成失败，这是因为数据中有非单调递增的时 间戳。 注意此选项将导致所有数据延迟输出到字幕解码器，它会增加内存消耗，并引起大量延迟。 音频选项 高级音频选项 字幕选项 高级字幕选项 5 选项 - 25 - 本文档使用 书栈(BookStack.CN) 构建 -canvas_size size -dts_delta_threshold ：时间不连续增量阀值。 -muxdelay seconds (input) ：设置最大 解复用-解码 延迟。参数是秒数值。 -maxpreload seconds (input) ：设置初始的 解复用-解码延迟，参数是秒数值。 -streamid output-stream-index:new-value (output) :强制把输出文件中序号为 出来的偏移。这一般用于具有不是从0开始时间戳的文件，例如一些传输流（直播下）。 -thread_queue_size size (input) ：这个选项设置可以从文件或者设备读取的最大排队数据包数 量。对于低延迟高速率的直播流，如果不能及时读取，则出现丢包，所以提高这个值可以避免出 现大量丢包现象。 -override_ffserver (global) :对 ffserver 的输入进行指定。使用这个选项

架构作为模型机的差别都不大，但是 RISC-V 基本指令集的小型浓缩化、功能指令集 的模块化、代码长度的可缩性、访存指令的简洁与灵活性、过程调用的简洁性、特权 模式的可组合性、异常/中断处理的简洁和灵活性，以及无分支延迟槽等诸多特性，都 使得采用 RISC-V 架构进行相关教学更能阐述清楚上层软件与指令集架构之间、指令 集架构与底层微架构之间的密切关系。 在过去数十年，我们一直跟踪国外一流大学计算机组成与系统结构相关课程的教 式中的立即数字段，可节省处理器设计的门电路数量；而 RISC-V 把全 0 指令作为非 法指令，则能让处理器更早捕捉到程序跳转到被清零内存区域的错误，从而降低此类 错误的调试难度；RISC-V 并未像 MIPS 那样采用延迟分支技术，是因为该技术违反 架构和实现分离的原则。同时，本书还介绍 x86、ARM 和 MIPS 的设计，并通过插 入排序和 DAXPY（双精度乘加）程序量化对比它们，突出 RISC-V 的优势，深入阐 了提升程序性能。对 于架构师，一项诱人的方案是在 ISA 中添加指令，来优化特定时期某个实现的性能和 成本，但这会给其他不同或将来的实现带来负担。 架构和实现分离 MIPS-32 ISA 的延迟分支是一个令人遗憾的例子。考虑流水线执行的场景，处理 器希望下一条待执行指令已位于流水线中，但条件分支指令无法提前确定后续执行的 是顺序的下一条指令（若分支不跳转），还是分支目标地址的指令（若分支跳转）。对

，但是从我们对 Eureka 的运维经验来看， Eureka 集群在扩容之后，性能上有很大问题。 集群扩展性的另⼀个方面是多地域部署和容灾的支持。当讲究集群的高可用和稳定性以及网络上的 跨地域延迟要求能够在每个地域都部署集群的时候，我们现有的方案有多机房容灾、异地多活、多 数据中心等。 77 > Nacos 架构 图 8 Nacos 的多机房部署和容灾 首先是双机房容灾，基于 Leader 内该服务的变化进行合并，但仍然有大量推送同时推送到客户端中，对 客户端施压机造成比较大的压力，因此推送出现了超时现象，但推送有重试机制，最终会推送成功。 由于有部分推送任务发生了重试，且施压机在接受推送时的延迟较高，因此平均 SLA 和 90% SLA 均超过 1s。最大 SLA 出现了超过 10s 的情况， 原因是该客户端推送⼀直超时，重试了很多次， 最终才推送成功。 注销时，由于大量订阅者随着链 Nacos2.0 频繁变更场景的系统指标和批量启动时没有太大的区别，但是推送方面则有很大改善，主 要是不会出现瞬时的单台客户端推送风暴，客户端不会有处理积压和延迟，不再出现推送超时，推 送失败率归 0。SLA 主要耗时均在服务端的延迟合并队列中。 129 > Nacos 性能报告 Nacos1.X 由于 200 * 500 等场景无法达到稳态，因此频繁变更场景直接使用 200 * 60 的压力规

按照不同的情况 选择不同的⽅案 线上⼀定要开 pprof 如果有安全考虑 那也⼀定要有能通过配置开启的能⼒ CPU ⽤爆了？90%？ 内存⽤爆了？OOM? Goroutine ⽤爆了？80w? 线程数爆了？ 延迟太⾼？ 压测时关注哪些服务指标 压测时关注哪些服务指标 因为我们是 Go 的服务，还可以额外看看： • Goroutine 数，线程数 • 如果 Goroutine 数很多，那这些 Goroutine 960f16255c36d1b381cda9e7/ prometheus/go_collector.go#L45 基本套路 1. 排除外部问题，例如依赖的上游服务(包括 DB、redis、MQ)延迟 过⾼，在监控系统中查看 2. CPU 占⽤过⾼ -> 看 CPU profile -> 优化占⽤ CPU 较多的部分逻 辑 3. 内存占⽤过⾼ -> 看 prometheus，内存 RSS goroutine 都在⼲什 么 -> 查死锁、阻塞等问题 -> 个别不在意延迟的选择第三⽅库优 化 压测⼿段 公司内部压测平台 全链路压测 阻塞导致⾼延迟 在后端系统开发中，锁瓶颈是较常⻅的问题，⽐如⽂件锁 阻塞导致⾼延迟 还有⼀些公司的 metrics 系统设计，本机上会有 udp 通信 阻塞导致⾼延迟 锁瓶颈的⼀般优化⼿段： • 缩⼩临界区：只锁必须锁的对象，临界区内尽量不放慢操作，如

其中最大规模为亿级别节点、百亿级别 边、带 Side-information 的图神经网络模型。 低延迟的在线计算流程：召回环节是广告推荐系统的第一个漏斗，需要在有限时间内 从全量候选广告中选出高质量子集传递给下游。鉴于子图搜索、图卷积等复杂操作对 线上耗时的巨大挑战，我们提出了低延迟的在线计算流程优化方案：在 4.2 节介绍的 模型中，图模型部分主要用来表征用户长期兴趣，不受实时行为和请求信息影响，因 取出与用 户的当次访问情境高度相关的有效信息。MIMN3 表明在用户兴趣模型中考虑长期历 史行为序列可以显着提高模型的性能。但是较长的用户行为序列包含大量噪声，同时 极大地增加了在线服务系统的延迟和存储负担。针对上述问题，SIM4 提出把行为中 的重要相关信息搜索出来。具体来说，在拿到需要被预估的商品信息后，可以像信息 检索一样，对用户行为商品构建一个快速查询的索引。待预估商品的信息可以当做是 返回给用户最 终展示列表的 Client-Server 架构，对于大众点评 LBS 场景、类推荐的搜索产品来 218 > 2022年美团技术年货 说，存在以下两个问题： ① 列表结果排序更新延迟 分页请求限制会导致排序结果的更新不及时。在下一个分页请求之前，用户的任何行 为都无法对当前页内的搜索排序结果产生任何影响。以大众点评搜索结果页为例，一 次请求返回 25 个结果到客户端，每屏展示约

不一定能保证性能。对于架构师来说， 为了在性能和成本上对某一特定时间的某种实现进行优化，而在 ISA 中包含某些指令，有时 候是一件有诱惑性的事情。但这样做会给其他实现或者今后的实现带来负担。 延迟分支是 MIPS-32 ISA 的一个令人遗憾的例子。条件分支导致流水线执行出现问题， 因为处理器希望下一条要执行的指令总是已经在流水线上，但它不能确定它要的到底是顺序 执行的下一条（如果分支未执 能导致流水线一个时钟周期的阻塞。 MIPS-32 通过把分支操作重新定义在分支指令的下一条指令执行完之后发生，因此分支指令 的下一条指令永远会被执行。程序员或编译器编写者要做的是把一些有用的指令放入延迟槽。 唉，这个“解决方案”对接下来有着更多流水级（于是在计算出分支结果之前取了更多 的指令）的 MIPS-32 处理器并无益处，反而让 MIPS-32 程序员，编译器编写者，以及处理 器设计者（因为增量 的复杂性。与 MIPS-32 不同，RISC-V 不支持延迟加载（delayed load）。与 延迟分支的设计相似，为了更好的适应五级流水线，MIPS-32 重新定义了 load 指令的语 义，load 上来的数据在 load 指令两个指令后才可用。但是对于后来出现的更长的流水线， 延迟加载带来的收益逐渐消失，因此 RISC-V 不支持延迟加载。 虽然 ARM-32 和 MIPS-32 要