非类型模板参数推导 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 2.6 面向对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 委托构造 Lambda . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36 3.2 函数对象包装器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36 std::function 现让 C++ 具有了『匿名函数』的『闭包』特性，而这一特性几乎在现代的编程语言（诸如 Python/Swift/. . . ）中已经司空见惯，右值引用的出现解决了 C++ 长期以来被人诟病的临时对象效率问题等等。 C++17 则是近三年依赖 C++ 社区一致推进的方向，也指出了 现代 C++ 编程的一个重要发展方 向。尽管它的出现并不如 C++11 的分量之重，但它包含了大量小而美的语言与特性（例如结构化绑定），

GPU 专题） 为什么需要模板函数（ template ） • 避免重复写代码。 • 比如，利用重载实现“将一个数乘以 2” 这个 功能，需要： 为什么面向对象在 HPC 不如函数式和元编程香了？ 这个例子要是按传统的面向对象思想，可能是这样： 令 Int, Float, Double 继承 Numeric 接口类并实现 ，其中 multiply(int) 作为虚函数。然后定义： Numeric 特性：引用（ int & ） • 众所周知， C++ 中有一种特殊的类型，叫做引用。只需要在原类型后面加一个 & 即可。 • 引用的本质无非是指针，当我们试图修改一个引用时，实际上是修改了原来的对象： 等价于 ： 可见，和 C 语言的 int * 相比 无非是减少了 & 和 * 的麻烦 而已。 C++ 特性：常引用（ int const & ） • 如果说 int & 相当于 int * 容器中的数据类型。 恭喜！你已经基本学废了自动类型推导！ • 《基本鞋废》 • 怎么样，是不是非常方便呢？ • 如果不理解，跳过即可！ 函数也是对象：函数式编程 • 你知道吗？函数可以作为另一个函数的参数！ 函数也是对象：函数式编程（续） • 而且，这个作为参数的函数也可以有参数！ 函数式编程：函数作为模板类型 • 甚至可以直接将 func 的类型作为一个模 板参数，从而不需要写

Java、C++、Python、Go、JS、TS、C#、Swift、Rust、Dart、Zig 等 语言。 ‧ 鼓励读者在章节讨论区互帮互助、共同进步，提问与评论通常可在两日内得到回复。 0.1.1 读者对象 若您是算法初学者，从未接触过算法，或者已经有一些刷题经验，对数据结构与算法有模糊的认识，在会与 不会之间反复横跳，那么这本书正是为您量身定制！ 如果您已经积累一定刷题量，熟悉大部分题型，那么 输入空间：用于存储算法的输入数据。 ‧ 暂存空间：用于存储算法在运行过程中的变量、对象、函数上下文等数据。 ‧ 输出空间：用于存储算法的输出数据。 一般情况下，空间复杂度的统计范围是“暂存空间”加上“输出空间”。 暂存空间可以进一步划分为三个部分。 ‧ 暂存数据：用于保存算法运行过程中的各种常量、变量、对象等。 ‧ 栈帧空间：用于保存调用函数的上下文数据。系统在每次调用函数时都会在栈顶部创建一个栈帧，函数 // 暂存数据（变量） Node* node = new Node(0); // 暂存数据（对象） int c = func(); // 栈帧空间（调用函数） return a + b + c; // 输出数据 } 2.4.2 推算方法 空间复杂度的推算方法与时间复杂度大致相同，只需将统计对象从“操作数量”转为“使用空间大小”。 而与时间复杂度不同的是，我们通常只关注最差空间复杂度。

JavaScript、TypeScript、Dart、 Rust、C 和 Zig 等语言。 ‧ 鼓励读者在线上章节评论区互帮互助、共同进步，提问与评论通常可在两日内得到回复。 0.1.1 读者对象 若你是算法初学者，从未接触过算法，或者已经有一些刷题经验，对数据结构与算法有模糊的认识，在会与 不会之间反复横跳，那么本书正是为你量身定制的！ 如果你已经积累一定的刷题量，熟悉大部分题型，那 输入空间：用于存储算法的输入数据。 ‧ 暂存空间：用于存储算法在运行过程中的变量、对象、函数上下文等数据。 第 2 章 复杂度分析 hello‑algo.com 42 ‧ 输出空间：用于存储算法的输出数据。 一般情况下，空间复杂度的统计范围是“暂存空间”加上“输出空间”。 暂存空间可以进一步划分为三个部分。 ‧ 暂存数据：用于保存算法运行过程中的各种常量、变量、对象等。 ‧ 栈帧空间：用于保存调用函数的上下文数据。 Node* node = new Node(0); // 暂存数据（对象） int c = func(); // 栈帧空间（调用函数） return a + b + c; // 输出数据 } 第 2 章 复杂度分析 hello‑algo.com 43 2.4.2 推算方法 空间复杂度的推算方法与时间复杂度大致相同，只需将统计对象从“操作数量”转为“使用空间大小”。 而与时间复杂度不同的是，

JavaScript、TypeScript、Dart、 Rust、C 和 Zig 等语言。 ‧ 鼓励读者在线上章节评论区互帮互助、共同进步，提问与评论通常可在两日内得到回复。 0.1.1 读者对象 若你是算法初学者，从未接触过算法，或者已经有一些刷题经验，对数据结构与算法有模糊的认识，在会与 不会之间反复横跳，那么本书正是为你量身定制的！ 如果你已经积累一定的刷题量，熟悉大部分题型，那 hello‑algo.com 42 ‧ 暂存空间：用于存储算法在运行过程中的变量、对象、函数上下文等数据。 ‧ 输出空间：用于存储算法的输出数据。 一般情况下，空间复杂度的统计范围是“暂存空间”加上“输出空间”。 暂存空间可以进一步划分为三个部分。 ‧ 暂存数据：用于保存算法运行过程中的各种常量、变量、对象等。 ‧ 栈帧空间：用于保存调用函数的上下文数据。系统在每次调用函数时都会在栈顶部创建一个栈帧，函数 Node* node = new Node(0); // 暂存数据（对象） int c = func(); // 栈帧空间（调用函数） 第 2 章 复杂度分析 hello‑algo.com 43 return a + b + c; // 输出数据 } 2.4.2 推算方法 空间复杂度的推算方法与时间复杂度大致相同，只需将统计对象从“操作数量”转为“使用空间大小”。 而与时间复杂度不同的是，

。 ‧ 源代码可一键运行，帮助读者在练习中提升编程技能，了解算法工作原理和数据结构底层实现。 ‧ 提倡读者互助学习，欢迎大家在评论区提出问题与分享见解，在交流讨论中共同进步。 0.1.1 读者对象 若你是算法初学者，从未接触过算法，或者已经有一些刷题经验，对数据结构与算法有模糊的认识，在会与 不会之间反复横跳，那么本书正是为你量身定制的！ 如果你已经积累一定的刷题量，熟悉大部分题型，那 ‧ 暂存空间：用于存储算法在运行过程中的变量、对象、函数上下文等数据。 第 2 章 复杂度分析 www.hello‑algo.com 42 ‧ 输出空间：用于存储算法的输出数据。 一般情况下，空间复杂度的统计范围是“暂存空间”加上“输出空间”。 暂存空间可以进一步划分为三个部分。 ‧ 暂存数据：用于保存算法运行过程中的各种常量、变量、对象等。 ‧ 栈帧空间：用于保存调用函数的上下文数 Node* node = new Node(0); // 暂存数据（对象） int c = func(); // 栈帧空间（调用函数） return a + b + c; // 输出数据 } 第 2 章 复杂度分析 www.hello‑algo.com 43 2.4.2 推算方法 空间复杂度的推算方法与时间复杂度大致相同，只需将统计对象从“操作数量”转为“使用空间大小”。 而与时间复杂度不同的

• 鉴于 C++20 还没有普遍落地（例如 CMake 不支持 C++20 modules ）因此我们的课程 基于 C++17 标准，有时会谈到 C++20 作为扩展阅读。 C++ 有哪些面向对象思想？ C++ 思想：封装 比如要表达一个数组，需要：起始地址指针 v ，数组大小 nv 将多个逻辑上相关的变量包装成一个类 因此 C++ 的 vector 将他俩打包起来，避免程序员犯错 封装：不变性 糊（有好处也有坏处，对高性能计算而言利大于 弊） 如果没有解构函数，则每个带有返回的分 支都要手动释放所有之前的资源 : RAII ：异常安全（ exception-safe ） C++ 标准保证当异常发生时，会调用已创建对象的解构函数 。 因此 C++ 中没有（也不需要） finally 语句。 如果此处不关闭，则可等 待稍后垃圾回收时关闭。 虽然最后还是关了，但如 果对时序有要求或对性能 有要求就不能依靠 GC 。 编译器默认生成的构造函数：初始化列表（感谢 C++11 ） • 当一个类（和他的基类）没有定义任何构造函 数，这时编译器会自动生成一个参数个数和成 员一样的构造函数。 • 他会将 {} 内的内容，会按顺序赋值给对象的每 一个成员。 • 目的是为了方便程序员不必手写冗长的构造函 数一个个赋值给成员。 • 不过初始化列表的构造函数只支持通过 {} 或 = {} 来构造，不支持通过 () 构造。其实是为了向

Java, C++, Python, Go, JS, TS, C#, Swift, Zig 等语言。 ‧ 鼓励读者在章节讨论区互帮互助、共同进步，提问与评论通常可在两日内得到回复。 0.1.1. 读者对象 若您是算法初学者，从未接触过算法，或者已经有一些刷题经验，对数据结构与算法有模糊的认识，在会与 不会之间反复横跳，那么这本书正是为您量身定制！ 如果您已经积累一定刷题量，熟悉大部分题型，那么 ‧「输入空间」用于存储算法的输入数据。 ‧「暂存空间」用于存储算法运行过程中的变量、对象、函数上下文等数据。 ‧「输出空间」用于存储算法的输出数据。 通常情况下，空间复杂度统计范围是「暂存空间」+「输出空间」。 暂存空间可以进一步划分为三个部分： ‧「暂存数据」用于保存算法运行过程中的各种常量、变量、对象等。 ‧「栈帧空间」用于保存调用函数的上下文数据。系统在每次调用函数时都会在栈顶部创建一个栈帧，函 // 暂存数据（变量） Node* node = new Node(0); // 暂存数据（对象） int c = func(); // 栈帧空间（调用函数） return a + b + c; // 输出数据 } 2.3.2. 推算方法 空间复杂度的推算方法与时间复杂度大致相同，只是将统计对象从“计算操作数量”转为“使用空间大小”。 与时间复杂度不同的是，我们通常只关注「最差空间复杂

uint64_t address; • char data[64]; • }; • CacheEntry cache[512]; • 当 CPU 读取一个地址时： • 缓存会查找和该地址匹配的条目。如果找到，则给 CPU 返 回缓存中的数据。如果找不到，则向主内存发送请求，等读 取到该地址的数据，就创建一个新条目。 • 在 x86 架构中每个条目的存储 64 字节的数据，这个条目 uint64_t address; • char data[64]; • }; • CacheEntry cache[512]; • 当 CPU 写入一个地址时： • 缓存会查找和该地址匹配的条目。如果找到，则修改缓存 中该地址的数据。如果找不到，则创建一个新条目来存储 CPU 写的数据，并标记为脏（ dirty ）。 • 当读和写创建的新条目过多，缓存快要塞不下时，他会把 最 * 重新认识 SOA * * * * 结构体的内存布局： AOS 与 SOA • AOS （ Array of Struct ）单个对象的属性紧挨着存 • xyzxyzxyzxyz • SOA （ Struct of Array ）属性分离存储在多个数组 • xxxxyyyyzzzz • AOS 必须对齐到 2 的幂才高效，

和 CUDA_ARCHITECTURES 也有 这两种方式，我一般推荐直接设置全局的 CMAKE_CXX_STANDARD 即可应用到全部 add_executable/add_library 的对象上，比较方便。 进一步：核函数调用核函数 • 从 Kelper 架构开始， __global__ 里可以 调用另一个 __global__ ，也就是说核函数 可以调用另一个核函数，且其三重尖括号 blockDim ），都能自动根据给定的 n 区间循环，不会越界，也不会漏掉几个元 素。 • 这样一个 for 循环非常符合 CPU 上常见 的 parallel for 的习惯，又能自动匹配不同 的 blockDim ，看起来非常方便。 从线程到板块 • 核函数内部，用之前说到的 blockDim.x + blockIdx.x + threadIdx.x 来获取线程在整个 网格中编号。 ），总共多少板块（ gridDim ）。 都能自动根据给定的 n 区间循环，不会越界 ，也不会漏掉几个元素。 • 这样一个 for 循环非常符合 CPU 上常见的 parallel for 的习惯，又能自动匹配不同的 blockDim 和 gridDim ，看起来非常方便。 本方法出自英伟达官方博客： https://developer.nvidia.com/blog/cuda-pro-tip-wr