Deferred reclamation, i.e., garbage collection in C++ Some assumed knowledge • You’ve heard of lock-free programming and know what a compare_exchange is • You know roughly what atomic does and what it is Deferred reclamation, i.e., garbage collection in C++ Some assumed knowledge • You’ve heard of lock-free programming and know what a compare_exchange is • You know roughly what atomic does and what it is danielanderson.net std::atomic How many lines does it take to implement a lock-free & memory-safe stack? template struct Stack { struct Node { T t; shared_ptr

com/video/BV1fa411r7zp 课程 PPT 和代码： https://github.com/parallel101/course 前置条件 • 学过 C/C++ 语言编程。 • 理解 malloc/free 之类的概念。 • 熟悉 STL 中的容器、函数模板等。 • 英伟达 GTX900 及以上显卡。 • CUDA 11 及以上。 • CMake 3.18 及以上。 我负责监督你学习 第 TX1 / Tegra X1, Drive CX, Drive PX, Jetson Nano • 版本 60 ： Quadro GP100, Tesla P100, DGX-1 (Generic Pascal) • 版本 61 ： GTX 1080, GTX 1070, GTX 1060, GTX 1050, GTX 1030 (GP108), GT 1010 (GP108) Titan Xp GTX900 及以上显卡。如果需要在老显卡上运行的话 ，可以看下面那个链接，查一下你的显卡对应的版本号是多少 ，然后在 CMake 里设置个一样的，应该就能用了。 小彭老师每日锐评 • 顺便， Pascal 、 Turing 、 Ampere 什么的高大上架构名，那个是老黄拿来营销用的。 • 我们不考虑韭菜情怀的话不用管，我们只需要指定架构的版本号是多少就行啦。 • 毕竟一个 72 这样一个单

stdlib.h 的 malloc(n) 就可以从堆 上分配一段 n 字节的连续内存，这里的 n 就可以不是常量了。 • 栈上的内存会在函数退出时自动释放，而 堆上的内存不会，需要手动 free(a) 释放 。 动态数组作为函数参数？不仅要传首地址，还要传数组长度！ • 刚才说定长数组（长度是编译期常量，在栈上分 配的）只需一个起始地址就能确定。 • 而动态长度的数组（通过 malloc T *a = (T*)malloc(n * sizeof(T)) • 就能分配长度为 n 的任意类型 T 的数组了。 • 当然别忘了最后通过 free(a) 释放。 如果想要的是任意类型的数组呢？ • C 语言中可以用 malloc 和 free 函数来分配动态数 组。 • C++ 则可以用 new 和 delete 来分配动态数组。 • ( 类型 *)malloc( 数组长度 * sizeof( 。 • 不过要注意释放的时候必须用 delete[] 而不是普通的 delete ，这个方括号不能省略！ 如果想要的是任意类型的数组呢？ • 规则： • 使用 malloc 分配的请用 free 释放。 • 使用 new T[n] 分配的（动态数组）请用 delete[] 释 放。 • 使用 new T 分配的（单个元素）请用 delete 释放。 • 不要混用，否则可能会出错，也可能不出错，取决于

字节的内存。他在 这个头文件里。是 x86 特有的，并且需要通 过 _mm_free 来释放。 • 还有一个跨平台版本（比如用于 arm 架构） 的 aligned_alloc(align, n) ，他也可以分配对 齐到任意 a 字节的内存，通过 free 释放。 • 利用他们可以实现分配对齐到页面（ 4KB ） 的内存。 小彭老师的 AlignedAllocator 出错。 • 返回时（或者进入时）调用 tmp.clear() 清除已有数据。 由于 vector 的特性，他只会把 size() 标记为 0 并调 用其成员的解构函数，而不会实际释放内存（ free ）。 • 因此第二次进入的时候，如果 n 不超过上一次的大小 ，就还是用的第一次分配的内存，避免了重新分配的开 销。对 func 需要被重复调用的情况很实用。 第 6 章：多维数组 C malloc(n * m * sizeof(float)); 可以在堆上分配 n 行 m 列的二维数组。 • 通过 a[i * m + j] 访问第 i 行，第 j 列的元素。 • 释放时，统一用 free(a) • 注意到：动态的数组，因为编译器光从指针没办法推断出列数 m ，因此要手动扁平化。 C++ 动态数组 • vector a(n); 可以在堆上分配有 n 个元素的一维数组。

Application binary interface (ABI) Calling conventions Marshalling Was I supposed to free that? Was I not supposed to free that? Enabling two or more disparate entities to work together.Why interoperability 0x7800 obj = new(); // 0x9200 hnd = Handle.New(obj); // 0x9200 -> 0x7800 Sys_Query( ); Handle.Free( ); // Collection occurs. // Copy, compacting, etc. // obj now at 0x6800. // 0x9200 -> 0x6800 occurs. // obj now at 0x7200. // 0x9200 –> 0x???? Sys_Query(hnd); // Collection occurs. // obj now “free”. // 0x9200 -> 0x7200 Sys_Done(hnd); hnd This is only one possible sequence.Memory model – Non-Reference

这是因为 unique_ptr 删除了拷贝构造函数导致的。 为什么他要删除拷贝构造函数？ • 原因还是三五法则，如果拷贝了指针，那么就会出现 之前 Vector 那样重复释放（ double free ）的问题。 解决方案 1 ：获取原始指针（ C * 这种类型的指针） • 解决这个问题需要分两种情况讨论。 • 第一种是，你的 func() 实际上并不需要 “夺走”资源的占有权（ ownership 原始指针，如果是从智能指针里 .get() 出来的 • 以下对象是不安全的： • char *ptr; // 原始指针，如果是通过 malloc/free 或 new/delete 分配 的 • GLint tex; // 是基础类型 int ，但是对应着某种资源 • std::vector