如何用Go模拟CPU 蒙卓 华为 – 2012实验室 工程师 成为盘古？ 让这个世界里面的人（程序）无法察觉 这个世界是创造出来的 目录 • 计算机的演化历史 – 硬件计算到冯诺伊曼架构 • 构建虚拟世界 – MOS 6502 • 控制单元（control unit） • 运算逻辑单元（arithmetic logic unit） • 6502汇编器与链接器 • 未来目标 1970年程序员 1970年程序员 CPU 80KHz 单核 内存 64KB 手编磁芯 老娘把你送上月球 2021年程序员 CPU 2,400,000KHz 4核 内存 8,000,000KB DDR3 呜呜 App内存不足 外卖下不了单 计算机的演化历史 • 一部偷懒的历史 • 硬件“计算机”时代 • 不擅长计算和记忆的人使用工具帮助计算：算盘，计算尺，手摇计算器 • 硬件计算机改进支持的算法，需要变更或重新发明整个硬件，比如让算 硬件过于复杂 • 软件基于操作系统等复杂概念 • 真的快且便宜 Go模拟CPU • 如何用Go实现冯诺伊曼架构CPU？ • 简单：一个循环+一个大数组 读取当前指令 执行指令 下一条指令 模拟目标 – MOS 6502 • 诞生于1975年 • MOS 6502应用范围广 • 资料多且易获得 • 简单、容易实现的现代CPU MOS 6502简介 • 8位，变长ISA（CISC） • 中断（NMI，IRQ）

1/66Bridging the Gap: Writing Portable Programs for CPU and GPU using CUDA Thomas Mejstrik Sebastian Woblistin 2/66Content 1 Motivation Audience etc.. Cuda crash course Quiz time 2 Patterns Oldschool afterwards7/66 Motivation Patterns The dark path Cuda proposal Thank you Why write programs for CPU and GPU Difference CPU/GPU Algorithms are designed differently Latency/Throughput Memory bandwidth Number of talk7/66 Motivation Patterns The dark path Cuda proposal Thank you Why write programs for CPU and GPU Difference CPU/GPU Why it makes sense? Library/Framework developers Embarrassingly parallel algorithms

ARM 芯片的 Python + AI 算力优化 主讲人： 朱宏林 – 阿里云程序语言与编译器团队 简介 • 当今开发者们大量使用 Python 语言编写的 AI 程序。过去这些程序总跑在 GPU 或者 x86 架构的 CPU 上。然而综合考虑到功耗、成本、性能等因素，云厂商们开始建设 ARM 架构的服务平台，如 何整合 Python + AI 的相关软件并使其在该平台上发挥最高的性能成为了工程师们关注的焦点。 矩阵乘法是深度学习计算的重要组成部分，我们利用 ARM 架构新提供的矩阵扩展对 bf16 类型的 矩阵乘法计算进行优化，该优化将纯矩阵乘法的运算速度提升 3 倍以上，对深度学习推理任务性能 提升明显。目前，该成果已经被集成进 OpenBLAS 和 PyTorch 中。 • 本次演讲，将向大家介绍我们在倚天 710 ARM 芯片上开展的 Python + AI 优化工作，以及在 ARM 云平台上部署 Python Python + AI 任务的最佳实践。 深度学习 • 广泛使用的深度学习框架 • TensorFlow、PyTorch • 结合硬件（ARM 服务端芯片） • 倚天 710 • AWS graviton • 矩阵乘法 • 为什么矩阵乘法是深度学习的核心 • Conv、Linear、Transformers 来源: Why GEMM is at the heart of deep learning

heap? 48I would give an answer… They'd accept… 49Let's Make exceptions work on ARM! 50Arm GNU Toolchain GCC 11.3 arm-none-eabi-g++ -o except.elf except.cpp -std=c++20 -Os -g -fexceptions time the code throws) 53💥 Breaking Barrier #1 Enabling Exceptions in ARM GCC 54Step 1: Download & Build "ARM GNU Toolchain download" 55 Step 2. Find and modify -fno-exceptions → -fexceptionsStep you That was to show you that something is here. 94C++ Exceptions from throw to catch on GCC ARM 95Things that will NOT be covered here ● Nested exceptions ● Anything other than table based exceptions

Header . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 A.2 PPU CPU Field values . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 A.3 PPU Header Possible defines when compiling using FPC . . . . . . . . . . . . . . . . . . . . . . 182 G.2 Possible CPU defines when compiling using FPC . . . . . . . . . . . . . . . . . . . 183 G.3 Possible FPU defines directive must be followed by the type of floating point unit. The allowed values depend on the target CPU: all SOFT: FPC emulates the coprocessor (not yet implemented). i386 X87, SSE, SSE2: code compiled

computers) Classification: LCC QA76.9.A73 P38 2017 | DDC 004.22- -dc23 i 推荐序一 CPU(中央处理器) 架构是芯片产业链和芯片生态的龙头。CPU 架构不仅决定了 CPU 芯片本身的性能，而且在很大程度上引领了整个芯片产业和产业生态，尤其是 对设计人才培养、设计工具（EDA）、芯片 IP（Intellectual Property）库、芯片应用 SoC（系统级芯片）产品在芯片产品中的比重已达到 70% 以 上，这表明芯片应用与 CPU 架构之间的关联性正在增强。历史上，在 PC 和互联网 时期，x86 架构芯片占据优势，而在移动互联网时期，ARM 架构芯片占据优势，今 后，在智能互联时期，CPU 架构格局也会随之发生变化。 近年来，国际上一种新兴的开源精简指令集架构 CPU（RISC-V），为全球芯片产 业创新发展提供了新的机遇。RISC-V 年发布，它们创造了一种通用的计算机芯片指令集，以此来降低进入芯片 行业的门槛。RISC-V 采取开源模式，这套指令集将被所有芯片制造商所使用，而不 属于任何公司。用户可自由免费地使用该架构进行 CPU 设计、开发并添加自有指令 集进行拓展，自主选择是否公开发行、商业销售、更换其他许可协议，或完全闭源使 用。 现在，国际上围绕 RISC-V 的学术交流、产品发布、应用示范、生态建设等活动 越来越兴旺，RISC-V

interpreter a JiT, or AoT? What if it modifies its bytecode? A CPU executes machine code… an interpreter executes bytecode… That’s the same thing, a CPU is an interpreter for machine code. A compiler can perform factor of 7 to 20. How do you develop hardware that doesn’t exist yet? When I started working on a CPU, it wasn’t obvious to me that you do so with simulators—multiple simulators—which simulate what the to the performance level of -O4.” “ Rosenblum et al. 1995 By far the fastest simulator of the CPU, MMU, and memory system of an SGI multiprocessor is an SGI multiprocessor. In other words, when

if self.settings.os == "Macos" and self.settings.arch == "armv8": raise ConanInvalidConfiguration("ARM v8 not supported in Macos") Conditional requirements using a conanfile.py You could add some logic cppstd=gnu14 compiler.libcxx=libstdc++11 compiler.version=9 [buildenv] CC=arm-linux-gnueabihf-gcc-9 CXX=arm-linux-gnueabihf-g++-9 LD=arm-linux-gnueabihf-ld Important: Please, take into account that in order case the host machine is a Raspberry Pi 3 with armv7hf architecture operating system and we have the arm-linux-gnueabihf toolchain installed in the Ubuntu machine. If you have a look at the raspberry profile

if self.settings.os == "Macos" and self.settings.arch == "armv8": raise ConanInvalidConfiguration("ARM v8 not supported in Macos") Conditional requirements using a conanfile.py You could add some logic cppstd=gnu14 compiler.libcxx=libstdc++11 compiler.version=9 [buildenv] CC=arm-linux-gnueabihf-gcc-9 CXX=arm-linux-gnueabihf-g++-9 LD=arm-linux-gnueabihf-ld Important: Please, take into account that in order case the host machine is a Raspberry Pi 3 with armv7hf architecture operating system and we have the arm-linux-gnueabihf toolchain installed in the Ubuntu machine. If you have a look at the raspberry profile

if self.settings.os == "Macos" and self.settings.arch == "armv8": raise ConanInvalidConfiguration("ARM v8 not supported in Macos") Conditional requirements using a conanfile.py You could add some logic cppstd=gnu14 compiler.libcxx=libstdc++11 compiler.version=9 [buildenv] CC=arm-linux-gnueabihf-gcc-9 CXX=arm-linux-gnueabihf-g++-9 LD=arm-linux-gnueabihf-ld Important: Please, take into account that in order case the host machine is a Raspberry Pi 3 with armv7hf architecture operating system and we have the arm-linux-gnueabihf toolchain installed in the Ubuntu machine. If you have a look at the raspberry profile