`University of Massachusetts Amherst Powered by AI:
 A Cambrian Explosion
 for C++ Software Development Tools Emery BergerCretaceous–Paleogene (K-Pg) extinction eventCretaceous–Paleogene (K-Pg) extinction ALLOCATED MEMORY USAGE GPU UTIL %, PEAK MEMORY (MB/s) MEMORY PYTHON NATIVE AI-powered optimizations!AI-powered optimizations... COMING SOON!evolveevolve profiler that suggests optimizationsevolve

云原生边云协同AI框架实践 普杰 华为云边缘云创新Lab 高级工程师 KubeEdge SIG AI Tech Lead 目 录 Edge AI现状与趋势 01 Sedna：边云协同AI框架 02 Sedna-GM：K8S Operator 03 实践案例 04 Edge AI现状与趋势 第一部分 Why Edge AI？ • Cloud中心化的AI计算范式不足以应对端上AI 应用对实时性、准确性和强交互性的需求 devices Edge AI • 随着大模型的发展，AI 计算对算力需求大 幅且快速增长 AI应用到越来越多的边缘场景 分布式协同AI 概念 将人工智能相关的部分任务部署到边缘设备，基于边缘设备、边缘服务 器、云服务器，利用分布式乃至分布式协同方式实现人工智能的技术 数据在边缘产生 边侧逐步具备AI能力 分布式协同AI 核心驱动力 分布式协同AI核心驱动力 • 随着边侧算 随着边侧算力逐步强化，边缘AI持续演变至分布式协同AI 分布式协同AI技术挑战 1. 边缘资源碎片化 2. 边缘数据孤岛 3. 边缘样本少 4. 边缘数据异构 分布式协同AI 技术挑战 边云协同AI框架 第二部分 首个分布式协同AI开源项目Sedna 基于KubeEdge提供的边云协同能力，支持现有AI类应用无缝下沉到边缘 为分布式协同机器学习服务 ✓ 降低构建与部署成本 ✓ 提升模型性能

ARM 芯片的 Python + AI 算力优化 主讲人： 朱宏林 – 阿里云程序语言与编译器团队 简介 • 当今开发者们大量使用 Python 语言编写的 AI 程序。过去这些程序总跑在 GPU 或者 x86 架构的 CPU 上。然而综合考虑到功耗、成本、性能等因素，云厂商们开始建设 ARM 架构的服务平台，如 何整合 Python + AI 的相关软件并使其在该平台上发挥最高的性能成为了工程师们关注的焦点。 提升明显。目前，该成果已经被集成进 OpenBLAS 和 PyTorch 中。 • 本次演讲，将向大家介绍我们在倚天 710 ARM 芯片上开展的 Python + AI 优化工作，以及在 ARM 云平台上部署 Python + AI 任务的最佳实践。 深度学习 • 广泛使用的深度学习框架 • TensorFlow、PyTorch • 结合硬件（ARM 服务端芯片） • 倚天 710 •

Files are harder to integrate. Flags (GCC, Clang) would be easier. Ideally, the same names. Moonshot: cross-language, cross-toolchain standard way. Point already raised to a few LLVM & kernel folks Retrieving the source code: pipe it out, TokenStream, …? How to make it useful for other projects? Moonshot: rust-analyzer support (e.g. “▶ Run Test | Debug”). Language Library Tooling Tooling Codegen

© 2023 Apex.AI, Inc. | All rights reserved. Apex.AI, Apex.OS, Apex.Grace, Apex.Ida, Apex.Alan, Apex.Ray are trademarks of Apex.AI. CppCon 2023 Building bridges: Leveraging C++ and ROS for simulators Divya Aggarwal October 5, 2023© 2023 Apex.AI, Inc. | All rights reserved. Apex.AI, Apex.OS, Apex.Grace, Apex.Ida, Apex.Alan, Apex.Ray are trademarks of Apex.AI. Need for Speed? Asphalt? GT? This is an driving simulator. 2 CppCon© 2023 Apex.AI, Inc. | All rights reserved. Apex.AI, Apex.OS, Apex.Grace, Apex.Ida, Apex.Alan, Apex.Ray are trademarks of Apex.AI. 3 Agenda 1. ROS and simulators 2. What

T y p e c ap t u r i n g . . . . . . . . . . . . . . . . . . . . . . . . 55 2. 1. 5 T y p e c on t ai n m e n t . . . . . . . . . . . . . . . . . . . . . . 60 2. 1. 6 F u n c t i on t y p e s . . . . 4. 2. 7 Loc al f u n c t i on d e c l ar at i on . . . . . . . . . . . . . . . . . . 119 4. 2. 8 T ai l r e c u r s i on op t i m i z at i on . . . . . . . . . . . . . . . . . 119 4. 2. 9 F u n c t i c on t ai n m e n t - c h e c k i n g e x p r e s s i on s . . . . . . . 172 8. 11. 1 T y p e - c h e c k i n g e x p r e s s i on s . . . . . . . . . . . . . . . . . . 173 8. 11. 2 C on t ai n m e n

c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at 0 c an b e f ou n d on l i n e at : h t t p : //c r e at i v e c om m on s . or g/ p u b l i c d om ai n /z e r o/1. 0/ 1 C H AP T E R 1 T h e I d r i s T u t o r i a l T h i s i s t h e I d r i s T c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at

c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at 0 c an b e f ou n d on l i n e at : h t t p : //c r e at i v e c om m on s . or g/ p u b l i c d om ai n /z e r o/1. 0/ 1 C H AP T E R 1 T h e I d r i s T u t o r i a l T h i s i s t h e I d r i s T c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at

c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at 0 c an b e f ou n d on l i n e at : h t t p : //c r e at i v e c om m on s . or g/ p u b l i c d om ai n /z e r o/1. 0/ 1 C H AP T E R 1 T h e I d r i s T u t o r i a l T h i s i s t h e I d r i s T c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at

c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at 0 c an b e f ou n d on l i n e at : h t t p : //c r e at i v e c om m on s . or g/ p u b l i c d om ai n /z e r o/1. 0/ 1 C H AP T E R 1 T h e I d r i s T u t o r i a l T h i s i s t h e I d r i s T c h t o t h e e x t e n t p os s i b l e u n d e r l aw , T h e I d r i s C o m m u n i t y h as w ai v e d al l c op y r i gh t an d r e l at e d or n e i gh b or i n g r i gh t s t o D oc u m e n t at