Science Dynamic Model in TVM AWS AI© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Models with dynamism ● Control flow (if, loop, etc) ● Dynamic shapes ○ Dynamic inputs: Limitation of TVM/graph runtime ● Cannot compile and run dynamic models© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Support dynamic model in TVM ● Support Any-dim in typing ● Use Use shape function to compute the type at runtime ● Virtual machine as a new runtime for Relay ● Dynamic codegen (WIP) ○ Kernel dispatch for a single op ○ Graph dispatch for a (sub-)graph In collaboration

2:00 pm MDT, Wed. October 27 60 minutes | Introductory Audience 3Abstract C++ programs that are dynamic in nature have to create objects at some time during run-time. New objects can be created by explicitly like, is to have a layer of abstraction, or someway to create objects at run-time to reflect the dynamic nature of some C++ programs. Luckily, there is a common pattern that can help solve this problem--the engine development. ○ My research in program analysis is related to performance building static/dynamic analysis and software visualization tools. ● I do consulting and technical training on modern C++

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 5032 14.12.21TiDB Accelerated Table Creation · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 5036 14.12.22Schema Cache· · · Distributed eXecution Framework (DXF) · · · · · · · · · · · · · · · · · · · · · · · · · 6723 17.4.7 Dynamic Pruning· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · dis- abled. When it is enabled, TiDB applies a table-level scattering strategy during batch table creation. However, when creating hundreds of thousands of tables in a batch, this strategy results in a concentration

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 5010 14.12.21TiDB Accelerated Table Creation · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 5015 14.12.22Schema Cache· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6701 17.4.1 Dynamic Pruning· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · dis- abled. When it is enabled, TiDB applies a table-level scattering strategy during batch table creation. However, when creating hundreds of thousands of tables in a batch, this strategy results in a concentration

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4962 14.12.20TiDB Accelerated Table Creation · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4966 14.13 UI· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6602 17.4.1 Dynamic Pruning· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · tidb_enable_fast_create_table to im- prove table creation performance in batch table creation scenarios. In v8.3.0, when submitting the DDL statements for table creation concurrently through 10 sessions in a single

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4886 14.12.20TiDB Accelerated Table Creation · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4890 14.13 UI· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6475 17.4.1 Dynamic Pruning· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · approximately 1.5 to 3 �→ times. 37 �→ Achieve up to 10 times faster for creating tables in batch ( �→ experimental, introduced

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4932 14.12.20TiDB Accelerated Table Creation · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 4936 14.13 UI· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 6545 17.4.1 Dynamic Pruning· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · can �→ solve the problem of slow startup of TiDB instances, and increase the �→ success rate of dynamic loading of statistics. This improvement �→ reduces performance rollbacks caused by statistics loading

updates, for those Linux distributions which provide it – most current ones – we recommend installing Dynamic Kernel Module Support (DKMS)2. This framework helps with building and upgrading kernel modules. If reinstalled by executing (as root): /etc/init.d/vboxdrv setup 2See http://en.wikipedia.org/wiki/Dynamic_Kernel_Module_Support for an introduction. 37 2 Installation details 2.3.3 Performing the installation automatic generation of the udev rule can be pre- vented by the following setting: INSTALL_NO_UDEV=1 The creation of the group vboxusers can be prevented by INSTALL_NO_GROUP=1 If the line INSTALL_NO_VBOXDRV=1 is

. . . . . . . . . . . . . . 1437 77 Lazy Artifacts 1440 78 LibCURL 1441 79 LibGit2 1442 80 Dynamic Linker 1490 81 Linear Algebra 1494 81.1 Special matrices . . . . . . . . . . . . . . . . . . . Subsequences, permutations and shuffling . . . . . . . . . . . . . . . . . . . . . . 1729 90.4 Generators (creation and seeding) . . . . . . . . . . . . . . . . . . . . . . . . . . . 1733 90.5 Hooking into the Random experts have largely moved to slower dynamic languages for daily work. We believe there are many good reasons to prefer 2CHAPTER 1. JULIA 1.13-DEV DOCUMENTATION 3 dynamic languages for these applications

. . . . . . . . . . . . . . 1435 77 Lazy Artifacts 1438 78 LibCURL 1439 79 LibGit2 1440 80 Dynamic Linker 1488 81 Linear Algebra 1492 81.1 Special matrices . . . . . . . . . . . . . . . . . . . Subsequences, permutations and shuffling . . . . . . . . . . . . . . . . . . . . . . 1727 90.4 Generators (creation and seeding) . . . . . . . . . . . . . . . . . . . . . . . . . . . 1731 90.5 Hooking into the Random experts have largely moved to slower dynamic languages for daily work. We believe there are many good reasons to prefer 2CHAPTER 1. JULIA 1.12-RC1 DOCUMENTATION 3 dynamic languages for these applications