Go runtime related problems in TiDB production environment About me ● Arthur Mao(毛康力), Senior Engineer@PingCAP ● TiDB core developer (top3 contributor) ● GitBook about golang internals (@tiancaiamao) IO is ready => goroutine wake up == 4.3ms ○ Sometime even 10ms+ latency here! ○ The time spend on runtime schedule is not negligible ● When CPU is overload, which goroutine should be given priority? Analysis longer to be scheduled ● The runtime scheduling does not consider priority ● CPU dense workload could affect IO latency Conclusion Part II - Memory control ● Go Runtime ○ Allocated from OS (mmaped)

浅谈全链路监控： 从应用到数据库到 Runtime 黄东旭, Co-founder & CTO, PingCAP 关于我 黄东旭，联合创始人 & CTO @ PingCAP 做分布式数据库的程序员 ● 现在能写代码的时间是奢侈品 TiDB 的亲爹之一兼首席客服和新功能的第一个用户 ● 冤有头债有主，SQL 慢了来找我。。。 偶尔玩玩音乐 ● 摇滚乐->实验音乐 Go 的粉丝！！！！ tool trace go tool trace ● 优点：好用，好看（UI） ● 缺点：性能损耗太大，不能一直开着 Trace in Go runtime ● go tool trace 的原理是？ Trace 会 Go Runtime 的代码中打桩收集 CPU time，在 Goroutine 开始执行时记录 start_run_time, 在调度退出执行时记录 end_run_time，累加 goroutine 的 CPU time。 A little bit about Go runtime https://learnku.com/articles/41728 https://github.com/golang/go/blob/ma ster/src/runtime/trace.go hack runtime 的思路： follow the tracing event. PingCAP

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 41 2.2.3 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · version: 6.1.0 Quick access: Quick start | Production deployment In 6.1.0, the key new features or improvements are as follows: • List partitioning and list COLUMNS partitioning become GA, compatible with Changefeed using the Avro protocol cannot be downgraded to versions earlier than v6.1.0. 2.2.3 Improvements • TiDB • Improve the performance of the UnionScanRead operator #32433 • Improve the display

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 53 2.2.4 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · TiDB version: 8.2.0 Quick access: Quick start 8.2.0 introduces the following key features and improvements: Category Feature/Enhancement Description Reliability add the SESSION_ALIAS field to show the alias of the current session. #46889 @lcwangchao 2.2.2.6 Compiler versions • To improve the TiFlash development experience, the minimum version of LLVM re- quired

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 37 2.2.3 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · Release Notes Release date: June 24, 2021 TiDB version: 5.1.0 In v5.1, the key new features or improvements are as follows: • Support the Common Table Expression (CTE) feature of MySQL 8.0 to improve the the upgrade. • Upgrade the Go compiler version of TiDB from go1.13.7 to go1.16.4, which improves the TiDB performance. If you are a TiDB developer, upgrade your Go compiler version to ensure a smooth compilation

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 79 2.2.7 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · TiDB version: 8.4.0 Quick access: Quick start 8.4.0 introduces the following key features and improvements: Category Feature/Enhancement Description Scalability tables Improve query performance for index scanning on cached tables, with �→ improvements of up to 5.4 times in some scenarios. For high-speed �→ queries on small tables, using cached

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 84 2.2.7 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · TiDB version: 8.4.0 Quick access: Quick start 8.4.0 introduces the following key features and improvements: Category Feature/Enhancement Description Scalability tables Improve query performance for index scanning on cached tables, with �→ improvements of up to 5.4 times in some scenarios. For high-speed �→ queries on small tables, using cached

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 56 2.2.4 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · TiDB version: 8.3.0 Quick access: Quick start 8.3.0 introduces the following key features and improvements: Category Feature/Enhancement Description Scalability parameter for the old version of conflict detection will be removed in a future release. 2.2.4 Improvements • TiDB • Support the SELECT ... STRAIGHT_JOIN ... USING ( ... ) statement #54162 @dveeden

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 63 2.2.5 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · Quick access: Quick start | Installation packages 7.6.0 introduces the following key features and improvements: Category Feature/Enhancement Description Scalability for all users. For SaaS providers, this feature provides significant convenience and experience improvements. Due to the system overhead (less than 1%) introduced by cross-database binding, TiDB disables

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 56 2.2.5 Improvements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · Long-Term Support Release (LTS). Compared with the previous LTS 7.1.0, 7.5.0 includes new features, improvements, and bug fixes released in 7.2.0-DMR, 7.3.0-DMR, and 7.4.0-DMR. When you upgrade from 7.1.x to incremental collection feature (experimental) for statistics is deprecated in v7.5.0. 56 2.2.5 Improvements • TiDB • Optimize the concurrency model of merging GlobalStats: introduce tidb_enable_async_merge_global_stats