 TiDB 开源分布式关系型数据库由PingCAP 创立的分布式关系型数据库 TiDB,为企业关键业务打造,具备 分布式强一致性事务、在 线弹性水平扩展、故障自恢复的高可用、跨数据中心多活」 等企业级核心特性,帮助企业最大化发挥数 据价值,充分释放企业增长空间。 目前,PingCAP 已经向包括中国、美国、欧洲、日本、东南亚等国家和地区,超过 1500 家企业提供服 务,涉及金融、运营商、制造、零售、互联网、政府等多个行业 。 目前TiDB 项目在 GitHub 上已总计获得超过 25000 颗星, 累计超过 1000 位开源贡献者, 是国内基础架构 领域的顶级开源项目。2020 年 9 月, TiDB 的底层存储层 TiKV 成为云原生基金会(CNCFP) 第十二个毕业项 目。2019 年, PingCAP 在 CNCF 全球贡献榜单中排名第六。 2.2TiDB 架构 Tsolpaa oaauon mv Tv orOLAPwortioad Tiflash 架构图 PingCAP.COM o TiD8 开源分布式关系型数 2.5 TiDB 企业版 作为知名的开源云原生 HTAP 分布式数据库,TiDB 以标准的开源模式开发和推广,并在全球建立了高度 活跃的开发者及用户社区生态,获得了全球用户的广泛认可。世界各地的开发者及用户通过下载TiDB0 码力 | 58 页 | 9.51 MB | 1 年前3 TiDB 开源分布式关系型数据库由PingCAP 创立的分布式关系型数据库 TiDB,为企业关键业务打造,具备 分布式强一致性事务、在 线弹性水平扩展、故障自恢复的高可用、跨数据中心多活」 等企业级核心特性,帮助企业最大化发挥数 据价值,充分释放企业增长空间。 目前,PingCAP 已经向包括中国、美国、欧洲、日本、东南亚等国家和地区,超过 1500 家企业提供服 务,涉及金融、运营商、制造、零售、互联网、政府等多个行业 。 目前TiDB 项目在 GitHub 上已总计获得超过 25000 颗星, 累计超过 1000 位开源贡献者, 是国内基础架构 领域的顶级开源项目。2020 年 9 月, TiDB 的底层存储层 TiKV 成为云原生基金会(CNCFP) 第十二个毕业项 目。2019 年, PingCAP 在 CNCF 全球贡献榜单中排名第六。 2.2TiDB 架构 Tsolpaa oaauon mv Tv orOLAPwortioad Tiflash 架构图 PingCAP.COM o TiD8 开源分布式关系型数 2.5 TiDB 企业版 作为知名的开源云原生 HTAP 分布式数据库,TiDB 以标准的开源模式开发和推广,并在全球建立了高度 活跃的开发者及用户社区生态,获得了全球用户的广泛认可。世界各地的开发者及用户通过下载TiDB0 码力 | 58 页 | 9.51 MB | 1 年前3
 [PingCAP Meetup SH 5.26]TiDB在Ping++金融聚合支付下的实践0526OLAP:saas服务下实时数仓的⽀支撑 - HTAP:基于TiDB Docker的聚合⽀支付私有化部署⽅方案 • 关于TiDB的线上运维 - TiDB体系 - 业务零感知运维 Ping++原数据架构及瓶颈 实时数仓数据源挑战: • 数⼗十亿交易易量量 • 多维度联合分析 • 实时分析+报表下载 场景⼀一:实时数仓数据源⽀支撑 数仓数据源选型过程: • • RDS快速上线 最⼤大承载3个⽉月交易易量量分析 • ADS 偶发性数据延时 • ES 开发成本、复杂关联场景 场景⼀一:实时数仓数据源⽀支撑 选型TiDB的原因: • 兼容Mysql • 分布式,海海量量数据实时查询性能 • ⾃自动failover的⾼高可⽤用 场景⼆二:聚合⽀支付私有化部署⽅方案 服务私有化部署的数据库要求: • 脱离云产品:DRDS ⾃自动运维:TiDB升级、节点扩展/下线 TiDB-Ansible • ⼿手动运维:升级磁盘、磁盘扩容、数据迁移、⽹网络升级、服务器器重启等 - TiDB节点: 负载均衡层权重—>stop start—>负载均衡层权重 - PD节点: member leader transfer—>member delete—>stop rm member_data —>配置“join”—>start0 码力 | 11 页 | 630.95 KB | 6 月前3 [PingCAP Meetup SH 5.26]TiDB在Ping++金融聚合支付下的实践0526OLAP:saas服务下实时数仓的⽀支撑 - HTAP:基于TiDB Docker的聚合⽀支付私有化部署⽅方案 • 关于TiDB的线上运维 - TiDB体系 - 业务零感知运维 Ping++原数据架构及瓶颈 实时数仓数据源挑战: • 数⼗十亿交易易量量 • 多维度联合分析 • 实时分析+报表下载 场景⼀一:实时数仓数据源⽀支撑 数仓数据源选型过程: • • RDS快速上线 最⼤大承载3个⽉月交易易量量分析 • ADS 偶发性数据延时 • ES 开发成本、复杂关联场景 场景⼀一:实时数仓数据源⽀支撑 选型TiDB的原因: • 兼容Mysql • 分布式,海海量量数据实时查询性能 • ⾃自动failover的⾼高可⽤用 场景⼆二:聚合⽀支付私有化部署⽅方案 服务私有化部署的数据库要求: • 脱离云产品:DRDS ⾃自动运维:TiDB升级、节点扩展/下线 TiDB-Ansible • ⼿手动运维:升级磁盘、磁盘扩容、数据迁移、⽹网络升级、服务器器重启等 - TiDB节点: 负载均衡层权重—>stop start—>负载均衡层权重 - PD节点: member leader transfer—>member delete—>stop rm member_data —>配置“join”—>start0 码力 | 11 页 | 630.95 KB | 6 月前3
 TiDB中文技术文档- 21 - 本文档使用 书栈(BookStack.CN) 构建 tidb server QPS : 集群的请求量 connection count : 从业务服务器连接到数据库的连接数 和业务相关。但是如果连接数发生跳变,需要查明原因。比如突然掉为 0,可以检查网络是否中断; 如果突然上涨,需要检查业务。 statement count : 单位时间内不同类型语句执行的数目 Query Duration tidb-server --store=memory 来启动一个纯内存引擎的 TiDB 启动 TiDB 服务器时,通过 --config path 可以指定服务器的配置文件。对于配置中重叠的选项,命令行启动参 数的优先级高于配置文件。 一份配置文件的示例参见 https://github.com/pingcap/tidb/blob/master/config/config.toml.example 以下是启动参数的完整描述。 增量扫描全表并分析表的数据量 索引等一些信息 默认: “3s” 使用此参数需要先手动执行 analyze table name; 自动更新统计信息,持久化存储到 TiKV,会耗费一些 内存开销, TiDB 在 tcp 层开启 keepalive 默认: false PEM 格式的 SSL 证书文件路径 默认: “” 当同时设置了该选项和 --ssl-key 选项时,TiDB 将接受(但不强制)客户端使用 TLS 安全地连接到0 码力 | 444 页 | 4.89 MB | 6 月前3 TiDB中文技术文档- 21 - 本文档使用 书栈(BookStack.CN) 构建 tidb server QPS : 集群的请求量 connection count : 从业务服务器连接到数据库的连接数 和业务相关。但是如果连接数发生跳变,需要查明原因。比如突然掉为 0,可以检查网络是否中断; 如果突然上涨,需要检查业务。 statement count : 单位时间内不同类型语句执行的数目 Query Duration tidb-server --store=memory 来启动一个纯内存引擎的 TiDB 启动 TiDB 服务器时,通过 --config path 可以指定服务器的配置文件。对于配置中重叠的选项,命令行启动参 数的优先级高于配置文件。 一份配置文件的示例参见 https://github.com/pingcap/tidb/blob/master/config/config.toml.example 以下是启动参数的完整描述。 增量扫描全表并分析表的数据量 索引等一些信息 默认: “3s” 使用此参数需要先手动执行 analyze table name; 自动更新统计信息,持久化存储到 TiKV,会耗费一些 内存开销, TiDB 在 tcp 层开启 keepalive 默认: false PEM 格式的 SSL 证书文件路径 默认: “” 当同时设置了该选项和 --ssl-key 选项时,TiDB 将接受(但不强制)客户端使用 TLS 安全地连接到0 码力 | 444 页 | 4.89 MB | 6 月前3
 [PingCAP Meetup SH 5.26]TiDB在易果集团的应用00亿。 SKU数超过4000,线上最⼤大 ⼋八⼤大品类涵盖,线上最全 采购覆盖全球6⼤大洲 39个国家地区147个产地 冷链仓全国布局最⼴广,15地24仓 产能全国最⼤大,180万件/天 冷链物流全国规模最⼤大,覆盖全国近400 个城市 ⾏行行业最⼤大的⽣生鲜电商运营平台 订单量量近20万单/天 GMV100亿/年年 实时数仓历史 接⼿手之前的实时数仓: SQLServer + 存储过程0 码力 | 12 页 | 585.78 KB | 6 月前3 [PingCAP Meetup SH 5.26]TiDB在易果集团的应用00亿。 SKU数超过4000,线上最⼤大 ⼋八⼤大品类涵盖,线上最全 采购覆盖全球6⼤大洲 39个国家地区147个产地 冷链仓全国布局最⼴广,15地24仓 产能全国最⼤大,180万件/天 冷链物流全国规模最⼤大,覆盖全国近400 个城市 ⾏行行业最⼤大的⽣生鲜电商运营平台 订单量量近20万单/天 GMV100亿/年年 实时数仓历史 接⼿手之前的实时数仓: SQLServer + 存储过程0 码力 | 12 页 | 585.78 KB | 6 月前3
 分布式NewSQL数据库TiDB中,表或字段设置为utf8 和 设置为 utf8mb4 的效果是否⼀样 Q10: TiDB 加个联合索引会锁表吗 Q11:TiDB默认时区 Q12:查看TiDB创建索引的过程是否已经结束 Q13:TiDB 最⼤连接数 Q14: SQL执⾏时间突然变⻓ Q15: 如何通过tableID 查找表名 Q16: 如何查看当前版本 ⽬录 分布式NewSQL数据库 TiDB Copyright © 2012-2021 UCloud 处理、实时数据分析,极⼤地节省企业的成本。 数据汇聚、⼆次加⼯处理的场景 数据汇聚、⼆次加⼯处理的场景 当前绝⼤部分企业的业务数据都分散在不同的系统中,没有⼀个统⼀的汇总,随着业务的发展,企业的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的 数据汇聚在同⼀个系统并进⾏⼆次加⼯处理⽣成 T+0 或 T+1 的报表。传统常⻅的解决⽅案是采⽤ ETL + Hadoop 来完成,但 30 55 40 磁盘 0.7 1.6 1.2 2. 计费规则: 计费规则: TiDB 实例的价格 = (TiDB节点数 * CPU数 + TiKV节点数 * CPU数 + PD节点数 * CPU数 + TiFlash节点数 * CPU数 + TiCDC节点数 * CPU数) * CPU 单价 + (TiDB节点数 * 内存 + TiKV节点数 * 内存 + PD节点数 * 内存 + TiFlash节点数0 码力 | 120 页 | 7.42 MB | 6 月前3 分布式NewSQL数据库TiDB中,表或字段设置为utf8 和 设置为 utf8mb4 的效果是否⼀样 Q10: TiDB 加个联合索引会锁表吗 Q11:TiDB默认时区 Q12:查看TiDB创建索引的过程是否已经结束 Q13:TiDB 最⼤连接数 Q14: SQL执⾏时间突然变⻓ Q15: 如何通过tableID 查找表名 Q16: 如何查看当前版本 ⽬录 分布式NewSQL数据库 TiDB Copyright © 2012-2021 UCloud 处理、实时数据分析,极⼤地节省企业的成本。 数据汇聚、⼆次加⼯处理的场景 数据汇聚、⼆次加⼯处理的场景 当前绝⼤部分企业的业务数据都分散在不同的系统中,没有⼀个统⼀的汇总,随着业务的发展,企业的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的 数据汇聚在同⼀个系统并进⾏⼆次加⼯处理⽣成 T+0 或 T+1 的报表。传统常⻅的解决⽅案是采⽤ ETL + Hadoop 来完成,但 30 55 40 磁盘 0.7 1.6 1.2 2. 计费规则: 计费规则: TiDB 实例的价格 = (TiDB节点数 * CPU数 + TiKV节点数 * CPU数 + PD节点数 * CPU数 + TiFlash节点数 * CPU数 + TiCDC节点数 * CPU数) * CPU 单价 + (TiDB节点数 * 内存 + TiKV节点数 * 内存 + PD节点数 * 内存 + TiFlash节点数0 码力 | 120 页 | 7.42 MB | 6 月前3
 TiDB v5.2 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, 机制。默认值 为 true。 TiKV 配置文件 storage.flow- �→ control. �→ memtables- �→ threshold 新增 当 KvDB 的 memtable 的个 数达到该阈值 时,流控机制 开始工作。默 认值为 5。 TiKV 配置文件 storage.flow- �→ control.l0 �→ -files- �→ threshold 新增 当 KvDB noop 变量 innodb_default_row_format,配置此变量无实际效果 #23541。 • 从 TiDB 5.2 起,为了提高系统安全性,建议(但不要求)对来自客户端的连接进行传输层加密,TiDB 提 供 Auto TLS 功能在 TiDB 服务器端自动配置并开启加密。要使用 Auto TLS 功能,请在 TiDB 升级前将 TiDB 配 置文件中的security.auto-tls0 码力 | 2259 页 | 48.16 MB | 1 年前3 TiDB v5.2 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, 机制。默认值 为 true。 TiKV 配置文件 storage.flow- �→ control. �→ memtables- �→ threshold 新增 当 KvDB 的 memtable 的个 数达到该阈值 时,流控机制 开始工作。默 认值为 5。 TiKV 配置文件 storage.flow- �→ control.l0 �→ -files- �→ threshold 新增 当 KvDB noop 变量 innodb_default_row_format,配置此变量无实际效果 #23541。 • 从 TiDB 5.2 起,为了提高系统安全性,建议(但不要求)对来自客户端的连接进行传输层加密,TiDB 提 供 Auto TLS 功能在 TiDB 服务器端自动配置并开启加密。要使用 Auto TLS 功能,请在 TiDB 升级前将 TiDB 配 置文件中的security.auto-tls0 码力 | 2259 页 | 48.16 MB | 1 年前3
 TiDB v7.1 中文手册target="_blank">生成列 �→ (GA) TiDB v7.1 中文手册target="_blank">生成列 �→ (GA)- 生成列 (Generated Columns) 的值是通过实时计算列定义中的 SQL 表达式得到的。 �→ 该功能将一些应用逻辑推向数据库层,从而提升查询效率。 - 安全 - 0 码力 | 4369 页 | 98.92 MB | 1 年前 3 TiDB v5.3 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, tidb_enable_ �→ pseudo_for �→ _outdated_ �→ stats 新增 此变量用于控制 优化器在一张表 上的统计信息过 期时的行为。默 认值为 ON,当表 数据被修改的行 数大于该表总行 数的 80% (该比 例可通过pseudo �→ -estimate- �→ ratio 配置 项调整)时,优 化器认为该表上 除总行数以外的 统计信息不再可 靠,转而使用 pseudo 统计信 -cache. �→ capacity 来 计算。 TiKV raftstore. �→ store-io- �→ pool-size 新增 表示处理 Raft I/O 任务的线程 池中线程的数 量,即 StoreWriter 线程 池的大小。 TiKV raftstore. �→ raft-write �→ -size- �→ limit 新增 触发 Raft 数据 写入的阈值。 当数据大小超0 码力 | 2374 页 | 49.52 MB | 1 年前3 TiDB v5.3 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, tidb_enable_ �→ pseudo_for �→ _outdated_ �→ stats 新增 此变量用于控制 优化器在一张表 上的统计信息过 期时的行为。默 认值为 ON,当表 数据被修改的行 数大于该表总行 数的 80% (该比 例可通过pseudo �→ -estimate- �→ ratio 配置 项调整)时,优 化器认为该表上 除总行数以外的 统计信息不再可 靠,转而使用 pseudo 统计信 -cache. �→ capacity 来 计算。 TiKV raftstore. �→ store-io- �→ pool-size 新增 表示处理 Raft I/O 任务的线程 池中线程的数 量,即 StoreWriter 线程 池的大小。 TiKV raftstore. �→ raft-write �→ -size- �→ limit 新增 触发 Raft 数据 写入的阈值。 当数据大小超0 码力 | 2374 页 | 49.52 MB | 1 年前3 TiDB v8.1 中文手册com/zh/tidb/v8.1/ticdc-client-authentication"> �→ 客户端鉴权(从 v8.1.0 开始引入) TiDB v8.1 中文手册com/zh/tidb/v8.1/ticdc-client-authentication"> �→ 客户端鉴权(从 v8.1.0 开始引入)- TiCDC 支持使用 mTLS(双向传输层安全性协议)或 TiDB 用户名密码进行客户端鉴权。 �→ 该功能允许命令行工具或 OpenAPI 客户端验证与 TiCDC 的连接。 2.2.1 功能详情 2.2.1.1 稳定性 • tidb_redact_log 的值设置为 MARKER,此时 TiDB 运行日志中的 SQL 文本会被标记。还可以通过 TiDB server 的 collect-log 子命令将日志中标记的敏感数 据删除,在数据安全的情况下展示日志;或移除所有标记,获取正常日志。该功能在 v8.1.0 成为正式功 能。 更多信息,请参考用户文档。 2.2.1.5 数据迁移 • IMPORT INTO . @CharlesCheung96 在 v8.1.0 中,当使用 TiCDC CLI 或 OpenAPI 时,TiCDC 支持客户端鉴权。你可以配置 TiCDC 要求客户端使用证 书进行鉴权,以实现 mTLS(双向传输层安全性协议)。此外,你还可以使用 TiDB 用户名密码进行客户端 鉴权。 更多信息,请参考用户文档。 37 2.2.2 兼容性变更 注意: 以下为从 v8.0.0 升级至当前版本 (v8.10 码力 | 4807 页 | 101.31 MB | 1 年前3
 TiDB v5.1 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, committer- �→ concurrency �→ 修改 在单个事务的 提交阶段,控 制用于执行提 交操作相关请 求的并发数。 默认值从 16 修 改为 128。 TiDB 配置文件 performance. �→ tcp-no- �→ delay 新增 控制 TiDB 是否 在 TCP 层开启 TCP_NODELAY。 默认值为 true, 代表开启。 TiDB 配置文件 performance. deadlock- �→ history- �→ capacity 新增 控制单个 TiDB 节点 的INFORMATION �→ _SCHEMA. �→ DEADLOCKS 表最多可记录 的死锁事件个 数,默认值为 “10”。 26 配置文件 配置项 修改类型 描述 TiKV 配置文件 abort-on- �→ panic 新增 设置 TiKV panic 时 abort 进程是 否允许系统生0 码力 | 2189 页 | 47.96 MB | 1 年前3 TiDB v5.1 中文手册下,可以同一个系统中做联机交易处理、实时数据分析,极大地节省企业的成本。 • 数据汇聚、二次加工处理的场景 当前绝大部分企业的业务数据都分散在不同的系统中,没有一个统一的汇总,随着业务的发展,企业 的决策层需要了解整个公司的业务状况以便及时做出决策,故需要将分散在各个系统的数据汇聚在同 一个系统并进行二次加工处理生成 T+0 或 T+1 的报表。传统常见的解决方案是采用 ETL + Hadoop 来完成, committer- �→ concurrency �→ 修改 在单个事务的 提交阶段,控 制用于执行提 交操作相关请 求的并发数。 默认值从 16 修 改为 128。 TiDB 配置文件 performance. �→ tcp-no- �→ delay 新增 控制 TiDB 是否 在 TCP 层开启 TCP_NODELAY。 默认值为 true, 代表开启。 TiDB 配置文件 performance. deadlock- �→ history- �→ capacity 新增 控制单个 TiDB 节点 的INFORMATION �→ _SCHEMA. �→ DEADLOCKS 表最多可记录 的死锁事件个 数,默认值为 “10”。 26 配置文件 配置项 修改类型 描述 TiKV 配置文件 abort-on- �→ panic 新增 设置 TiKV panic 时 abort 进程是 否允许系统生0 码力 | 2189 页 | 47.96 MB | 1 年前3
共 21 条
- 1
- 2
- 3













