 Doris的数据导入机制以及原子性保证Phase 2 总结 03 Doris 中的导入 • 写入带版本 • 查询带版本 多版本机制解决读写冲突 两阶段导入保证多表原子生效 • 支持并行导入 • 有冲突时按导入顺序生效,无冲突导入时并行生效 写入带版本 查询带版本 支持并行导入 冲突时按顺序生效 (多版本机制) (两阶段导入) 事务能力保证 使用案例 04 BI Application 数据加载0 码力 | 33 页 | 21.95 MB | 1 年前3 Doris的数据导入机制以及原子性保证Phase 2 总结 03 Doris 中的导入 • 写入带版本 • 查询带版本 多版本机制解决读写冲突 两阶段导入保证多表原子生效 • 支持并行导入 • 有冲突时按导入顺序生效,无冲突导入时并行生效 写入带版本 查询带版本 支持并行导入 冲突时按顺序生效 (多版本机制) (两阶段导入) 事务能力保证 使用案例 04 BI Application 数据加载0 码力 | 33 页 | 21.95 MB | 1 年前3
 TiDB 开源分布式关系型数据库Database}被国际三大顶级数据库会议VLDB 2020 收录, 成为业界第 一篇 Real-time HTAP 分布式数据库工业实现的顶级论文 *。 ”发明专利:一种键值存储系统沙《一种基于共识算法的 HTAP 数据库》 *。 ”计算机软件著作权登记证书: 分布式数据库 TiDB 企业版软件.Tiflash 列式存储引擎软件 一 PingCAP DM 工具有利于简化错误处理流程,降低运维成本,主要优势如下: 。 数据迁移任务的高可用 。 先进的分库分表合并技术 - 分库分表数据同步合并 - 独有的分库分表 DDL 合并技术 。 ”易用的错误处理机制 2 dt Prometheus 3 Source management Heartbeat Task0 码力 | 58 页 | 9.51 MB | 1 年前3 TiDB 开源分布式关系型数据库Database}被国际三大顶级数据库会议VLDB 2020 收录, 成为业界第 一篇 Real-time HTAP 分布式数据库工业实现的顶级论文 *。 ”发明专利:一种键值存储系统沙《一种基于共识算法的 HTAP 数据库》 *。 ”计算机软件著作权登记证书: 分布式数据库 TiDB 企业版软件.Tiflash 列式存储引擎软件 一 PingCAP DM 工具有利于简化错误处理流程,降低运维成本,主要优势如下: 。 数据迁移任务的高可用 。 先进的分库分表合并技术 - 分库分表数据同步合并 - 独有的分库分表 DDL 合并技术 。 ”易用的错误处理机制 2 dt Prometheus 3 Source management Heartbeat Task0 码力 | 58 页 | 9.51 MB | 1 年前3
 TiDB v6.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 101 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · COLUMNS 分区 • 支持通过 SQL 语句对 TiFlash 副本立即触发物理数据整理 (Compaction)(实验特性) 在当前 TiFlash 后台自动整理物理数据(Compaction)机制基础上,新增 compact 命令,帮助刷新旧格式数 据,提升读写性能。推荐在升级至 v6.1.0 之后,执行该语句以清理数据。此语句是对标准 SQL 语法的扩 展,对 MySQL 客户端保持兼容。升级之外场景一般不需要特别关注。 事务原子性和隔离性,但是对 于集群的稳定性有很大提升,详细语法请参考BATCH。 用户文档 • TiDB 支持设置最大 GC 等待时间 TiDB 的事务的实现采用了 MVCC(多版本并发控制)机制,当新写入的数据覆盖旧的数据时,旧的数据 不会被替换掉,而是与新写入的数据同时保留,并通过 Garbage Collection (GC) 的任务定期清理不再需要 的旧数据。定期 GC 清理有助于回0 码力 | 3572 页 | 84.36 MB | 1 年前3 TiDB v6.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 101 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · COLUMNS 分区 • 支持通过 SQL 语句对 TiFlash 副本立即触发物理数据整理 (Compaction)(实验特性) 在当前 TiFlash 后台自动整理物理数据(Compaction)机制基础上,新增 compact 命令,帮助刷新旧格式数 据,提升读写性能。推荐在升级至 v6.1.0 之后,执行该语句以清理数据。此语句是对标准 SQL 语法的扩 展,对 MySQL 客户端保持兼容。升级之外场景一般不需要特别关注。 事务原子性和隔离性,但是对 于集群的稳定性有很大提升,详细语法请参考BATCH。 用户文档 • TiDB 支持设置最大 GC 等待时间 TiDB 的事务的实现采用了 MVCC(多版本并发控制)机制,当新写入的数据覆盖旧的数据时,旧的数据 不会被替换掉,而是与新写入的数据同时保留,并通过 Garbage Collection (GC) 的任务定期清理不再需要 的旧数据。定期 GC 清理有助于回0 码力 | 3572 页 | 84.36 MB | 1 年前3
 TiDB v7.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 96 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 并通过可视化的方式进行容量预估,便于合理配置资源。 更多信息,请参考用户文档。 • 支持 Fast Online DDL 的检查点机制,提升容错性和自动恢复能力 #42164 @tangenta TiDB v7.1.0 引入Fast Online DDL 的检查点机制,可以大幅提升 Fast Online DDL 的容错性和自动恢复能力。即 使 TiDB owner 因故障重启或者切换,TiDB @bufferflies – 新增历史负载信息,避免了存储引擎为 raft-kv2 时,热点调度器对不稳定负载所在的 Region 进行频 繁调度 #6297 @bufferflies – 新增 leader 健康检查机制,当 etcd leader 所在的 PD server 无法当选 leader 时,主动切换 etcd leader 来 保证 PD leader 可用 #6403 @nolouch 57 •0 码力 | 4369 页 | 98.92 MB | 1 年前3 TiDB v7.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 96 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 并通过可视化的方式进行容量预估,便于合理配置资源。 更多信息,请参考用户文档。 • 支持 Fast Online DDL 的检查点机制,提升容错性和自动恢复能力 #42164 @tangenta TiDB v7.1.0 引入Fast Online DDL 的检查点机制,可以大幅提升 Fast Online DDL 的容错性和自动恢复能力。即 使 TiDB owner 因故障重启或者切换,TiDB @bufferflies – 新增历史负载信息,避免了存储引擎为 raft-kv2 时,热点调度器对不稳定负载所在的 Region 进行频 繁调度 #6297 @bufferflies – 新增 leader 健康检查机制,当 etcd leader 所在的 PD server 无法当选 leader 时,主动切换 etcd leader 来 保证 PD leader 可用 #6403 @nolouch 57 •0 码力 | 4369 页 | 98.92 MB | 1 年前3
 TiDB v6.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 99 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 会备份退出。断点续传功能允许对持续更长时间的可恢复故障进行重试恢复,比如几十分钟的网络故 障。 需要注意的是,如果你没有在 BR 退出后一个小时内完成故障恢复,那么还未备份的快照数据可能会被 GC 机制回收,从而造成备份失败。更多信息,请参考用户文档。 • PITR 性能大幅提升 [@joccau](https://github.com/joccau) PITR 恢复的日志恢复阶段,单台 TiKV 版本引入的AMEND TRANSACTION 机制,并使用元数据锁替代。 2.2.4 改进提升 • TiDB – 对于 BIT 和 CHAR 类型的列,使 INFORMATION_SCHEMA.COLUMNS 的显示结果与 MySQL 一致 #25472 @hawkingrei – 优化 TiDB 在 TiFlash MPP 模式下对 TiFlash 节点的探活机制,缓解节点异常时对性能的影响 #396860 码力 | 4049 页 | 94.00 MB | 1 年前3 TiDB v6.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 99 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 会备份退出。断点续传功能允许对持续更长时间的可恢复故障进行重试恢复,比如几十分钟的网络故 障。 需要注意的是,如果你没有在 BR 退出后一个小时内完成故障恢复,那么还未备份的快照数据可能会被 GC 机制回收,从而造成备份失败。更多信息,请参考用户文档。 • PITR 性能大幅提升 [@joccau](https://github.com/joccau) PITR 恢复的日志恢复阶段,单台 TiKV 版本引入的AMEND TRANSACTION 机制,并使用元数据锁替代。 2.2.4 改进提升 • TiDB – 对于 BIT 和 CHAR 类型的列,使 INFORMATION_SCHEMA.COLUMNS 的显示结果与 MySQL 一致 #25472 @hawkingrei – 优化 TiDB 在 TiFlash MPP 模式下对 TiFlash 节点的探活机制,缓解节点异常时对性能的影响 #396860 码力 | 4049 页 | 94.00 MB | 1 年前3
 TiDB v8.0 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 95 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 更多信息,请参考用户文档。 • 支持在会话级将不可见索引 (Invisible Indexes) 调整为可见 #50653 @hawkingrei 在优化器选择索引时,默认情况下不会选择不可见索引。这一机制通常用于在评估是否删除某个索引 之前。如果担心删除索引可能导致性能下降,可以先将索引设置为不可见,以便在必要时快速将其恢 复为可见。 38 从 v8.0.0 开始,你可以将会话级系统变量tidb 任务,方便批量导入数据到目标表,极大地提升 了数据文件导入的效率和性能 #49008 @D3Hunter – 提升 Sort 算子的数据落盘性能 #47733 @xzhangxian1008 – 优化数据落盘功能的退出机制,支持在数据落盘过程中取消查询 #50511 @wshwsh12 – 在处理包含多个等值条件的表连接查询时,支持使用匹配部分条件的索引构造 Index Join #47233 @winoros0 码力 | 4805 页 | 101.28 MB | 1 年前3 TiDB v8.0 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 95 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 更多信息,请参考用户文档。 • 支持在会话级将不可见索引 (Invisible Indexes) 调整为可见 #50653 @hawkingrei 在优化器选择索引时,默认情况下不会选择不可见索引。这一机制通常用于在评估是否删除某个索引 之前。如果担心删除索引可能导致性能下降,可以先将索引设置为不可见,以便在必要时快速将其恢 复为可见。 38 从 v8.0.0 开始,你可以将会话级系统变量tidb 任务,方便批量导入数据到目标表,极大地提升 了数据文件导入的效率和性能 #49008 @D3Hunter – 提升 Sort 算子的数据落盘性能 #47733 @xzhangxian1008 – 优化数据落盘功能的退出机制,支持在数据落盘过程中取消查询 #50511 @wshwsh12 – 在处理包含多个等值条件的表连接查询时,支持使用匹配部分条件的索引构造 Index Join #47233 @winoros0 码力 | 4805 页 | 101.28 MB | 1 年前3
 TiDB v8.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 81 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · e 指标 #28937 @cfzjywxk – 在 Resource Control 面板中添加 RU (max) 监控指标 #49318 @nolouch – 为 LDAP 身份认证添加超时机制,避免资源锁 (RLock) 无法及时释放的问题 #51883 @YangKeao • TiKV – 在 Raftstore 线程中避免进行快照文件的 IO 操作,提高 TiKV 稳定性 #16564 tidb_mem_quota_analyze 时,更新统计信息使用的内存超过限制可能导致 TiDB crash 的问 题 #52601 @hawkingrei – 修复 TiDB 统计信息同步加载机制无限重试加载空统计信息并打印 fail to get stats version for �→ this histogram 日志的问题 #52657 @hawkingrei – 修复关闭新排序0 码力 | 4807 页 | 101.31 MB | 1 年前3 TiDB v8.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 81 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · e 指标 #28937 @cfzjywxk – 在 Resource Control 面板中添加 RU (max) 监控指标 #49318 @nolouch – 为 LDAP 身份认证添加超时机制,避免资源锁 (RLock) 无法及时释放的问题 #51883 @YangKeao • TiKV – 在 Raftstore 线程中避免进行快照文件的 IO 操作,提高 TiKV 稳定性 #16564 tidb_mem_quota_analyze 时,更新统计信息使用的内存超过限制可能导致 TiDB crash 的问 题 #52601 @hawkingrei – 修复 TiDB 统计信息同步加载机制无限重试加载空统计信息并打印 fail to get stats version for �→ this histogram 日志的问题 #52657 @hawkingrei – 修复关闭新排序0 码力 | 4807 页 | 101.31 MB | 1 年前3
 TiDB v7.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 81 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提 一样,TIMESTAMP 数据类型受 2038 年问题的影响。如果存储的值大于 2038,建 议使用 DATETIME 类型。 4.6.3.5 性能注意事项 4.6.3.5.1 TiDB GC 机制 DELETE 语句运行之后 TiDB 并非立刻删除数据,而是将这些数据标记为可删除。然后等待 TiDB GC (Garbage Collection) 来清理不再需要的旧数据。因此,你的 DELETE0 码力 | 4590 页 | 100.91 MB | 1 年前3 TiDB v7.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 81 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提 一样,TIMESTAMP 数据类型受 2038 年问题的影响。如果存储的值大于 2038,建 议使用 DATETIME 类型。 4.6.3.5 性能注意事项 4.6.3.5.1 TiDB GC 机制 DELETE 语句运行之后 TiDB 并非立刻删除数据,而是将这些数据标记为可删除。然后等待 TiDB GC (Garbage Collection) 来清理不再需要的旧数据。因此,你的 DELETE0 码力 | 4590 页 | 100.91 MB | 1 年前3
 TiDB v7.6 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 91 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · range 场景的集成测试,提升 PITR 稳定性 #47738 @Leavrth * 提升了 RESTORE 语句在大数据量表场景下的建表性能 #48301 @Leavrth * 重构 BR 异常处理机制,提高对未知错误的容忍度 #47656 @3pointer – TiCDC * 通过增加并行,优化了 TiCDC 同步数据到对象存储的性能 #10098 @CharlesCheung96 * 支持通过在 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提0 码力 | 4666 页 | 101.24 MB | 1 年前3 TiDB v7.6 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 91 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · range 场景的集成测试,提升 PITR 稳定性 #47738 @Leavrth * 提升了 RESTORE 语句在大数据量表场景下的建表性能 #48301 @Leavrth * 重构 BR 异常处理机制,提高对未知错误的容忍度 #47656 @3pointer – TiCDC * 通过增加并行,优化了 TiCDC 同步数据到对象存储的性能 #10098 @CharlesCheung96 * 支持通过在 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提0 码力 | 4666 页 | 101.24 MB | 1 年前3
 TiDB v8.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 103 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 减少处理存算分离请求时创建的线程数,避免 TiFlash 计算节点在处理大量请求时崩溃 #9334 @JinheLin – 改进 Pipeline Model 执行模型下任务的等待机制 #8869 @SeaRise – 改进 JOIN 算子的取消机制,使得 JOIN 算子内部能及时响应取消请求 #9430 @windtalker • Tools – Backup & Restore (BR) * 当集群的 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提0 码力 | 5095 页 | 104.54 MB | 10 月前3 TiDB v8.5 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 103 4.1.2 TiDB 事务机制 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 减少处理存算分离请求时创建的线程数,避免 TiFlash 计算节点在处理大量请求时崩溃 #9334 @JinheLin – 改进 Pipeline Model 执行模型下任务的等待机制 #8869 @SeaRise – 改进 JOIN 算子的取消机制,使得 JOIN 算子内部能及时响应取消请求 #9430 @windtalker • Tools – Backup & Restore (BR) * 当集群的 之前,你需要了解一些关于 TiDB 数据库的一些重要工作机制: • 阅读TiDB 事务概览来了解 TiDB 的事务运作方式或查看为应用开发程序员准备的事务说明查看应用开发 程序员需要了解的事务部分。 • 学习免费在线课程 TiDB 架构与特点,了解构建 TiDB 分布式数据库集群的核心组件及其概念。 • 了解应用程序与 TiDB 交互的方式。 4.1.2 TiDB 事务机制 TiDB 支持分布式事务,而且提0 码力 | 5095 页 | 104.54 MB | 10 月前3
共 57 条
- 1
- 2
- 3
- 4
- 5
- 6













