Greenplum Database 管理员指南 6.2.1......................................................................................... - 265 - 内存容量 ................................................................................................ ......................................................................................... - 375 - 内存管理 ................................................................................................ .............................. - 386 - 操作系统内存参数配置 .......................................................................................... - 387 - 共享内存设置 ..........................................0 码力 | 416 页 | 6.08 MB | 1 年前3
Greenplum 精粹文集hash join 是必备的利器,缺少这些关键功能非常致命,将难于在 OLAP 领域充当大任。我们最近对基于 MYSQL 的某内存分布式数据库做 对比测试时,发现其优点是 OLTP 非常快,TPS 非常高(轻松搞定 几十万),但一到复杂多表关联性能就立马下降,即使其具有内存 计算的功能也无能为力,就其因估计还是受到 mysql 在这方面限制。 3) 扩展性方面,Postgresql 比 mysql 下午3:38 Greenplum 精粹文集 7 Greenplum 采用 Postgresl 作为底层引擎,良好的兼容了 Postgresql 的 功 能,Postgresql 中 的 功 能 模 块 和 接 口 基 本 上 99% 都 可 以 在 Greenplum 上 使 用, 例 如 odbc、jdbc、oledb、perldbi、python psycopg2 等,所以 Greenplum 仅 只 是 简 单 的 等 同 于 “Postgresql+interconnect 并行调度 + 分布式事务两阶段提交”, Greenplum 还研发了非常多的高级数据分析管理功能和企业级管理模 块,如下这些功能都是 Postgresql 没有提供的: ·外部表并行数据加载 ·可更新数据压缩表 ·行、列混合存储 ·数据表多级分区 ·Bitmap 索引 ·Hadoop 外部表 ·Gptext0 码力 | 64 页 | 2.73 MB | 1 年前3
TiDB中文技术文档事务语句 数据库管理语句 Prepared SQL 语句语法 实用工具语句 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制文档 Bit-value Literals Boolean Literals Date 和 Time 字面值 十六进制的字面值 NULL Values 数值字面值 字符串字面值 TiDB 用户文档 Prepared SQL 语句语法 实用工具语句 TiDB SQL 语法图 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制 高级功能 历史数据回溯 垃圾回收 (GC) TiDB 运维文档 软硬件环境需求 部署集群 Ansible 部署方案(强烈推荐) 离线 Ansible 部署方案 Docker 部署方案 Docker 优化 语言结构 字符集和时区 数据类型 函数和操作符 SQL 语句语法 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制 高级功能 TiDB 用户文档 - 23 - 本文档使用 书栈(BookStack.CN) 构建 TiDB 数据库管理 TiDB 服务 TiDB 进程启动参数 TiDB 系统数据库 TiDB 系统变量0 码力 | 444 页 | 4.89 MB | 6 月前3
TiDB v5.2 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 282 8.1.4 慢日志内存映射表 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 算子下推 到 TiKV 的阈值, 默认值为100。 tidb_stmt_ �→ summary_ �→ max_stmt_ �→ count 修改 表示 statement summary 在内存 中保存的语句的 最大数量。默认 值从 200 修改为 3000。 26 变量名 修改类型 描述 tidb_enable_ �→ streaming 废弃 系统变量 enable- �→ • 支持 Spilling HashAgg 支持 HashAgg 的落盘。当包含 HashAgg 算子的 SQL 语句引起 OOM 时,可以尝试设置算子的并发度为 1 来 触发落盘,缓解 TiDB 内存压力。 用户文档,#25882 • 提升优化器的估算准确度 (Cardinality Estimation) – 提升 TiDB 对 TopN/Limit 估算的准确度。例如,对于包含 order0 码力 | 2259 页 | 48.16 MB | 1 年前3
TiDB v5.1 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 273 8.1.4 慢日志内存映射表 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · �→ memory- �→ quota 新增 设置缓存在内 存中的 TiCDC Old Value 的条 目占用内存的 上限。默认值 为 512MB。 TiKV 配置文件 sink-memory- �→ quota 新增 设置缓存在内 存中的 TiCDC 数 据变更事件占 用内存的上限。 默认值为 512MB。 TiKV 配置文件 incremental- �→ scan- �→ threads 长时间处于非活跃状态,即被自动设置为静默状态,可以降低 Leader 和 Follower 之间心跳信 息的系统开销。 用户文档,#10266 2.2.2.4 稳定性 • TiCDC 复制稳定性问题解决 – 改善 TiCDC 内存使用,避免在以下场景出现 OOM * 同步中断期间积累大量数据,超过 1TB,重新同步出现 OOM 问题 * 大量数据写入造成 TiCDC 出现 OOM 问题 – 改善 TiCDC 同步中断问题,缓解以下场景的问题0 码力 | 2189 页 | 47.96 MB | 1 年前3
TiDB v5.3 中文手册· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 298 8.1.4 慢日志内存映射表 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 用户文档,#18030 • 临时表 新增对 CREATE [GLOBAL] TEMPORARY TABLE 语句的支持。支持创建临时表,方便管理业务中间计算的临 时数据。临时表中的数据均保存在内存中,用户可通过 tidb_tmp_table_max_size 变量限制临时表的内 存大小。TiDB 支持以下两种临时表: – Global 临时表 * 对集群内所有 session 可见,表结构持久化。 编 码。 用户文档 • Sync-diff-inspector 优化 – 大幅提升了对比速度,由原来的 375 MB/s 提升至 700 MB/s。 35 – 对比过程中对 TiDB 节点的内存消耗降低近一半。 – 优化了用户交互界面,在对比过程中可以显示进度。 用户文档 2.2.2.6 问题诊断效率 • 保存和恢复集群现场信息 在定位排查 TiDB 集群问题时,用户经常需要提供0 码力 | 2374 页 | 49.52 MB | 1 年前3
TiDB v7.1 中文手册Prepare 语句的执行计划缓存作为实验特性,以提升在线交易场景的并发处理能力。 在 v7.1.0 中,TiDB 继续增强非 Prepare 语句执行计划,支持缓存更多模式的 SQL。 为了提升内存利用率,TiDB v7.1.0 将非 Prepare 与 Prepare 语句的缓存池合并。你可以通过系统变量tidb_ �→ session_plan_cache_size 设置缓存大小。原有的系 * 修复当同步数据到对象存储时上游的 EXCHANGE PARTITION 操作没有正常同步到下游的问题 #8914 @CharlesCheung96 * 修复在某些特殊场景下 sorter 组件内存使用过多导致 OOM 的问题 #8974 @hicqu * 修复下游 Kafka 滚动重启时 TiCDC 节点发生 panic 的问题 #9023 @asddongmen – TiDB Data Y Y Y Y Y Y Y 快速分析 E E E E E E E E E 动态裁剪 Y Y Y E E E E N N 收集部分列的统计信息 E E E E N N N N N 限制统计信息的内存使用量 E E E N N N N N N 随机采样约 10000 行数据来快速构建统计信息 E E E E E E E E E 锁定统计信息 E E N N N N N N N 轻量级统计信息初始化0 码力 | 4369 页 | 98.92 MB | 1 年前3
TiDB v8.0 中文手册e-从-v800- �→ 版本开始引入">用于处理更大事务的批量 DML 执行方式(实验特性)大批量的 DML 任务,例如大规模的清理任务、连接或聚合,可能会消耗大量内存, �→ 并且在非常大的规模上受到限制。批量 DML ( tidb_dml_type = "bulk") 是一种新的 �→ DML 类型,用于更高效地处理大批量 DML 任务,同时提供事务保证并减轻数据库管理与可观测性 支持观测索引使用情况 正确的索引设计是提升数据库性能的重要前提。TiDB v8.0.0 引入内存表 INFORMATION_SCHEMA 间,增强数据库的可用性和可靠性,减少因数据丢失或系统故障引起的停机时间和业务损失。需要注 意的是,恢复速度的提升是因为使用了大量的 goroutine 来并行工作,会有比较大的内存消耗,特别是 在表或者 Region 数很多的时候,推荐使用内存规格较高的机器来运行 BR 的客户端。如果机器的内存规 35 格较小,建议改用细粒度的 Region 分裂打散策略。此外,因为粗粒度打散 Region 算法会占用大量的外部 存储带宽,请避0 码力 | 4805 页 | 101.28 MB | 1 年前3
TiDB v8.1 中文手册版本开始引入">用于处理更大事务的批量 DML 执行方式(实验特性,从 v8.0.0 开始引入)大批量的 DML 任务,例如大规模的清理任务、连接或聚合,可能会消耗大量内存, �→ 并且在非常大的规模上受到限制。批量 DML ( tidb_dml_type = "bulk") 是一种新的 �→ DML 类型,用于更高效地处理大批量 DML 任务,同时提供事务保证并减轻 a 缓存系统,为表元数据提供了基于 LRU (Least �→ Recently Used) 算法的缓存策略,优先将最近访问频率较高的表元数据存储在缓存中, �→ 从而减少表数量较多场景下的内存占用。- 支持在
auto analyze中配置数据库管理与可观测性支持观测索引使用情况(从 v8.0.0 开始引入) 正确的索引设计是提升数据库性能的重要前提。TiDB v8.0.0 引入内存表 INFORMATION_SCHEMA0 码力 | 4807 页 | 101.31 MB | 1 年前3
TiDB v7.5 中文手册target="_blank">分布式执行框架。在 v7.4.0 中,TiDB 以该框架为基础, �→ 引入全局排序,消除了数据 reorg 任务期间临时无序数据导致的不必要的 I/O、CPU 和内存峰值。 �→ 全局排序利用外部对象存储(目前为 Amazon S3)来存储系统作业期间的中间文件, �→ 提高灵活性并降低成本。ADD INDEX和IMPORT >TiDB Dashboard 性能分析支持 TiKV 堆内存分析 在之前版本中调查 TiKV OOM 或内存使用高的问题时,往往需要在实例环境下手动运行 2.2.1 功能详情 2.2.1.1 可扩展性 • 支持设置 TiDB 节点的服务范围,用于选择适用的 TiDB 节点分布式执行 ADD INDEX 或 IMPORTjeprof v7.5.0 开始,TiKV 支持远程处理 Heap Profile,你可以通过 TiDB �→ Dashboard 直接获取 Heap Profile 的火焰图和调用图。该功能提供了与 Go �→ 堆内存分析同等的简单易用体验。0 码力 | 4590 页 | 100.91 MB | 1 年前3共 87 条- 1
- 2
- 3
- 4
- 5
- 6
- 9













