 Greenplum 精粹文集另外,Mapreduce 在整个 MAP->Shuffle->Reduce 过程中通过文件 来交换数据,效率很低,MapReduce 要求每个步骤间的数据都要序列 化到磁盘,这意味着 MapReduce 作业的 I/O 成本很高,导致交互分 析和迭代算法开销很大,MPP 数据库采用 Pipline 方式在内存数据流 中处理数据,效率比文件方式高很多。 总结以上几点,MPP 数据库在计算并行度、计算算法上比 表空间的方式,并将随机 IO 类应用对 应的表放在 SSD 设备上,从而有效的隔离底层 IO,达到更好 SLA。 某电信用户存在大量对 400 个字段以上大宽表的随机查询场景,之 前由于 IO 资源争用,在批量作业调起时随机查询响应时间显著增加, 通过这种方式改造后,达到了很好的效果。 ·预留一台硬件服务器作为整个集群的灾备机,提前装好操作系统和 数据库软件,并放在与现有集群相同的网络环境中,一旦硬件出现0 码力 | 64 页 | 2.73 MB | 1 年前3 Greenplum 精粹文集另外,Mapreduce 在整个 MAP->Shuffle->Reduce 过程中通过文件 来交换数据,效率很低,MapReduce 要求每个步骤间的数据都要序列 化到磁盘,这意味着 MapReduce 作业的 I/O 成本很高,导致交互分 析和迭代算法开销很大,MPP 数据库采用 Pipline 方式在内存数据流 中处理数据,效率比文件方式高很多。 总结以上几点,MPP 数据库在计算并行度、计算算法上比 表空间的方式,并将随机 IO 类应用对 应的表放在 SSD 设备上,从而有效的隔离底层 IO,达到更好 SLA。 某电信用户存在大量对 400 个字段以上大宽表的随机查询场景,之 前由于 IO 资源争用,在批量作业调起时随机查询响应时间显著增加, 通过这种方式改造后,达到了很好的效果。 ·预留一台硬件服务器作为整个集群的灾备机,提前装好操作系统和 数据库软件,并放在与现有集群相同的网络环境中,一旦硬件出现0 码力 | 64 页 | 2.73 MB | 1 年前3
 Pivotal Greenplum 最佳实践分享Vacuum Full的处理性能非常低,一般情况下不建议采用,可以用Reorganize代替、或者使用AO表; 系统表不支持Reorganize操作,因此,需要定期vacuum,例如设置定时作业,每周对所有系统表vacuum analyze一次 • 查询视图GP_TOOLKIT.GP_BLOAT_DIAG可监控垃圾空间的膨胀系数 • REINDEX:回收索引的垃圾空间0 码力 | 41 页 | 1.42 MB | 1 年前3 Pivotal Greenplum 最佳实践分享Vacuum Full的处理性能非常低,一般情况下不建议采用,可以用Reorganize代替、或者使用AO表; 系统表不支持Reorganize操作,因此,需要定期vacuum,例如设置定时作业,每周对所有系统表vacuum analyze一次 • 查询视图GP_TOOLKIT.GP_BLOAT_DIAG可监控垃圾空间的膨胀系数 • REINDEX:回收索引的垃圾空间0 码力 | 41 页 | 1.42 MB | 1 年前3
 Greenplum数据仓库UDW - UCloud中立云计算服务商到最新的⽉份分区。 把数据分为⼏个均等的部分:通过⼀个分区标准把⼀个⼤表的数据划分为均等的分区,这样可以等倍的提⾼查询性能。 使⽤分区的时候请避免建⽴过多的分区,创建过多的分区可能会影响管理和维护作业,例如: 清理⼯作,节点恢复,集群扩展,查看磁盘使⽤情况等。 开发指南 Greenplum数据仓库 UDW Copyright © 2012-2021 UCloud 优刻得 92/206 6.10 码力 | 206 页 | 5.35 MB | 1 年前3 Greenplum数据仓库UDW - UCloud中立云计算服务商到最新的⽉份分区。 把数据分为⼏个均等的部分:通过⼀个分区标准把⼀个⼤表的数据划分为均等的分区,这样可以等倍的提⾼查询性能。 使⽤分区的时候请避免建⽴过多的分区,创建过多的分区可能会影响管理和维护作业,例如: 清理⼯作,节点恢复,集群扩展,查看磁盘使⽤情况等。 开发指南 Greenplum数据仓库 UDW Copyright © 2012-2021 UCloud 优刻得 92/206 6.10 码力 | 206 页 | 5.35 MB | 1 年前3
 Greenplum Database 管理员指南 6.2.1型语 句之间交错执行,可能真实的使用量会远小于资源队列限制的总量,所以,并不能简单 的说,MEMORY_LIMIT的总和绝对不能超过Primary可以获得的物理内存总量,这取 决于如何安排和优化并行作业,编者提醒,如果某个Primary超出了内存限制超,相 关语句会被取消而导致失败,所以,如何更合理的配置内存参数,以真实生产环境的多 日统计结果为依据来进行调整,最为稳妥。 创建包含成本限制的资源队列 据备份到共享存储上,然后在备用集群上,从共享存储恢复备份文件到数据库。与双 ETL方案相比,这种方案将需要花费更多的时间来同步数据,同时需要较大容量的共享 存储设备,但可以保证数据的一致性,同时,不需要业务逻辑和作业调度做出任何的修 改。如果存储和时效性都可以接受,可以考虑该方案。 增量同步,这是编者为付费用户实施的灾备方案,目前已有多个用户在生产中实施 并长期稳定运行。该方案,通过组合使用编者的一套自己开发的命令脚本来实现,首先 主机和现有主机的整体性能基准,至少要确保新主机的性能不能低于现有主机的性能。 如果有可能,尽量进行离线测试,即停掉现有的GP数据库集群的服务,然后进行整体 的性能测试,如果无法满足离线的要求,也要尽可能做到在无作业时间窗口来完成整体 的性能测试,避免数据库任务对测试结果产生影响。具体测试方法,请参考"系统性能 检查"章节。磁盘的IO性能与已使用容量的百分比有关,尤其是使用百分比达到甚至超 过70%时,性能下降0 码力 | 416 页 | 6.08 MB | 1 年前3 Greenplum Database 管理员指南 6.2.1型语 句之间交错执行,可能真实的使用量会远小于资源队列限制的总量,所以,并不能简单 的说,MEMORY_LIMIT的总和绝对不能超过Primary可以获得的物理内存总量,这取 决于如何安排和优化并行作业,编者提醒,如果某个Primary超出了内存限制超,相 关语句会被取消而导致失败,所以,如何更合理的配置内存参数,以真实生产环境的多 日统计结果为依据来进行调整,最为稳妥。 创建包含成本限制的资源队列 据备份到共享存储上,然后在备用集群上,从共享存储恢复备份文件到数据库。与双 ETL方案相比,这种方案将需要花费更多的时间来同步数据,同时需要较大容量的共享 存储设备,但可以保证数据的一致性,同时,不需要业务逻辑和作业调度做出任何的修 改。如果存储和时效性都可以接受,可以考虑该方案。 增量同步,这是编者为付费用户实施的灾备方案,目前已有多个用户在生产中实施 并长期稳定运行。该方案,通过组合使用编者的一套自己开发的命令脚本来实现,首先 主机和现有主机的整体性能基准,至少要确保新主机的性能不能低于现有主机的性能。 如果有可能,尽量进行离线测试,即停掉现有的GP数据库集群的服务,然后进行整体 的性能测试,如果无法满足离线的要求,也要尽可能做到在无作业时间窗口来完成整体 的性能测试,避免数据库任务对测试结果产生影响。具体测试方法,请参考"系统性能 检查"章节。磁盘的IO性能与已使用容量的百分比有关,尤其是使用百分比达到甚至超 过70%时,性能下降0 码力 | 416 页 | 6.08 MB | 1 年前3
 VMware Greenplum 6 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras VMware Greenplum 6 Documentation VMware, Inc 385 hkernel=auto spectre_v2=retpoline is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 2374 页 | 44.90 MB | 1 年前3 VMware Greenplum 6 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras VMware Greenplum 6 Documentation VMware, Inc 385 hkernel=auto spectre_v2=retpoline is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 2374 页 | 44.90 MB | 1 年前3
 VMware Tanzu Greenplum v6.23 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 2298 页 | 40.94 MB | 1 年前3 VMware Tanzu Greenplum v6.23 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 2298 页 | 40.94 MB | 1 年前3
 VMware Tanzu Greenplum 6 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: VMware Tanzu Greenplum 6 Documentation VMware, Inc0 码力 | 2311 页 | 17.58 MB | 1 年前3 VMware Tanzu Greenplum 6 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap elevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: VMware Tanzu Greenplum 6 Documentation VMware, Inc0 码力 | 2311 页 | 17.58 MB | 1 年前3
 VMware Tanzu Greenplum v6.21 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download number of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best0 码力 | 2025 页 | 33.54 MB | 1 年前3 VMware Tanzu Greenplum v6.21 Documentationelevator=deadline exist: $ cat /proc/cmdline BOOT_IMAGE=/vmlinuz-3.10.0-1160.el7.x86_64 root=/dev/mapper/centos-root ro cras hkernel=auto spectre_v2=retpoline rd.lvm.lv=centos/root rd.lvm.lv=centos/swap is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download number of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best0 码力 | 2025 页 | 33.54 MB | 1 年前3
 VMware Greenplum v6.18 Documentationnumber of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 Note: PL/Container 2.1.x supports Docker images with Python 3 installed. VMware0 码力 | 1959 页 | 19.73 MB | 1 年前3 VMware Greenplum v6.18 Documentationnumber of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best is root. 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 Note: PL/Container 2.1.x supports Docker images with Python 3 installed. VMware0 码力 | 1959 页 | 19.73 MB | 1 年前3
 VMware Greenplum v6.19 Documentationnumber of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best Inc. 427 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 1972 页 | 20.05 MB | 1 年前3 VMware Greenplum v6.19 Documentationnumber of segments per host. Spill files are created when there is not enough memory to fit all the mapper output, usually when 80% of the buffer space is occupied. Also, see Resource Management for best Inc. 427 2. Install the dependencies required for Docker: sudo yum install -y yum-utils device-mapper-persistent-data lvm2 3. Add the Docker repo: sudo yum-config-manager --add-repo https://download0 码力 | 1972 页 | 20.05 MB | 1 年前3
共 15 条
- 1
- 2













