Greenplum 精粹文集加, 通过这种方式改造后,达到了很好的效果。 ·预留一台硬件服务器作为整个集群的灾备机,提前装好操作系统和 数据库软件,并放在与现有集群相同的网络环境中,一旦硬件出现 故障,我们可以迅速采取相应的修复措施,如果底层 RAID 没有损坏, 在单台机器数据量过大比如接近 10T 的情况下,我们可以直接将磁 盘插入到灾备机,由于 RAID 信息写在磁盘上,对调磁盘后,所有 数据信息仍然保留,这样就能避免数据同步带来的性能损耗,这种 路。在产品实施过 程中的关键阶段,还应该更多地寻求专业顾问的支持。 Big Date2.indd 33 16-11-22 下午3:38 34 五、Greenplum 系统表的维护及修复技巧 Greenplum 与其他所有关系型数据库一样,拥有一套管理数据库内 部对象及关联关系的元数据表,我们称之为 Greenplum 系统表。 Greenplum 的产品内核是基于 postgresql 36 2. 分析方法和处理技巧 1) 遇到临时 schema 的问题,命名为 pg_temp_XXXXX,可以直接删除。 通过 gpcheckcat 检查后,会自动生成对临时 schema 的修复脚本。 由于临时 schema 的问题会干扰检查结果,因此,处理完后,需要 再次用 gpcheckcat 检查。 2) 如遇个别表对象元数据不一致的情况,通常只会影响该对象的 使用,不会影响到0 码力 | 64 页 | 2.73 MB | 1 年前3
 完全兼容欧拉开源操作系统的 HTAP 数据平台 Greenplum扩展是一个接口,允许 Greenplum 数据库与 Docker 容器交互,以在容器中执行用户定义函数 (UDF),这样方便数据科学家可以在不需要 DBA 帮助的情况自由使用数据分析,同时大大提高了安全性,Docker 容器确保用户代码无法访问源主机的文件系统。此外,容器启动时网络访问受限,无法连接回 Greenplum 数据库或 打开任何其他外部连接。 集成分析:改进后的全新分析接口 中文社区开发者在欧拉开源操作系统上完善直至形成在 ARM 平台上可用的版本。 3. ARM 平台测试问题的修复 原本 Greenplum 开源社区配套的测试框架以及测试用例都是基于 X86 平台来进行适配的,对于新的硬件架构,在浮 点数、底层汇编指令都有所不同,此次移植同样对这类问题进行了修复,保证欧拉开源操作系统在多硬件平台构建 RPM 软件包时行为一致,并且通过了 openEuler CICD0 码力 | 17 页 | 2.04 MB | 1 年前3
 Greenplum Database 管理员指南 6.2.1会散落在后面的一台或者多台机器上, 这种模式包含了 gpinitsystem 命令缺省支持的两种镜像模式:GROUP 和 SPREAD。 PAIR 模式是一种两组配对互为镜像的模式,是一种更能兼顾性能和安全性的方案。 Greenplum Database 管理员指南 V6.2.1 版权所有:Esena(陈淼 +86 18616691889) 编写:陈淼 - 17 - Instance 这里提到的 pgAdminIII 是编者自己修改编译的版本,不再是网上直接找到的版 本,目前已经针对 6 版本完成了必要的适配和优化,同时支持 4 版本和 5 版本,能够 正确的显示资源组和资源队列的信息,修复了资源队列刷新的 BUG,外部表的 DDL 信 息正确显示,物化视图,数据表的 UNLOGGED 属性等正确显示,表空间定义的正确显 示,数据库中的对象都按照登录角色的权限只显示应该看得到的对象,包括字段权限。 注意:在RedHat6或者CentOS6中使用资源组是有问题的,这是因为早期的 cgroup有缺陷,最好将Kernel升级到2.6.32-696或者更高的版本以修复已知问题, 从而可以更好的使用资源组功能。这些问题在Redhat7或者CentOS7中已经修复。 资源队列或者资源组这两种资源管理方案同时只能选择使用一种,无法在一个集群 中同时使用两种管理方案。 在初始化数据库时,缺省启用的是资0 码力 | 416 页 | 6.08 MB | 1 年前3
 Pivotal Greenplum 最佳实践分享 减少对象数的方法: – 提高分区粒度 – 避免大范围使用列存储  pg_class对象数如果不进行约束,可能会产生以下问题: – gprecoverseg –F效率低,数据库实例修复如果增量同步失败,我们一般会建议使用gprecoverseg –F进行全量同 步,全量同步是在两个节点之间全量拷贝文件,超过10 0000个对象,在数据目录下地文件数会可能达到上百万 个档,这些文件的拷贝需要花费很长时间 –R参数,让系统进入限制模式,限制普通用户登录,便于对系统进行诊断和维护 在某些极端情況下,数据库重启失敗,可能原因是Persistent或Xlog有数据不一致,此时,请在Support说明下进行修复,例如抑制错误、修复 xlog日志等,需要说明的是,未得到support同意,不要用pg_resetxlog去修復xlog,否则可能导致数据不一致;  故障机器隔离 当发现有机 Vacuum系统表,修改错误page 如果系统表有故障,或者发现对系统表的操作(select count(*)from pg_class)性能很慢时,可以将系统表全部Vacuum一次,Vaccum本 身具备一定的修复功能。 目录  Greenplum运维常见问题  Greenplum运维常用命令  Greenplum日常检查和故障处理0 码力 | 41 页 | 1.42 MB | 1 年前3
 Greenplum on Kubernetes
容器化MPP数据库primarySegmentCount参数 ● Master节点检测及修复 ○ 自动执行gpactivatestandby ○ 重定向Service路由 ● Segment节点检查及修复 ○ 自动执行gprecoverseg ○ 无需Segment Rebalance ● Node失效 ○ Node节点上Master/Segment节点自动修复 Kubernetes 生态集成 ● 日志收集 ○0 码力 | 33 页 | 1.93 MB | 1 年前3
 Greenplum数据仓库UDW - UCloud中立云计算服务商{ name: 'brown', height: 68 } 2 图形界⾯的⽅式访问 图形界⾯的⽅式访问UDW 2.1 配置 配置UDW外⽹访问 外⽹访问 udw默认是通过内⽹访问的,为了数据安全性,尽量不要通过外⽹访问UDW,如果需要图形界⾯的⽅式访问UDW,则需要配置udw的外⽹访问,请参考: 前提:有⼀台可以访问 udw 的 uhost,并且这台 uhost 上可以访问外⽹ ip。 例如:uhost 找出procpid,假设为1234。然后执⾏ SELECT pg_terminate_backend(1234); 如何通过外⽹访问 如何通过外⽹访问UDW? ? udw 默认是通过内⽹访问的,为了数据安全性,尽量不要通过外⽹访问 UDW,如果有访问外⽹的需求请参考: 前提:有⼀台可以访问 udw 的 uhost,并且这台 uhost 上可以访问外⽹ ip。 例如:uhost 内⽹ ip 是 10.100 码力 | 206 页 | 5.35 MB | 1 年前3
 深度揭秘Greenplum开源数据库透明加密Data (Encrypted) Object key (Encrypted) Data (Encrypted) Data (Decrypted) 总结 总结 • 高性能 • KMS保证秘钥安全性 • 对用户查询和数据库完全透明 • GPDB原生 • 不改变现有工作逻辑 对于现有方案的优势 pgcypto的问题 一款开源的HTAP数据库: • MPP架构 • 完整的事务+ACID+标准SQL支持0 码力 | 48 页 | 10.19 MB | 1 年前3
 Greenplum数据库架构分析及5.x新功能分享任务管理 服务 加载 & 数据联邦 高速数据加载 近实时数据加载 任意系统数据访问 存储 & 数据访问 混合存储引擎(行存&列存) 多种压缩,多级分区表 索引(B树,位图,GiST) 安全性 语言支持 标准SQL支持,SQL 2003 OLAP扩展 支持 MapReduce 扩展编程语言 (Python,R, Java, Perl, C/C++) 第三方工具 BI 工具,0 码力 | 44 页 | 8.35 MB | 1 年前3
 Greenplum机器学习⼯具集和案例融服务公司 ● 移动应⽤用 API 分析 ● 使⽤用Madlib进⾏行行聚 类分析,建⽴立会话 识别模型和主题模 型 ● 建⽴立scoring pipeline, 对新访问 的安全性进⾏行行评估 ● 使⽤用可视化⼯工具对 结果进⾏行行更更好地呈 现 背景 2017.thegiac.com 数据源 • 数据 - API 访问⽇日志0 码力 | 58 页 | 1.97 MB | 1 年前3
 Pivotal HVR meetup 20190816支持从过去的某一指定时间开始捕获 • 条件过滤 • 支持触发器捕获技术作为补充 基于数据库事务日志的变化数据捕获 9 • 避免人为错误 • 在迁移结束前校验数据 • 支持异构 异构平台间数据校验域修复 10 内置监控与报警 • 实时监控HVR进程 • 自动告警 • 与第三方企业监控平台集成 • 丰富的统计报表 LDAP authenticated user; if that’s0 码力 | 31 页 | 2.19 MB | 1 年前3
共 10 条
- 1
 













