PieCloudDB Database 社区版集群安装部署手册 V2.1podman \ 19. runc 20. yum install -y yum-utils device-mapper-persistent-data lvm2 21. yum-config-manager --add-repo http://mirrors.aliyun.com/docker- ce/linux/centos/docker-ce systemctl start docker 26. docker version 27. mkdir -p /etc/docker 28. vim /etc/docker/daemon.json ##配置镜像加速,增加一下内容: 29. { 30. "registry-mirrors": ["https://9uuo2j8u.mirror.aliyuncs.com"] 31 /var/lib/fdb/data 2. - Etcd: /var/lib/etcd/data 3. - minIO: /var/lib/minio/data 4. - Postgres: /var/lib/postgresql/data 在每个节点都要执行如下命令: 1. mkdir - p /var/lib/fdb/data /var/lib/etcd/data /var/lib/minio/data0 码力 | 42 页 | 1.58 MB | 1 年前3
云原生数据库 PieCloudDB eMPP架构设计与实现Rock.s 2014 2018 2022 云原⽣数据库 PieCloudDB eMPP架构设计与实现 郭罡 拓数派CTO 关于拓数派(OpenPie) • 成⽴于2021年,以“Data Computing for New Discoveries”「数据计算, 只为新发现」为使命。 • 现Pre-A轮融资,已完成数亿元融资。 • 核⼼团队来⾃于各⼤⼚名校,有丰富的数据库(Greenplum,DB2, Block⽂件为⼀个存储(MVCC)单位 • 辅助信息存储⽤于计算优化 • 设计考虑: • ⾼效和精准的统计信息收集 • 存储和计算成本 • 各种计算优化 • SIMD, Cache Line • Data Skipping (本地查询和远程读取) • 预聚集 • ...... 存储中⽴ • 公有云,私有云,混合云 • 对象存储 (数据共享,存算分离)按需付 费 • 也⽀持HDFS,NAS HashAggregate • Group Key: a.i • -> Seq Scan on agg_pushdown_t a 更多⾼阶计算功能 (cont.) • 预计算:很快⾯世 • Data skipping:⽂件裁剪⽀持很快⾯世 • 更多计算引擎⼯作在路上:SIMD, runtime filter,late materization,...... 分布式计算引擎 • MPP弹性计算引擎:按需付费0 码力 | 31 页 | 1.43 MB | 1 年前3
πDataCS赋能工业软件创新与实践虚拟数仓 2 ... 虚拟数仓 N Executor ... 销售部门 ... ... 元数据统一 映射管理 元 数 据 S3 /HDFS/NAS Data Table Data Table Data Table Executor Executor Executor Executor Executor 虚拟数仓 3 计算节点无状态 Serverless Host 2 Executor Host 3 Data Table Data Table Data Table 元数据 Coordinator Executor Host 1 Executor Host 2 Executor Host 3 Data Table Data Table Data Table 数 仓 虚 拟 化 : 物 理 数 仓 整 计算节点 JANM Table Format 管控节点 安全审计 API接⼝ ETL功能 数据洞察 运维管控 用户权限 NAS⽂件存储 HDFS分布式⽂件系统 S3对象存储 其他Data Lake Bare-Metal IaaS资源 执⾏器 执⾏器 执⾏器 协调器 协调器 虚拟数仓1 执⾏器 协调器 虚拟数仓2 执⾏器 … 连接管理 查询优化器 资源隔离 向量化执⾏0 码力 | 36 页 | 4.25 MB | 1 年前3
云原生虚拟数仓PieCloudDB Database产品白皮书能化与数字化时代的发展。 数据量的爆发式增长 为了挖掘数据的价值,企业面临着海量数据的存储与分析需求,业务也面临着更多热点及突发流量所带来的挑战。面 对数据计算(Data Computing)的巨大诉求、数据组织的运行成本的急剧增加、数据格式的丰富多样,企业的数字 化转型面临巨大挑战,急需一款数据库产品,帮助其最大化利用数据资产,降本增效,进行更智能高效的数据计算。 据计算技术的突破性创新的可能性。随着计算技术从大型 机时代变革为PC机时代,PC机逐渐取代大型机,极大地降低计算门槛,计算资源日渐丰富,数据计算技术突破性创 新。 OpenPie 以 “ Data Computing for New Discoveries ”「数据计算,只为新发现」为使命,旗下云原生虚拟数仓 PieCloudDB,运用全新 eMPP(elastic Massive Parallel 据仓库的企业级 能力充分融合,帮助企业构建数据湖和数据仓库融合的数据管理平台。 PieCloudDB 内置的 foreign-data wrapper (FDW)模块,让用户可以访问 HDFS、MySQL 、Oracle等外部数据。PieCloudDB 支持 JSON,XML, Parquet以及 二进制数据等格式,同时,PieCloudDB 既支持用户利用过程语言自行开发模块进行数据分析也原生兼容开源机器学0 码力 | 17 页 | 2.02 MB | 1 年前3
PieCloudDB Database V2.8 Release NoteZSTD。使用 ZSTD 压缩方法可以大幅度提高数据文件压缩率,降低数据文件存储成本。 n 支持预聚集块扫描节点,对 JAMN 文件块中的数据进行预聚集计算。 n 增强 JANM Data Skipping 对 IN 条件的处理能力。 n 新增 GUC 参数 pdb_enable_janm_toast,控制 JANM 访问方法中的 Toast。 n 新增建表选项 page_size,设置生成新 l pgaudit 插件 支持使用 pgaudit 插件生成审计日志。 l Kafka 接口 n 支持获取 Kafka FDW 统计数据。 n Kafka FDW 支持 JSON 格式。 l 执行计划信息 支持在 EXPLAIN ANALYZE VERBOSE 执行结果中显示调度相关状态信息。 4 l 用户定义函数 UDF n 新增 ja0 码力 | 4 页 | 144.49 KB | 1 年前3
PieCloudDB 的云原生之路IvorySQL开源数据库社区 吴疆 IvorySQL开源数据库社区 打造立足于国内 基础数据计算领域的世界级高科技创新驱动机构 杭州拓数派科技发展有限公司(又称“OpenPie”),以 “Data Computing for New Discoveries”「数据计算,只为新 发现」为使命,成立后的短短10个月时间内,完成了包括头部 产业基金、东吴证券、元禾重元和政府科创平台在内的连续三 轮战略融资。 发现:在云上,对计算模型以更低成本提供指数级的存储和计算资源, 帮助甲方的业务模型发现新洞察或者提高精准度,从而建立竞争壁垒。 1 2 3 产 品 理 念 最 终 实 现 大 数 据 愿 景 Big Data Promises Finally Come True IvorySQL开源数据库社区 • 秒级扩缩容 • 多集群共享一份数据集 • 用户只需为存储和计算付费 • 扩展困难(后期升级部署困难) 元数据统一 映射管理 ü 数量级降低成本的时候数量级增加数据计算空间(私有部署更加敏感) 元数据 FoundationDB CataLog S3 /HDFS/NAS Data Table Data Table Data Table Segment Segment Segment Segment Segment 虚拟数仓 3 计算节点无状态 Serverless .0 码力 | 47 页 | 1.80 MB | 1 年前3
PieCloudDB云原生数仓虚拟化之路Confidential @2022 OpenPie. All rights reserved. OpenPie Confidential 杭州拓数派科技发展有限公司(又称“OpenPie”),以“Data Computing for New Discoveries”「数据计算,只为新发现」为使命, 成立后的短短10个月时间内,完成了包括头部产业基金、东吴证券、元 禾重元和政府科创平台在内的连续三轮战略融资。 发现:在云上,对计算模型以更低成本提供指数级的存储和计算资源, 帮助甲方的业务模型发现新洞察或者提高精准度,从⽽建⽴竞争壁垒。 1 2 3 产 品 理 念 最 终 实 现 大 数 据 愿 景 Big Data Promises Finally Come True @2022 OpenPie. All rights reserved. OpenPie Confidential • 秒级扩缩容 • 多集群共享一份数据集 元数据统一 映射管理 ü 数量级降低成本的时候数量级增加数据计算空间(私有部署更加敏感) 元数据 FoundationDB CataLog S3 /HDFS/NAS Data Table Data Table Data Table Segment Segment Segment Segment Segment 虚拟数仓 3 计算节点无状态 Serverless .0 码力 | 44 页 | 1.64 MB | 1 年前3
兼容龙蜥的云原生大模型数据计算系统:πDataCS杭州拓数派科技发展有限公司(又称"OpenPie")是立足于国内,基础数据计算领域的高科技创新机构。 作 为 国 内 云 上 数 据 库 和 数 据 计 算 领 域 的 引 领 者 , 拓 数 派 以 “Data Computing for New Discoveries”「数据计算,只为新发现」为使命,致力于在数字原生时代,运用突破性计算理论、 独创的云原生数据库旗舰产品以及之上的算法和数学模型,建立下一代云原生数据平台的前沿标准 Greenplum数据库(中国)创始人 大数据意见领导者 h t m 5 1 1 20 2 2 45 3 2 80 4 1 125 5 2 180 6 2 数 据 计 算 , 只 为 新 发 现 (Data Computing for New Discoveries) • 全新云原生架构「一份数据,多引擎计算」 弹 性 扩 缩 容 , 打 破 数 据 孤 岛 • 全 面 支 持 虚拟数仓 2 ... 虚拟数仓 N Executor ... 销售部门 ... ... 元数据统一映 射管理 元 数 据 S3 /HDFS/NAS Data Table Data Table Data Table Executor Executor Executor Executor Executor 虚拟数仓 3 计算节点无状态 Serverless0 码力 | 29 页 | 7.46 MB | 1 年前3
PostgreSQL 查询优化器解析©2023 OpenPie. All rights reserved. OpenPie Confidential Data Computing for New Discoveries 数 据 计 算 , 只 为 新 发 现 @2024 OpenPie. All rights reserved. OpenPie Confidential @2024 OpenPie. All rights reserved OpenPie Confidential • Dedicated to "Data Computing for New Discoveries" • Aims to become a world-class high-tech innovation- driven institution in the field of data computing • PieCloudDB, OpenPie’s OpenPie’s flagship product, is a cutting- edge cloud-native data warehouse. It delivers elastic, highly available, and fully adaptable distributed HTAP database capabilities @2024 OpenPie. All rights reserved0 码力 | 37 页 | 851.23 KB | 1 年前3
云原生虚拟数仓 PieCloudDB ETL 方案设计与实现temp_table • Merge/Upsert 模式,示例1 ok lpk op data 1 1 insert 2 2 2 insert 3 3 3 delete 0 4 3 insert 5 lpk data 1 2 2 3 3 5 • Merge/Upsert 模式,示例2 ok lpk op data 1 1 insert 2 2 2 insert 3 3 3 delete delete 0 4 3 insert 5 5 4 delete 0 lpk data 1 2 3 3 lpk data 1 2 2 3 3 5 Postgres->PieCloudDB 增量数据实时cdc演示0 码力 | 29 页 | 5.24 MB | 1 年前3
共 18 条
- 1
- 2













