SelectDB案例 从 ClickHouse 到 Apache Doris1 从 ClickHouse 到 Apache Doris,腾讯音乐内容库数据平台架构演进实践 2023/02/20SelectDB 用户案例 导读:腾讯音乐内容库数据平台旨在为应用层提供库存盘点、分群画像、指标分析、标签圈 选等内容分析服务,高效为业务赋能。目前,内容库数据平台的数据架构已经从 1.0 演进到 了 4.0 ,经历了分析引擎从 ClickHouse 到 Apache 问题,收益显著。本文将为大家分享腾讯音乐内容库数据平台的数据架构演进历程与实践思 考,希望所有读者从文章中有所启发。 作者:腾讯音乐内容库数据平台 张俊、代凯 腾讯音乐娱乐集团(简称“腾讯音乐娱乐”)是中国在线音乐娱乐服务开拓者,提供在线音乐 和以音乐为核心的社交娱乐两大服务。腾讯音乐娱乐在中国有着广泛的用户基础,拥有目前 国内市场知名的四大移动音乐产品:QQ 音乐、酷狗音乐、酷我音乐和全民 进行全方位分析, 高效为业务赋能,内容库数据平台旨在集成各数据源的数据,整合形成内容数据资产(以指 标和标签体系为载体),为应用层提供库存盘点、分群画像、指标分析、标签圈选等内容分 析服务。 数据架构演进 TDW 是腾讯最大的离线数据处理平台,公司内大多数业务的产品报表、运营分析、数据挖 掘等的存储和计算都是在 TDW 中进行,内容库数据平台的数据加工链路同样是在腾讯数据 仓库 TDW0 码力 | 12 页 | 1.55 MB | 1 年前3
 Apache Doris 在美团外卖数仓中的应用实践Doris在美团外卖数仓中的应用实践 序言 美团外卖数据仓库技术团队负责支撑日常业务运营及分析师的日常分析,由于外卖业务特点带来 的数据生产成本较高和查询效率偏低的问题,他们通过引入Apache Doris引擎优化生产方案,实 现了低成本生产与高效查询的平衡。并以此分析不同业务场景下,基于Kylin的MOLAP模式与基于 Doris引擎的ROLAP模式的适用性问题。希望能对大家有所启发或者帮助。 本文侧重于以Dor 1 / 8 Apache Doris在美团外卖数仓中的应用实践 Spark大数据博客 - https://www.iteblog.com 所得的应用场景,美团平台使用Kylin作为公司的主要MOLAP引擎。MOLAP是预计算生产,在增 量业务,预设维度分析场景下表现良好,但在变化维的场景下生产成本巨大。例如,如果使用最 新商家类型回溯商家近三个月的表现,需要 严重影响SLA的稳定性。 预计算的大量历史数据实际使用率低下,实际工作中对历史的回溯80%集中在近1个月左 右,但为了应对所有需求场景,业务要求计算近半年以上的历史。 不支持明细数据的查询。 解决方案:引入MPP引擎,数据现用现算 既然变化维的历史数据预计算成本巨大,最好的办法就是现用现算,但现用现算需要强大的并行 计算能力。OLAP的实现有MOLAP、ROLAP、HOLAP三种形式,MOLAP以Cube为表现形式,但计0 码力 | 8 页 | 429.42 KB | 1 年前3
 Doris的数据导入机制以及原子性保证BE负责执行查询计划、数据存储 • 任何节点都可线性扩展 01 Doris 简介 导入的问题 02 典型应用场景——OLAP分析 数据源 数据应用 数据存储 对象存储BOS OLTP WEB端日志 移动端日志 本地文件 数据分析 业务应用 实时大屏 多维报表 自助查询 用户画像 Doris 02 导入的问题 Vn Vn Vn Vn V1-Vn-1 02 导入的问题 •0 码力 | 33 页 | 21.95 MB | 1 年前3
 百度智能云 Apache Doris 文档INSERT INTO SELECT SELECT INSERT INSERT Baidu 百度智能云文档 SQL手册 62 MySQL MySQL Doris Doris 替换方案 替换方案 BOOLEAN BOOLEAN CHAR CHAR 当前仅支持UTF8编码 VARCHAR VARCHAR 当前仅支持UTF8编码 DATE DATE FLOAT FLOAT TINYINT DOUBLE DOUBLE DATETIME DATETIME DECIMAL DECIMAL 2. PostgreSQL PostgreSQL PostgreSQL Doris Doris 替换方案 替换方案 BOOLEAN BOOLEAN CHAR CHAR 当前仅支持UTF8编码 VARCHAR VARCHAR 当前仅支持UTF8编码 DATE DATE REAL FLOAT SMALLINT TIMESTAMP DATETIME DECIMAL DECIMAL 3. Oracle Baidu 百度智能云文档 SQL手册 63 Oracle Oracle Doris Doris 替换方案 替换方案 不支持 BOOLEAN Oracle可用number(1) 替换boolean CHAR CHAR VARCHAR VARCHAR DATE DATE FLOAT FLOAT 无 TINYINT0 码力 | 203 页 | 1.75 MB | 1 年前3
共 4 条
- 1
 













