数仓ClickHouse多维分析应用实践-朱元0 码力 | 14 页 | 3.03 MB | 1 年前3
杨赛赛-基于深度学习的多维时间序列预测在数据机房中的应用PYCON CHINA 基于深度学习的多维时间序列 预测在数据机房中的应用 目 录 1 背景介绍 2 研究目标 3 研究内容 4 后续工作 1. 背景介绍 数据机房面临的能耗问题 数据机房面临电量消耗巨大的问题 空调是数据机房中电量消耗最大的设备 空调为什么那么耗电?怎么优化节能? 低效的 冷却装 置 服务主 机工作 发热 影响空 调耗电 量原因 建筑材料 隔热和散 代表算法有AR, ARIMA 基于深度学习的 时间序列预测 ⚫ 利用多维时间序列之间的 信息 ⚫ 对变周期序列,多维空间 依赖序列预测较弱 ⚫ 代表算法有RNN,LSTM 混合多维时间序列预测 ⚫ 提取多维序列之间更加复杂 的关系 ⚫ 提取维度之间空间依赖关系, 长短期依赖关系 ⚫ 算法有LSTNet,TPA-LSTM 多维时间序列预测方法解决机房温度预测 对数据包含的信息提取能力越来越强0 码力 | 17 页 | 2.49 MB | 1 年前3
高效智能运维[云+社区技术沙龙第29期] - 腾讯智能运维(Metis)项目实践智能运维场景描述 整体介绍 02 单维时间序列分析 异常检测 03 多维时间序列分析 多维下钻 目录 04 Metis 的研究方向 展望未来 智能运维(AIOps) 基于机器学习的智能运维 发现问题 • 时间序列异常 • 日志分析异常 • 设备性能异常 分析问题 • 多维下钻分析 • 关联事件分析 • 容量预估分析 解决问题 • 扩容 • 决策 • • 可演进 • 可了解 智能运维学件库 智能运维能力框架体系 AIOps 团队角色划分 01 智能运维场景描述 整体介绍 02 单维时间序列分析 异常检测 03 多维时间序列分析 多维下钻 目录 04 Metis 的研究方向 展望未来 单维时间序列分析 海量时间序列 业务场景复杂 规则配置繁琐 1 2 3 时间序列异常检测 如何找到通用的解决方案? 单维时间序列分析 异常检测 03 多维时间序列分析 多维下钻 目录 04 Metis 的未来规划 展望未来 业务埋点 收集数据 监控系统 指标展示 多维数据 维度查询 异常检测 检测异常指标 多维下钻 分析异常维度 多维时间序列分析 多维时间序列分析 判断时间序列是否波动 人工查找可疑维度 人工查找可疑元素 1 2 3 人工分析异常维度 数据存储 多维时间序列 异常检测0 码力 | 28 页 | 1.88 MB | 1 年前3
2. 腾讯 clickhouse实践 _2019丁晓坤&熊峰iData 大数据分析PaaS 实时 分析 多维 分析 画像 分析 … DataMore 大数据应用PaaS 实时 决策 任务 系统 … 排 行 榜 大数据应用 SaaS系统 iData 用户画像 DataMore 月光宝盒 DataMore 任务系统 iData 数据可视化 游 谱 游戏说 神秘 商店 iData 多维提取 … 游戏数据 驱动场景 潘多拉 社交与功能 大数据应用PaaS服务 游戏数据驱动场景 n 实时干预游戏用户 n 精细化、精准化驱动场景服务 n 提升原有服务的增强效果 n iData大数据分析PaaS 在线实时能力 n iData大数据分析:多维分析,画像分析能力 n DataMore大数据实时决策能力 一切以用户价值为依归 17 业务应用实践 iData 2 新大数据分析引擎2.0 业界传统 大数据分析 引擎 大数据分析引擎&存储 Column1 DataNode Column2 Column3 ColumnN bitmap 画像下钻分布式计算引擎 多维 提取 iData大数据分析引擎 分布式多维计算引擎 基于位图索引和行式内容存储 分布式画像引擎 基于位图索引和列式内容存储 多维 分析 跟踪 分析 下钻 分析 透视 分析 画像 分析 一切以用户价值为依归 19 业务应用实践 iData 2 旧画像系统0 码力 | 26 页 | 3.58 MB | 1 年前3
Apache Doris 在美团外卖数仓中的应用实践支撑数据分析产品数十个以上,整体响应达到ms级。 支持百万、千万级大表关联查询,同时进行维表关联的雪花模型,经过Colocate Join特性优化,可以实现秒级响应。 日级别,基于商家明细现场计算,同时满足汇总及下钻明细查询,查询时效基本都可以控 制在秒级。 7日趋势分析,2~3秒。由于数据量较大,根据集群规模不同查询性能有所区别,但数据量 较大时,调动的集群资源较多,因此MPP的并发性能受限于集群的性能。一般原则是并发 可靠的调度能力:提供5、10、15、30分钟的调度保障能力。 Lambda架构简化:实时数据与离线数据更好的在Doris中进行融合,灵活支撑应用。 高效的OLAP交互 :支撑业务的灵活查询访问,业务层通过视图进行逻辑封装直接复用汇总层多维模型,提高了开 发效率,减少了运维成本。 相比Storm、Flink中的窗口计算,准实时DB微批的优势: Doris引擎在美团的重要改进 Join 谓词下推的传递性优化 如上图所示,对于下面的0 码力 | 8 页 | 429.42 KB | 1 年前3
美团点评2018技术年货基础配置,常见的有入口资源的配置、网络的配置等。相对运营资源来说,其变更的频繁度相对较低,与 时间、城市的关系也没那么强。譬如下面大众点评App-我的页面里的入口。这类配置有如下几个特征: 1. 多维度:需要针对不同的版本、平台、渠道,做不同的配置。 2. 长期有效:这种类型的配置一般长期存在,不会存在过期问题。 APPKIT打造稳定、灵活、高效的运营配置平台 - 美团技术团队 二、遇到的问题 400TB,高峰期集群 QPS 达 650万/秒。 面对流量的成倍增长,CAT 在通信、计算、存储方面都遇到了前所未有的挑战。整个系统架构也经历了 一系列的升级和改造,包括消息采样聚合、消息存储、业务多维度指标监控、统一告警等等,项目最终稳 定落地。为公司未来几年内业务流量的稳定增长,打下了坚定的基石。 经过 7 年的持续建设,CAT 也在不断发展,我们也希望更好的回馈社区,将 CAT 提供的服务惠及更多 通过策略抽象、查询、渲染和分组动态更新,实现HTTP 请求的定制化路由。 随着公司业务的高速发展,路由场景也越来越复杂。比如: 团购秒杀要灵活控制压测流量,实现线上服务单节点、各机房、各地域等多维度的压测。 外卖业务要做流量隔离,把北方地域的流量转发到分组a,南方地域的流量转发到分组b。 酒旅业务要对App新版本进行灰度,让千分之一的用户试用新版本,其他用户访问老版本。 QA部门要通过0 码力 | 229 页 | 61.61 MB | 1 年前3
Moonshot AI 介绍上⾯输⼊多少个⼈化的信息,然后 losslesslong-context和个性化负责把这些输⼊变成有价值的东西。 可能也还需要新的硬件形态,但我觉得模型和软件现在也还是个瓶颈。因为要再往下钻⼀层,让⽤⼾ 输⼊很多信息的前提是trust,是你需要有⾜够engaging和humanlike的AI。不能说是我为了得到你 的信息所以专⻔设置了⼀些产品功能。最终效果应该是⽤⼾和AI成为了朋友,那所有事情都可以跟它 nAI在某些智能领域做 得很好,但可能在某些特定场景中,⽐如⽣成图⽚的美学价值上,它暂时还⽆法超过Midjourney。即 使OpenAI在某些领域超过了,可能还会有其他领域存在差距。因此,有很多维度可以⽤来定义智能⽔ 平。 由于⼈⼯智能的异质化,每个公司可能都有⾃⼰擅⻓的部分。通⽤能⼒上做得很好是⼀个前提,但在 每个细分领域⾥,还是存在专业化的差异。例如,character.ai在⻆⾊扮演这个场景中,可能会做得⽐ 最终形成⼀些⽹络效应。因此,未来并不会只有⼀家AI公司能包办所有的智能。 机器之⼼:你有没有想过,可能我们永远⽆法追赶上 杨植麟:就像上⾯所说的,追赶可能并不是我们的最终⽬标,总体上这个领域有很多维度需要探索, 需要很多公司⼀起。 爬楼梯,⽽不是看⻛景 机器之⼼:⼤模型是个⾮常新的技术⽅向,从你接触的情况看,投资⼈对这件事的理解程度怎样? 杨植麟:我觉得⼀个关键需要理解的点是AI-native产品跟传统产品的区别。0 码力 | 74 页 | 1.64 MB | 1 年前3
亿图脑图 MindMaster 用户手册 V10.0------------------- 126 显示导图层级 --------------------------------------------------------------- 127 下钻和上钻 ----------------------------------------------------------------- 127 显示比例 -------------------- 让用户将导图由常规风格一键切换至手绘风格。 8.大纲模式 大纲模式使用户在文字大纲格式下对导图内容一目了然。 9.文件加密 亿图脑图 MindMaster 文件加密可以保护文件不被侵权和随意查看。 10.上钻/下钻 通过下钻功能来折叠或展开主题,有助于制图者集中注意力于特定主题,避免了其他主题 对思维的干扰。 11.文件恢复 如果软件意外关闭导致未及时保存,亿图脑图 MindMaster 可以恢复未保存的导图文件。 ,直至全部展示完毕。 下钻和上钻 (F4) 在展示思维导图时,可以使用"下钻"功能以聚焦于特定主题上,避免被思维导图的其他分支 分散注意力。 下钻 1、鼠标单击以选中需要单独显示的主题, 在"视图"菜单下点击"下钻"按钮; 2、或右键单击选中的主题,然后在菜单里点击"下钻"; 3、通过以上操作均可只显示该主题及其分支。 128 上钻 对主题进行"下钻"操作后,在主题形状的右上角会出现0 码力 | 149 页 | 7.39 MB | 1 年前3
亿图脑图 MindMaster 用户手册 V10.0------------------- 126 显示导图层级 --------------------------------------------------------------- 127 下钻和上钻 ----------------------------------------------------------------- 127 显示比例 -------------------- 让用户将导图由常规风格一键切换至手绘风格。 8.大纲模式 大纲模式使用户在文字大纲格式下对导图内容一目了然。 9.文件加密 亿图脑图 MindMaster 文件加密可以保护文件不被侵权和随意查看。 10.上钻/下钻 通过下钻功能来折叠或展开主题,有助于制图者集中注意力于特定主题,避免了其他主题 对思维的干扰。 11.文件恢复 如果软件意外关闭导致未及时保存,亿图脑图 MindMaster 可以恢复未保存的导图文件。 ,直至全部展示完毕。 下钻和上钻 (F4) 在展示思维导图时,可以使用"下钻"功能以聚焦于特定主题上,避免被思维导图的其他分支 分散注意力。 下钻 1、鼠标单击以选中需要单独显示的主题, 在"视图"菜单下点击"下钻"按钮; 2、或右键单击选中的主题,然后在菜单里点击"下钻"; 3、通过以上操作均可只显示该主题及其分支。 128 上钻 对主题进行"下钻"操作后,在主题形状的右上角会出现0 码力 | 149 页 | 8.67 MB | 1 年前3
亿图脑图 MindMaster 用户手册 V10.0------------------ 126 显示导图层级 -------------------------------------------------------------- 127 下钻和上钻 ---------------------------------------------------------------- 127 显示比例 -------------------- 大纲模式 大纲模式使用户在文字大纲格式下对导图内容一目了然。 9. 文件加密 亿图脑图 MindMaster 文件加密可以保护文件不被侵权和随意查看。 10. 上钻/下钻 通过下钻功能来折叠或展开主题,有助于制图者集中注意力于特定主题,避免了其他主题 对思维的干扰。 11. 文件恢复 如果软件意外关闭导致未及时保存,亿图脑图 MindMaster 可以恢复未保存的导图文件。 示下一层分支,直至全部展示完毕。 下钻和上钻 (F4) 在展示思维导图时,可以使用"下钻"功能以聚焦于特定主题上,避免被思维导图的其他分支 分散注意力。 下钻 1、鼠标单击以选中需要单独显示的主题, 在"视图"菜单下点击"下钻"按钮; 2、或右键单击选中的主题,然后在菜单里点击"下钻"; 3、通过以上操作均可只显示该主题及其分支。0 码力 | 149 页 | 6.62 MB | 1 年前3
共 246 条
- 1
- 2
- 3
- 4
- 5
- 6
- 25













