大数据时代的Intel之Hadoop交互式数据仓库 Sqoop 1.4.1 关系数据ETL工具 Flume 1.1.0 日志收集工具 Intel Hadoop Manager 2.2 安装、部署、配置、监控、告警和访问控制 Zookeeper 3.4.4 分布式协作服务 Pig 0.9.2 数据流处理语言 Mahout 0.6 数据挖掘 HBase 0.94.1 实时、分布式、高维数据库 实时、分布式、高维数据库 Map/Reduce 1.0.3 分布式计算框架 HDFS 1.0.3 分布式文件系统 R 统计语言 Intel Hadoop Manager – 安装、配置、管理、监控、告警 英特尔Hadoop性能优化 测试配置 性能数据在8台英特尔至强服务器组成的小规模集群上测试得到 服务器配置:6核Intel E5 CPU, 48GB内存,8块 7200rpm0 码力 | 36 页 | 2.50 MB | 1 年前3
尚硅谷大数据技术之Hadoop(生产调优手册)] [-disablePolicy -policy ] [-help ]. 2)查看当前支持的纠删码策略 [atguigu@hadoop102 hadoop-3.1.3] hdfs ec -listPolicies Erasure Coding Policies: ErasureCodin Schema=[ECSchema=[Codec=xor, numDataUnits=2, numParityUnits=1]], CellSize=1048576, Id=4], State=DISABLED 3)纠删码策略解释: RS-3-2-1024k:使用 RS 编码,每 3 个数据单元,生成 2 个校验单元,共 5 个单元,也 就是说:这 5 个单元中,只要有任意的 3 个单元存在(不管是数据单元还是校验单元,只要 个单元中,只要有任意的 6 个单元存在(不管是数据单元还是校验单元,只要 总数=6),就可以得到原始数据。每个单元的大小是 1024k=1024*1024=1048576。 RS-LEGACY-6-3-1024k:策略和上面的 RS-6-3-1024k 一样,只是编码的算法用的是 rs- legacy。 XOR-2-1-1024k:使用 XOR 编码(速度比 RS 编码快),每 2 个数据单元,生成 1 个校 0 码力 | 41 页 | 2.32 MB | 1 年前3
大数据集成与Hadoop - IBM的 数据源 • 监管:为相关资产添加标记、条款和自定义属性 • 收集:通过收集来捕获资产,并开展具体的分析或治理 工作 • 协作:共享其他内容管理和治理集合 • 治理:创建并引用信息治理策略和规则;应用数据质 量、屏蔽、归档和清除操作 • 卸载:单击HDFS来复制数据并执行分析,以便强化仓库 • 分析:分析已卸载的数据 • 重用和信任:了解如何通过沿袭功能运用数据进行分析 和报告 db.nsf获得 本文中包含的信息仅供参考。虽然在检查本文信息时尽量保证其完整性和准确 性,但它是“按原样”提供的,没有任何隐含或者明确的担保。此外,本文包含的信 息根据 IBM当前产品计划和策略提供,如有变更,恕不通知。IBM不承担因为使 用本文内容和相关内容而造成损害的责任。本文中包含的内容不打算、也不应该 作为IBM或其供应商或其许可证销售商的担保或表示,或者修改适用于IBM软件0 码力 | 16 页 | 1.23 MB | 1 年前3
通过Oracle 并行处理集成 Hadoop 数据取对业务用户有价值的信息。 本文详细介绍了如何从 Oracle 数据库访问存储在 Hadoop 集群里的数据。请注 意,本文选择了 Hadoop 和 HDFS 作为示例,但这里的策略同样适用于其他分 布式存储机制。本文中介绍了各种访问方法,还通过一个具体示例说明了其中一 种访问方法的实现。 2 Oracle 白皮书 — 通过 Oracle 并行处理集成 Hadoop0 码力 | 21 页 | 1.03 MB | 1 年前3
Hadoop 概述ZooKeeper,你能记录哪些服务器或服务正处于运行状态,并且能够 通过名称查看它们的状态。 如果有节点出现问题导致宕机,ZooKeeper 会采用一种通过选 举 leader 来完成自动故障切换的策略,这是它自身已经支持的解决 方案(见图 1-2)。选举 leader 是一项服务,可安装在多台机器上作为 冗余备用,但在任何时刻只有一台处于活跃状态。如果这个活跃的 第 1 章 Hadoop0 码力 | 17 页 | 583.90 KB | 1 年前3
共 5 条
- 1













