纳入了MapReduce的资源管理功能，并将它们内置其 中，这样需要在Hadoop群集间动态执行的其他应用即可 使用它们。结果是，这种方法可将大规模可扩展数据集成 引擎作为本机 Hadoop应用程序来实现，而且不会影响 MapReduce的性能。希望在Hadoop上实现可扩展性和 有效性的所有企业技术都需要采用YARN，并将其作为 产品路线图的一部分。 开始集成之旅以前，请务必了解MapReduce的性能限 因此他们争相与IBM合作解决这个问题，因为IBM大数据集 成解决方案以其独有的方式支持大数据集成的大规模数据可 扩展性要求。 以下是依赖ETL pushdown会造成的一些累积负面影响： • ETL包含大部分EDW工作负载。由于相关成本的影响， 对于运行ETL的工作负载而言，EDW是一种非常昂贵的 平台。 • ETL工作负载会导致查询SLA降级，最终需要您额外投 资购买昂贵的EDW容量。 • 数据 的逻辑推送到RDBMS。 • 数据质量受到影响。 • 关键任务（如数据剖析）无法实现自动化-在很多情况下 根本无法执行。 • 未实施有效的数据治理（数据管理、数据沿袭、影响分 析），因而响应法规要求变得更加困难且非常昂贵，对 关键业务数据的信心更无从谈起。 相反，采用海量可扩展数据集成平台来优化大数据集成工作 负载的企业，则可最大限度降低潜在的负面影响，更有效地通 过大数据实现业务转型。

数据节点 数据节点 数据节点 节点管理器 节点管理器 节点管理器 图 1-1 MapReduce 的功能使得它成为最常用的批处理工具之一。该处 理器的灵活性使其能利用自身的影响力来挑战现有系统。通过将数 据处理的工作负载分为多个并行执行的任务，MapReduce 允许其用 户处理存储于 HDFS 上不限数量的任意类型的数据。因此，MapReduce 让 Hadoop 算资源进行排序、分区并在加载之前将数据转换成适配于 Oracle 的 数据类型。当加载数据时，在 Hadoop 上进行的数据预处理降低了 数据库 CPU 的使用率。这样就减少了对数据库应用程序的影响，减 第 1 章 Hadoop 概述 15 轻了对资源的竞争，而这正是插入大量数据时的一个常见问题。它 使得此连接器在连续且频繁地加载时尤其有用。 ORACLE 数据库 SQL Hadoop 时，也要同样重视其他方面，例如 MapReduce 或 YARN， 它们在做深度数据分析和高级分析方面取得了重大进步。Hadoop 提供对大数据的实时处理，它能对你的决策结果产生实时影响。不 同的产业，从金融业到医疗业，通过使用 Hadoop Stack 或者任何与 之相关的组件，均能得到直接收益。它推翻了以前认为只有依靠数 据挖掘工具才能实现的界限，使你能够以一种截然不同的方式来查

后台拉取过来的数据，需要多久能上传到集群？消费者 关心多久能从 HDFS 上拉取需要的数据？ 为了搞清楚 HDFS 的读写性能，生产环境上非常需要对集群进行压测。 HDFS 的读写性能主要受网络和磁盘影响比较大。为了方便测试，将 hadoop102、 hadoop103、hadoop104 虚拟机网络都设置为 100mbps。 100Mbps 单位是 bit；10M/s 单位是 byte 的时间。如果你发现创建目录超过 1 分 钟及以上，而且这个现象并不是每次都有。只是偶尔慢了一下，就很有可能存在慢磁盘。 可以采用如下方法找出是哪块磁盘慢： 1）通过心跳未联系时间。 一般出现慢磁盘现象，会影响到 DataNode 与 NameNode 之间的心跳。正常情况心跳时 间间隔是 3s。超过 3s 说明有异常。 2）fio 命令，测试磁盘的读写性能 （1）顺序读测试 [atguigu@hadoop102 次数超过该值，则认为Map Task运行失败，默认值：4。根据机器 性能适当提高。 1）自定义分区，减少数据倾斜; 定义类，继承Partitioner接口，重写getPartition方法 4）在不影响业务结果的前提条件下可以提前采用Combiner job.setCombinerClass(xxxReducer.class); 5）为了减少磁盘IO，可以采用Snappy或者LZO压缩 conf

– 访问和处理数据变得困难； – 需要学习使用新的工具和新的编程方式； – 不得不重写算法以应对数据规模的增大； ▪ 现有处理或计算方法下的结果质量受到影响 – 被迫只能处理一部分数据（数据子集）； – 采用新的工具或重写算法会对现有生产力产生影响； ▪ 数据处理与分析所需时间增长 – 数据规模增大、数据复杂度增加，增加处理难度和所需时间； 5 MATLAB的大数据处理 ▪ 编程 ▪ Streaming

ResourceManager 申请资源，并要求 NodeManger 启动可以占用一定资源的 任务。由于不同的 ApplicationMaster 被分布到不同的节点上，因此它们之间不会相互影响。 YARN 的基本组成结构，YARN 主要由 ResourceManager、NodeManager、 ApplicationMaster 和 Container 等几个组件构成。 ResourceManager

intel.com/design/literature.htm 性能测试和等级评定均使用特定的计算 机系统和/戒组件迚行测量，这些测试大致反映了英特尔® 产品的性能。系统硬件、软件设计戒配置的仸何差异都可能影响实际性能。购买者应迚行多方咨询，以评估其考虑购买的系统戒组 件的性能。如欲了解有关性能测试和英特尔产品性能的更多信息，请访问:英特尔性能挃标评测局限 此处涉及的所有产品、计算机系统、日期和数字