框架异步调用外部shell 脚本，然后由这个shell脚本提交一个Hadoop Map-Reduce 作业。该表函数与映射器 (mapper) 之 间使用 Oracle 高级队列特性进行通信。Hadoop mapper 将数据排入一个公共队列，而表函数则 从该队列中取出数据。由于该表函数能够并行运行，因此使用额外的逻辑来确保仅有一个服 务进程提交外部作业。 3 Oracle 白皮书 — 通过 Oracle 数据 图 2. 利用表函数进行并行处理 由于表函数可以并行运行，Hadoop 流作业也可以不同程度地并行运行，并且后者不受 Oracle 查询协调器的控制，这种情况下，队列能提供负载平衡。 4 Oracle 白皮书 — 通过 Oracle 并行处理集成 Hadoop 数据 利用表函数的示例 下面我们将以一个实际示例展示图 Oracle 并行处理集成 Hadoop 数据 mapper 进程处理数据，并在第 5 步写入一个队列。在本文的示例中，我们选择了一个在集群 范围内可用的队列。现在，我们只是单纯地将任何输出直接写入到队列里。您可以通过批量 处理输出并将其移入队列来提高性能。显然，您也可以选择管道和关系表等其他各种机制。 随后的第 6 步是出队过程，这是通过数据库中的表函数并行调用来实现的。这些并行调用处

好地集成，创造出轻松分析这些大规模商业信息的独特方式。 访问数据 数据库、数据仓库 POWER CENTER Power Exchange 预处理 抽取数据 Web 服务器 批处理 消息队列、电子邮件、 社交媒介 大型主机 实时 图 1-6 这并不意味着 Hadoop 或者其他数据平台的解决方案无法在非 Windows 环境下运行。你应该细心检查现有的或者计划使用的环境 图 1-10 1.5 小结 通过使用 Hadoop Stack，你利用 Hadoop 在企业中实现最优方 第 1 章 Hadoop 概述 17 案，并且与混合编程和高级工具相结合。如今大多数群集都在你的 本地，但服务提供商给予了更多选择，使得数据也可以存储在云端。 目前，SQL、关系型和非关系型数据存储均可使用 Hadoop 的功能。 当涉及数据时，Hadoop 数据仓库设备。 Hadoop 并不是大多数组织现有富数据环境的替代品。在考虑使 用 Hadoop 时，也要同样重视其他方面，例如 MapReduce 或 YARN， 它们在做深度数据分析和高级分析方面取得了重大进步。Hadoop 提供对大数据的实时处理，它能对你的决策结果产生实时影响。不 同的产业，从金融业到医疗业，通过使用 Hadoop Stack 或者任何与 之相关的组件，均能

Mlib/ML Tensorflow PAI 机器学习平台 MaxCompute Spark 实时消息采集 Kafka Datahub 日志服务(LogHub 组件) 消息队列 Kafka 流处理 Spark Streaming Flink Storm 实时计算(原流计算) EMR(开源流计算组件） 分析型数据存储 数据仓库： Gree 编程接口：Maven xml 8. 对于 hive 集群上作业提交队列的说明： Alibaba Cloud MaxCompute 解决方案 37 我们工具在创建 hive 作业迁移数据的时候，会把作业提交到 default queue，如同客户的 hive 集群上没有 default queue，就需要客户指定队列名称，方法如下： ① 使用 hadoop queue -showacls

1.6 大数据技术生态体系 大数据技术生态体系 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 HDFS文件存储 HBase非关系型数据库 YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive 数据查询 Spark Mlib 数据挖掘 Spark 名字服务、分布式同步、组服务等。 1.7 推荐系统框架图 推荐系统项目框架 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 HDFS文件存储 HBase非关系型数据库 YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive 数据查询 Spark Mlib 数据挖掘 Spark

允许运行时劢态的调整分配给容器的资源 资源隔离 • 磁盘资源的隔离－ YARN-2619 • 网络IO的隔离－ YARN-2140 • Docker Container－ YARN-3611 调度的增强 • 在同一个队列(queue)的优先级－ YARN-1963 YARN的Web页面的增强 • YARN-3368 Hadoop 3介绍 • Common • HDFS • YARN • MapReduce

在过去的二十年中，大型企业认识到使用商业数据集成工具 替换手动编码具有很多优势。手动代码与数据集成工具之争 早已平息，很多技术分析师纷纷总结采用世界级数据集成软 件将会实现的巨大ROI优势3。 “如有疑问，请尽可能使用更高级的工 具。” —“Large-Scale ETL With Hadoop”，Eric Sammer（Cloudera 首 席解决方案架构师）于 Strata+Hadoop World 2012 期间所做的演示4