Job ... 弱弱的問一下：台灣有多少企業 Cluster 有這麼大？Task 有這麼 多？ 11 / 74 我們對 Hadoop 的期許： Batch Job Interactive Query Real-Time Processing Graph Processing Iterative Modeling 人心不足蛇吞象 Hadoop 的體質 (Batch Processing) 問題： Batch 應用變成 Data Operating System： 透過 MapReduce 進行 Batch Processing 透過 Hive 與 Tez 進行 Interactive SQL Query ... 15 / 74 MapReduce 改造前 Hadoop 原來的架構，MapReduce 是一切應用的基礎 所有 Job 都得轉換成 MapReduce 16 / 74 MapReduce Level Language for Data Analysis (2010-09 成為 Top-Level Project) Hive：Data Warehousing and SQL-Like Query (2010-09 成為 Top-Level Project) Sqoop：Data Migration Tool Between HDFS and RDBMS Hadoop Ecosystem

read_from_hdfs_file(pcur IN SYS_REFCURSOR, in_directory IN VARCHAR2) RETURN return_rows_t PIPELINED PARALLEL_ENABLE(PARTITION pcur BY ANY); END; / 11 Oracle 白皮书 — 通过 read_from_hdfs_file(pcur IN SYS_REFCURSOR, in_directory IN VARCHAR2) RETURN return_rows_t PIPELINED PARALLEL_ENABLE(PARTITION pcur BY ANY) IS PRAGMA AUTONOMOUS_TRANSACTION; cleanup BOOLEAN; payload Oracle 白皮书 — 通过 Oracle 并行处理集成 Hadoop 数据 String query = "declare dopt dbms_aq.enqueue_options_t; mprop dbms_aq.message_properties_t; msgid raw(100); begin

数据处理与分析所需时间增长 – 数据规模增大、数据复杂度增加，增加处理难度和所需时间； 5 MATLAB的大数据处理 ▪ 编程 ▪ Streaming ▪ Block Processing ▪ Parallel-for loops ▪ GPU Arrays ▪ SPMD and Distributed Arrays ▪ MapReduce ▪ MapReduce (MDCS/PCT) ▪ 对tall数组(tall array)的编程方式与MATLAB 标准数组 编程方式一致 Single Machine Memory Process 8 ▪ MATLAB本地多核并行计算计 (PCT, Parallel Computing Toolbox) ▪ MATLAB集群之上的分布式计算 (MDCS, MATLAB Distributed Computing Server) 9 MATLAB与Spark/Hadoop集成

MapReduce架构而担忧。 InfoSphere DataStage可直接在Hadoop节点上运行， 而不必像一些供应商实施计划要求的那样在单独的配置节 点上运行。在与IBM General Parallel File System (GPFS™)-FPO搭配使用时，该功能有助于降低网络流量， 这样即可在Hadoop环境中提供符合POSIX要求的存储子 系统。POSIX文件系统允许ETL作业直接访问Hadoop中存

Indexing – Page Rank Machine Learning – Bayesian Classification – K-Means Clustering Analytical Query HiBench 1.0 paper (“The HiBench Suite: Characterization of the MapReduce-Based Data Analysis”) published

（2）执行均衡计划 hdfs diskbalancer -execute hadoop103.plan.json （3）查看当前均衡任务的执行情况 hdfs diskbalancer -query hadoop103 （4）取消均衡任务 hdfs diskbalancer -cancel hadoop103.plan.json 第 4 章 HDFS—集群扩容及缩容 4.1 添加白名单