Hadoop 簡史 5 / 74 The Apache Hadoop software library is a framework that allows for the distributed processing of large data sets across clusters of computers using simple programming models. It is designed 74 我們對 Hadoop 的期許： Batch Job Interactive Query Real-Time Processing Graph Processing Iterative Modeling 人心不足蛇吞象 Hadoop 的體質 (Batch Processing) 問題： 每次就是一個 Batch Job，一個接著一個 每個 Batch Job 做的事就是讀入所有資料、處理、寫出結果 (HDFS)，但是提供多種玩法 (YARN)！ 希望把 Hadoop 從 Batch 應用變成 Data Operating System： 透過 MapReduce 進行 Batch Processing 透過 Hive 與 Tez 進行 Interactive SQL Query ... 15 / 74 MapReduce 改造前 Hadoop 原來的架構，MapReduce 是一切應用的基礎

SPECfp*_rate_base2006 benchmark as of 6 March 2012. 高速网络提升大数据平台处理性能 CPU Processing Timeline CPU Processing SW 10µs NVM 65µs IO Processing 典型应用消耗的时间示意：CPU vs. IO Application • 性能增强 - 顺序读/写 : 2

响； ▪ 数据处理与分析所需时间增长 – 数据规模增大、数据复杂度增加，增加处理难度和所需时间； 5 MATLAB的大数据处理 ▪ 编程 ▪ Streaming ▪ Block Processing ▪ Parallel-for loops ▪ GPU Arrays ▪ SPMD and Distributed Arrays ▪ MapReduce ▪ MapReduce Ecosystem 11 Spark Spark是一个流行的开源集群计算框架 • 并行计算引擎 • 使用广义的计算模型 • 基于内存进行计算（内存计算） Spark Core (Batch Processing) 12 MATLAB与Hadoop datastore map.m reduce.m HDFS MATLAB Distributed Computing Server Data

VARCHAR2, id in out number) RETURN BOOLEAN; -- Tf to read from Hadoop -- This is the main processing code reading from the queue in -- Figure 3 step 6. It also contains the code to insert into --