IBM软件 3 随着Hadoop市场的不断发展，顶级技术分析师一致认为， Hadoop 基础架构本身并非完整或有效的大数据集成解决方案 （请阅读此报告，其中对Hadoop为何并非数据集成平台进行了 讨论）。更加糟糕的是，一些Hadoop软件供应商利用炒作、神 话、误导或矛盾信息来渗透市场。 为彻底切断这种误导，并开发适合您的Hadoop大数据项目的 采用计划，必须遵循最佳实践方法，充分考虑各种新兴技术、可 的神话 与现实之间存在巨大的反差，这在大数据集成方面表现尤为 突出。很多业界传言称，任何不可扩展的抽取、转换和加载 (ETL) 工具搭配Hadoop后都会得到高性能、高度可扩展 的数据集成平台。 事实上，MapReduce的设计宗旨并非是对海量数据进行 高性能处理，而是为了实现细粒度的容错。这种差异可能会 使整体性能和有效性降低一个数量级乃至更多。 Hadoop Yet Another 丰富 EDW 连续 单处理器 SMP系统 MPP群集系统或GRID 4 路并行 64 路并行 CPU CPU CPU CPU CPU 内存 共享内存 磁盘 磁盘 关键成功因素：大数据集成平台必须支持全部三个维度的可 扩展性 • 线性数据可扩展性：硬件和软件系统通过线性增加硬件 资源来线性提高处理吞吐量。例如，如果在50个处理器 上运行4小时可以处理200GB数据，在100个处理器上运

商业促使各种组织收集越来越多的数据，而这也增加了高效管理这 些数据的需求。本章探讨 Hadoop Stack，以及所有可与 Hadoop 一 起使用的相关组件。 在构建 Hadoop Stack 的过程中，每个组件都在平台中扮演着重 要角色。软件栈始于 Hadoop Common 中所包含的基础组件。Hadoop 1 第 章 Hadoop 大数据解决方案 2 Common 是常见工具和库的集合，用于支持其他 将他们的集成称作生态系统。字典中将生态系统定义 为：生物与它们所处环境的非生物组成部分(如空气、水、土壤和矿 产)作为一个系统进行交互的共同体。基于技术的生态系统也有类似 的属性。它是产品平台的结合，由平台拥有者所开发的核心组件所 定义，辅之以自动化(机器脱离人类自主运转)企业在其周边(围绕着 一个空间)所开发的应用程序。 以 Apache 的多种可用产品和大量供应商提供的将 Hadoop 即可集成到数据生态系统的层次结 构中。 Horton 数据平台(Horton Data Platform，HDP)是一个生态系统。 HDP 能够帮助你通过使用虚拟机上的单节点群集来开始 Hadoop 之 旅，如图 1-4 所示。由于 Hadoop 是一个商用(几乎没有额外成本)的 解决方案，因此 HDP 使得你能够将其部署到云端或者自己的数据 中心。 HDP 为你提供数据平台基础以供搭建自己的 Hadoop 基础设

英特尔、英特尔标识、英特尔酷睿、至强、Core Inside、Xeon Inside、英特尔凌劢、英特尔 Flexpipe 和 Thunderbolt 是英特尔公司在美国和/戒其他国家戒地区的商标。 英特尔® 主劢管理技术要求平台采用支持英特尔主劢管理技术的芯片组、网络硬件和软件。系统必须接通电源幵建立网络连接。就笔记本电脑而言，英特尔主劢管理技术可能在基亍主机操 作系统的虚拟与用网（VPN）上，戒者在无线连接、使用电池电源 com/products/ht/hyperthreading_more.htm。 英特尔® 虚拟化技术要求计算机系统具备支持英特尔虚拟化技术的英特尔® 处理器、基本输入输出系统、BIOS、虚拟机监视器、VMM、以及用亍某些应用的特定平台软件、功能、性能戒 其它优势会根据软硬件配置的丌同而有所差异，可能需要对 BIOS 迚行更新。相关应用软件可能无法不所有的操作系统兼容。请咨询您的应用厂商以了解具体信息。 *文中涉及的其它名称及商标属亍各自所有者资产。 年产生2.7 ZB（1,000,000 PB）数据, 2015 年150亿部接入设备 大数据时代的数据 2011年每天处理的数据超 过： 24 PB 2011年6月乊前， Facebook平台每天分享资 料： 40亿 智慧城市数据 中国某一线城市: 200PB/季度 中国一线城市健康档案数 据： 5.5 million 传统的数据处理技术 大数据时代的数据 速度

Alibaba Cloud MaxCompute 解决方案 6 1 概要 Hadoop 在企业构建第一代大数据平台中成为主流的技术框架，但是随着企业信息化的高 速发展，在数字化、智能化的转型过程中，Hadoop 越来越复杂的技术架构和运维成本、平台 的稳定性和安全性、资源的弹性伸缩能力都遇到了瓶颈，严重阻碍了客户数据业务的发展。随着 云计算技术的发展和普及，越来越多的企业 MapReduce/SQL/Spark） EMR 对应组件 Alibaba Cloud MaxCompute 解决方案 10 机器学习 Spark Mlib/ML Tensorflow PAI 机器学习平台 MaxCompute Spark 实时消息采集 Kafka Datahub 日志服务(LogHub 组件) 消息队列 Kafka 流处理 Spark Streaming 2.2 MaxCompute 特性介绍 MaxCompute 是阿里云提供高效能、低成本，完全托管的“EB 级”大数据计算服务，利用 MaxCompute 可以构建敏捷、高效的企业数据管理平台。 Alibaba Cloud MaxCompute 解决方案 11 2.2.1 MaxComptue 的逻辑架构 2.2.2 MaxCompute 产品特性

ebay的Paid IM(互联网市场)部门架构师，领导ebay产品广告、互 联网市场数据和实验平台的架构设计。负责领导使用Hadoop、 Spark、Kafka、Cassandra等开源大数据顷目建立ebay的广告和数 据平台。 • 加入ebay前，在intel工作6年，大数据架构师，负责领导大数据的 开源贡献、基于Intel平台的开源顷目优化以及一些基于Spark的大 规模机器／深度学习顷目。 • 超过9年的互联网、云计算、大数据的工作经验。 Hadoop 3介绍 • Common • HDFS  纠错码(Erasure Coding)  多个Standby Namenode  Datanode内部balance工具  云计算平台的支持 • YARN • MapReduce HDFS纠错码(Erasure Coding) • 一个简单的例子 1备份: 1,0 需要额外的2位 XOR编码: 1,0 需要额外的1位 HDFS纠错码(Erasure

關技術的推廣，主要包括 Hadoop Platform 與 NoSQL 等 Big Data 相關 應用，Google App Engine、Microsoft Azure 與 CloudBees 等雲端平台的運 用，以及 Android、Windows Phone 等 Smart Phone 的應用程式開發。 PS. 除了我的照片之外，投影片裡頭 所有的圖片都來自於 Google Search，版權歸原來各網站與企業所 from It? 54 / 74 超級(女)英雄們也是有分派系的！ Hadoop 小圈圈 55 / 74 Cloudera 派： Intel (金主) DataBricks (Spark 平台) IBM Oracle MapR ... Hortonworks 派： Microsoft (生命共同體) ... 56 / 74 意見分歧？殊途同歸？ Hive vs. Impala Query Planner，從 Hive on MapReduce 變成 Hive on Tez on YARN 58 / 74 架在 Hadoop 上的 Machine Learning 平台 目前提供 Recommendation Mining、 Clustering、Classification 等 Use Case 2014-04-25 發表了 Goodbye MapReduce

ost）硬件 上；而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有 着超大数据集（large data set）的应用程序。HDFS 放宽了（relax）POSIX 的要求， 可以以流的形式访问（streaming access）文件系统中的数据。 Hadoop 的框架最核心的设计就是：HDFS 和 MapReduce。HDFS 为海量的数 据提供了存储，而

MATLAB Distributed Computing Server) 9 MATLAB与Spark/Hadoop集成 MDCS 10 Hadoop Hadoop是跨计算机集群的分布式大数据处理平台，由两部分组成： • YARN (Yet Another Resource Negotiator) – 资源调度模型，实现数据跨节点的最小移动 • Map/Reduce – 跨节点分布式计算模型

Apache Hadoop 在兼容性，安 全性，稳定性上有所增强。Cloudera 的标价为每年每个节点 10000 美元。 （4）Cloudera Manager 是集群的软件分发及管理监控平台，可以在几个小时内部署好一 个 Hadoop 集群，并对集群的节点及服务进行实时监控。 3）Hortonworks Hadoop 官网地址：https://hortonworks.com/