架构概述 Hadoop Distributed File System，简称 HDFS，是一个分布式文件系统。 HDFS架构概述 1）NameNode（nn）：存储文件的元数据，如文件名，文件目录结构，文件属性（生成时间、副本数、 文件权限），以及每个文件的块列表和块所在的DataNode等。 2）DataNode(dn)：在本地文件系统存储文件块数据，以及块数据的校验和。 3）Secondary ss1505_wuma.a vi Container MapTask SecondaryNa meNode 1.6 大数据技术生态体系 大数据技术生态体系 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 HDFS文件存储 HBase非关系型数据库 YARN资源管理 MapReduce离线计算 Spark 作业（job）的工作流程调度管理系统。 7）Hbase：HBase 是一个分布式的、面向列的开源数据库。HBase 不同于一般的关系数据库， 它是一个适合于非结构化数据存储的数据库。 8）Hive：Hive 是基于 Hadoop 的一个数据仓库工具，可以将结构化的数据文件映射为一张 数据库表，并提供简单的 SQL 查询功能，可以将 SQL 语句转换为 MapReduce 任务进行运 行。其优点是学习成本低，可以通过类

编写人：MaxCompute 产品团队 日 期：2019.05 Alibaba Cloud MaxCompute 解决方案 2 目录 1 概要 .......................................................................................... 的逻辑组件关系如下图所示： 这些逻辑组件包括：  数据源：数据源包括关系型数据库、日志文件、实时消息等。  数据存储：面向海量数据存储的分布式文件存储服务，支持 结构化数据和非结构数据数据存 储，我们也常称之为数据湖。如 HDFS、对象存储服务等。  批处理：由于大数据场景必须处理大规模的数据集，批处理往往需要从数据存储中读取大量 数据进 行长 时间 处理 分析 Streaming、Storm 等。  机器学习：满足机器学习工作负载的服务。如当前流行的 Spark MLib/ML、Tensorflow 等。  分析型数据存储：对数据进行处理加工后，面向应用场景，将数据以结构化的方式进行存储， 以便分析工具或分析应用能够获取数据。如利用 MPP 数据仓库、Spark SQL 等支持 BI 工具 访问，利用 Hbase 实现低延迟的在线服务等  分析与报表：对数据进行分析和展现以获取洞察。如

中获取最新的集中式配置。这也使得你只需要 通过 ZooKeeper 的一个客户端改变集中式配置，便能改变分布式系 统的状态。 名称服务是将某个名称映射为与该名称相关信息的服务。它类 似于活动目录，作为一项名称服务，活动目录的作用是将某人的用 户 ID(用户名)映射为环境中的特定访问或权限。同样，DNS 服务作 为名称服务，将域名映射为 IP 地址。通过在分布式系统中使用 ZooKeeper，你能记 以及分析。如果 你在使用 Hadoop 工作时期望数据库的体验并且怀念关系型环境中 的结构(见图 1-3)，那么它或许是你的解决方案。记住，这不是与传 统的数据库或数据结构进行对比。它也不能取代现有的 RDBMS 环 Hadoop 大数据解决方案 8 境。Hive 提供了一种为数据赋予结构的渠道，并且通过一种名为 HiveQL 的类 SQL 语言进行数据查询。 Hive 了一个类似的生态系统。 Cloudera 为集成结构化和非结构化的数据创造了条件。通过使用平 台交付的统一服务，Cloudera 开启了处理和分析多种不同数据类型 的大门(见图 1-5)。 处理、分析和服务 安全 文件系统 (HDFS) 关系型 非结构化 批处理 流 搜索 统一服务 资源管理(YARN) 存储 结构化 集成 图 1-5 1.4.2

fs.trash.interval 1 4）查看回收站 回收站目录在 HDFS 集群中的路径：/user/atguigu/.Trash/…. 5）注意：通过网页上直接删除的文件也不会走回收站。 6）通过程序删除的文件不会经过回收站，需要调用 moveToTrash()才进入回收站 ————————————————— 更多 Java –大数据 –前端 –python 人工智能资料下载，可百度访问：尚硅谷官网 测试网速：来到 hadoop102 的/opt/module 目录，创建一个 [atguigu@hadoop102 software]$ python -m SimpleHTTPServer 2.1 测试 HDFS 写性能 0）写测试底层原理 带宽？由于目前只有三台服务器，且有三 个副本，数据读取就近原则，相当于都是读取的本地磁盘数据，没有走网络。 第 3 章 HDFS—多目录 3.1 NameNode 多目录配置 1）NameNode 的本地目录可以配置成多个，且每个目录存放内容相同，增加了可靠性 2）具体配置如下 （1）在 hdfs-site.xml 文件中添加如下内容

180,000 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 Exponential Growth 内容仓库– 海量/非结构化 传统非结构化数据 传统结构化数据 企业托管服务中的数据 Linear Growth Source: IDC, 2011 Worldwide Enterprise Storage Systems 速度 数据量 多样化 传统数据 大数据 GB -> TB TB -> PB以上 数据量稳定，增长不快 持续实时产生数据， 年增长率超过60％ 主要为结构化数据 半结构化，非结构化， 多维数据 ―大数据‖ 挃数据集的大小超过了现有典型的数据库软件和工具的处理能力。不此同时，及时捕捉、 存储、聚合、管理这些大数据以及对数据的深度分析的新技术和新能力，正在快速增长，就像预 预分配region 启用压缩已减少HDFS数据量，可提高读性能 Region Server迚程配置大内存（>16G） 每个Region Server拥有的region数量<300 优化表结构设计，防止少数几个region成为瓶颈 • 一个简单的经验公式：每台region server纯写入时高负载应能 达到>1万条记录/秒（每记录200字节） 英特尔Hadoop功能增强

大数据的”4V”特征： ▪ Volumes - 数据规模，数据规模巨大 互联网、社交网络的普及，全社会的数字化转型，数据规模向PB级发展 ▪ Variety - 数据种类 ，数据种类繁多 结构化数据，半结构化数据，非结构化数据 ▪ Value - 数据价值，数据价值密度低 价值密度的高低与数据总量的大小成反比 ▪ Velocity - 数据处理速度，数据处理速度需要快速 数据处理速度是决定大数据应用的关键

复杂转换方面的限制 • 数据清理限制 • 数据库在执行某些流程时速 度较慢 优点 • 利用MapReduce MPP引擎 • 利用商业硬件和存储 • 释放数据库服务器上的容量 • 支持处理非结构化数据 • 利用Hadoop功能保留数据 （如更新和编写索引） • 实现低成本历史归档数据 缺点 • 可能需要复杂的编程工作 • MapReduce通常比并行数 据库或可扩展ETL工具速度 ，可以先将 数据保存到运行映射操作的节点，再进行随机选择和发送以减 少操作。 MapReduce包含多种设施，可将较小的引用数据结构迁 移至各映射节点，以便执行某些验证和增强操作。因此，会将 整个引用文件迁移至各映射节点，这使其更适合较小的引用 数据结构。如果进行手动编码，必须考虑这些处理流，因此 最好采用一些工具来生成代码，从而将数据集成逻辑下推到 MapReduce（也称为ETL

ResourceManager 申请资源，并要求 NodeManger 启动可以占用一定资源的 任务。由于不同的 ApplicationMaster 被分布到不同的节点上，因此它们之间不会相互影响。 YARN 的基本组成结构，YARN 主要由 ResourceManager、NodeManager、 ApplicationMaster 和 Container 等几个组件构成。 ResourceManager 是 Master