150byte，这样当小文件比较多的时候，就会产生很多的元数据文件，一方面会大量占用 NameNode 的内存空间，另一方面就是元数据文件过多，使得寻址索引速度变慢。 小文件过多，在进行 MR 计算时，会生成过多切片，需要启动过多的 MapTask。每个 MapTask 处理的数据量小，导致 MapTask 的处理时间比启动时间还小，白白消耗资源。 10.1.2 Hadoop 小文件解决方案 1）在数 文件，从而达到减少 NameNode 的内存使用 3）CombineTextInputFormat（计算方向） CombineTextInputFormat 用于将多个小文件在切片过程中生成一个单独的切片或者少 量的切片。 4）开启 uber 模式，实现 JVM 重用（计算方向） 默认情况下，每个 Task 任务都需要启动一个 JVM 来运行，如果 Task 任务计算的数据 量很小，我们可以让同一个

HDFS平台十分适合处理大型顺序操作，其中的数据读取“切 片”通常为64MB或128MB。通常情况下，除非应用程序加载 数据来管理相关任务，否则不会对HDFS文件进行分区或排 序。即使应用程序可以对生成的数据切片进行分区和排序， 也无法保证数据切片在HDFS系统中的位置正确。这意味着， 无法在该环境中有效管理数据搭配工作。数据搭配（Data collocation）至关重要，因为它可确保将联接（join）键相同的 数