Hadoop应用开发与案例实战（慕课版）

图书标准信息

• 作者 穆建平、王建、商程 著
• 出版社 人民邮电出版社
• 出版时间 2021-04
• 版次 1
• ISBN 9787115537782
• 定价 49.80元
• 装帧 平装
• 开本 16开
• 纸张 胶版纸
• 页数 207页
• 字数 284千字

【内容简介】

Hadoop是目前比较流行的大数据框架之一，可使用简单的高级编程模型实现大型数据集的分布式存储和处理。

本书以Hadoop的概念、集群搭建、核心组件、实战案例等为主线，较为全面地介绍了Hadoop大数据存储及处理技术的相关知识。全书共10章，前9章主要讲解Hadoop基础，内容包括初识Hadoop、Hadoop的安装与配置、高可用与联邦、分布式文件系统HDFS、集群资源管理系统YARN、分布式计算框架MapRecuer、Hadoop的I/O操作、Hadoop3.x新特性、Hadoop商业发行版等；第10章是Hadoop实战案例，以实际Hadoop框架的运用为导向引入了三个实战案例：文件合并及多目录输出、网页域名分区统计以及电商平台商品评价数据分析案例。

【作者简介】

浪潮优派公司教学部总经理助理，拥有多年大型软件项目开发、管理及教学经验，具有丰富的软件开发及教学经验。主要包括“华电煤业全面预算管理平台”“河南**订货平台”“高校毕业生就业信息网”“3G移动就业信息平台”等大型应用项目。

【目录】

第 1章 初识Hadoop 9

1．1 Hadoop概述 9

1．1．1 Hadoop简介 9

1．1．2 Hadoop的背景 10

1．1．3 Hadoop的发展历程 11

1．1．4 Hadoop的特点 12

1．2 Hadoop核心组件 13

1．2．1 分布式文件系统HDFS 13

1．2．2 分布式计算框架MapReduce 15

1．2．3 集群资源管理器-YARN 16

1．3 Hadoop生态系统及相关技术简介 17

1．4 Hadoop的应用场景 20

本章小结 22

习题 22

第 2章 Hadoop安装与配置 24

2．1 Hadoop的安装方式 24

2．2 伪分布式安装 25

2．2．1 安装前的准备工作 25

2．2．2 Hadoop安装与配置 31

2．2．3 启动与停止Hadoop 35

2．2．4 访问Hadoop 37

2．3 完全分布式安装 38

2．3．1 Hadoop集群规划 39

2．3．2 安装前的准备工作 39

2．3．3 Hadoop安装与配置 43

2．3．4 集群启动与监控 45

2．3．5 集群节点的添加与删除 47

本章小结 50

习题 51

第3章 高可用与联邦 52

3．1 高可用 52

3．2 为什么需要高可用 52

3．3 HDFS高可用 53

3．3．1 HDFS高可用运行流程 54

3．3．2 HDFS高可用环境搭建 55

3．4 YARN高可用 65

3．5 联邦 69

本章小结 70

习题 70

第4章 分布式文件系统HDFS 71

4．1 HDFS概述 71

4．1．1 HDFS简介 71

4．1．2 HDFS架构 72

4．2 HDFS的基本概念 73

4．2．1 命名空间与块存储服务 73

4．2．2 数据块 74

4．2．3 数据复制 75

4．2．4 心跳检测与副本恢复 76

4．3 HDFS的数据读写流程 77

4．3．1 数据写入流程 77

4．3．2 数据读取流程 78

4．4 HDFS元数据管理机制 79

4．4．1 元数据持久化机制 80

4．4．2 元数据合并机制 81

4．5 HDFS Shell命令 83

4．5．1文件系统常用操作命令 83

4．5．2 常用管理命令 dfsadmin 87

4．6 开发环境搭建 90

4．6．1 maven简介 90

4．6．2 基于Maven+Eclipse构建Hadoop开发调试环境 91

4．7 Java API应用 95

4．7．1 HDFS文件系统操作涉及的类 95

4．7．2 RPC的原理及应用 99

本章小结 101

习题 102

第5章 集群资源管理系统YARN 103

5．1 YARN产生背景 103

5．2 YARN在共享集群模式中的应用 104

5．3 YARN的设计思想 106

5．3．1 YARN的基本架构 106

5．3．2 ResourceManager HA 108

5．4 YARN的工作流程 111

5．5 YARN的资源调度器 112

5．5．1 调度选项 112

5．5．2 FIFO Scheduler 113

5．5．3 Capacity Scheduler 113

5．5．4 Fair Scheduler 116

本章小结 122

习题 123

第6章 分布式计算框架MapReduce 124

6．1 MapReduce概述 124

6．2 map和reduce的处理过程 124

6．2．1 处理过程概述 124

6．2．2 MapReduce入门案例 126

6．2．3 关于shuffle 132

6．2．4 YARN对MapReduce的资源调度 134

6．2．5 map的本地化 135

6．3 MapReduce进阶 135

6．3．1 Combiner 135

6．3．2 Partioner 136

6．3．3 MapReduce输入的处理类 137

6．3．4 MapReduce输出的处理类 138

6．4 案例 139

本章小结 153

习题 153

第7章 Hadoop的I/O操作 155

7．1 IO操作中的数据完整性检查 155

7．2 I/O操作中的数据压缩 156

7．2．1 压缩算法 157

7．2．2 压缩和解压缩 157

7．3 Hadoop I/O序列化接口 159

7．3．1 序列化 159

7．3．2 Hadoop序列化 159

7．4自定义序列化类 163

7．5基于文件的数据结构 165

7．5．1 SequenceFile 165

7．5．2 SequenceFileInputFormat 166

本章小结 166

习题 167

第8章 Hadoop 3．x新特性 168

8．1 Hadoop 3．x概述 168

8．2 Hadoop 3．x的改进 169

8．2．1 JDK升级 169

8．2．2 EC技术 169

8．2．3 YARN优化 172

8．2．4 支持多NameNode 174

8．2．5 DataNode内部负载均衡 177

8．2．6 端口号的改变 180

8．3 Hadoop 3．x其他新特性 181

8．3．1 shell脚本重写 181

8．3．2 GPU和FPGA支持 181

本章小结 182

习题 182

第9章 Hadoop商业发行版 184

9．1 Hadoop集群管理的挑战 184

9．2 CDH概述 184

9．3 Cloudera Manager概述 185

9．3．1 Cloudera Manager的架构 186

9．3．2 Cloudera Manager中的基本概念 187

9．4 Cloudera Manager及CDH离线安装部署 189

9．4．1 集群部署规划 190

9．4．2 安装前的准备工作 191

9．4．3 前置软件安装 192

9．4．4 Cloudera Manager安装与配置 194

9．4．5 CDH部署 196

9．4．6 Cloudera Manager搭建Hadoop集群 197

9．4．7 启用HDFS HA和YARN HA 203

9．5 Cloudera Manager的功能 206

9．5．1 Cloudera Manager的基本核心功能 206

9．5．2 Cloudera Manager的高级功能 212

9．6 Hadoop其他商业发行版介绍 214

9．6．1 HDP 214

9．6．2 MapR Hadoop 215

9．6．3 华为Hadoop 216

本章小结 216

习题 216

第 10章 Hadoop实战案例 217

10．1 项目背景 217

10．2 Apache Avro 217

10．2．1 Apache Avro概述 218

10．2．2 Schema 218

10．2．3 Avro序列化与反序列化案例 219

10．3 案例一：Avro文件合并多目录输出 223

10．3．1 需求概述 223

10．3．2 数据描述 224

10．3．3 设计思路分析 225

10．3．4 功能实现 226

10．4 案例二：网页域名分区统计 233

10．4．1需求概述 233

10．4．2 数据描述 234

10．4．3 设计思路分析 238

10．4．4 功能实现 238

10．5 案例三：电商平台商品评价数据分析 244

10．5．1需求描述 244

10．5．2 数据描述 245

10．5．3 设计思路分析 245

10．5．4 功能实现 246

本章小结 252

习题 252