大数据应用技术与实践

图书标准信息

• 作者 于丽娜李玮左楠
• 出版社 人民邮电出版社
• 出版时间 2024-03
• 版次 1
• ISBN 9787115620965
• 定价 42.00元
• 装帧 其他
• 开本 16开
• 页数 158页
• 字数 230千字

【内容简介】

本书依托一个大数据综合项目—电影市场的预测，按照大数据技术在该项目开发中的应用过程，将本书内容分为10个工作任务，包括初识Hadoop、搭建Hadoop集群、数据上传、配置Hadoop高可用、数据清洗、使用MapReduce统计电影上映情况与排序、数据建仓、数据分析、数据迁移和数据可视化。书中的具体工作任务有助于读者综合运用大数据知识及各种工具软件，实现大数据项目整体过程的操作。

本书附有配套资源，包括源代码、教学设计、教学课件等。

本书可作为高等院校本、专科大数据相关专业的教材，也可供大数据相关从业人员参考。

【作者简介】

刘志勇，研究生学历，高级工程师，河北工业职业技术大学骨干教师，主要研究方向是装备信息化、大数据及其应用，教授：大数据导论、大数据存储与管理、大数据处理与分析等课程，出版教材两部，包括《大数据存储》《武器装备供应商关系管理》和《预先维修理论与技术》。

【目录】

工作任务1

初识Hadoop 1

任务概述 1

学习目标 1

任务1.1 了解大数据 1

【知识链接】 1

1.1.1 什么是大数据 1

1.1.2 大数据的特征 2

1.1.3 研究大数据的意义 3

任务1.2 了解大数据的应用场景 4

【知识链接】 4

1.2.1 医疗行业的应用 4

1.2.2 金融行业的应用 5

1.2.3 零售行业的应用 5

任务1.3 了解Hadoop 6

【知识链接】 6

1.3.1 Hadoop的发展历程 6

1.3.2 Hadoop的优势 7

1.3.3 Hadoop的生态体系 8

1.3.4 Hadoop的版本 10

任务小结 12

课后习题 12

相关阅读——“第七次全国人口普查”中的大数据技术应用 13

工作任务2

搭建Hadoop集群 14

任务概述 14

学习目标 14

预备知识——集群和虚拟机 14

任务2.1 安装虚拟机 16

【任务描述】 16

【知识链接】 16

2.1.1 VMware软件 16

2.1.2 Linux操作系统 16

2.1.3 Hadoop集群 17

【任务实施】 17

任务2.2 克隆虚拟机 23

【任务描述】 23

【知识链接】 23

2.2.1 克隆和备份的区别 23

2.2.2 VMware的克隆类型 24

【任务实施】 24

任务2.3 网络配置 25

【任务描述】 25

【知识链接】 26

【任务实施】 26

任务2.4 SSH服务配置 29

【任务描述】 29

【知识链接】 29

【任务实施】 29

任务2.5 Hadoop集群搭建 32

【任务描述】 32

【知识链接】 32

【任务实施】 32

任务小结 37

课后习题 38

相关阅读——名副其实的“网络大国” 39

工作任务3

数据上传 40

任务概述 40

学习目标 40

预备知识——HDFS概述 40

任务3.1 使用Shell命令将电影数据上传到Hadoop 42

【任务描述】 42

【知识链接】 42

3.1.1 HDFS架构组成 42

3.1.2 HDFS的Shell操作 43

【任务实施】 45

任务3.2 使用Java API上传电影数据 46

【任务描述】 46

【知识链接】 46

3.2.1 HDFS写数据流程 46

3.2.2 HDFS读数据流程 47

3.2.3 NameNode和Secondary NameNode工作机制 47

3.2.4 DataNode工作机制 49

【任务实施】 49

任务小结 51

课后习题 51

相关阅读——根服务器 52

工作任务4

配置Hadoop高可用 53

任务概述 53

学习目标 53

预备知识——服务器的可用性和高可用性 53

任务4.1 配置ZooKeeper集群 54

【任务描述】 54

【知识链接】 54

4.1.1 Hadoop中的单点故障 54

4.1.2 ZooKeeper组件 54

【任务实施】 55

任务4.2 配置HDFS-HA集群 57

【任务描述】 57

【知识链接】 57

【任务实施】 58

任务4.3 配置HDFS-HA集群自动故障转移 61

【任务描述】 61

【知识链接】 61

4.3.1 自动故障转移机制概述 61

4.3.2 ZKFC 62

【任务实施】 63

任务小结 64

课后习题 65

相关阅读——航天装备的高可用 65

工作任务5

数据清洗 66

任务概述 66

学习目标 66

预备知识——数据清洗概述 66

任务5.1 清洗电影数据 67

【任务描述】 67

【知识链接】 67

5.1.1 MapReduce组件 67

5.1.2 MapReduce编程思想 68

5.1.3 Hadoop序列化 70

【任务实施】 71

任务5.2 数据分区 78

【任务描述】 78

【知识链接】 78

5.2.1 切片与MapTask并行度决定机制 78

5.2.2 MapReduce工作流程 79

【任务实施】 81

任务小结 82

课后习题 82

相关阅读——深度学习开源平台飞桨 83

工作任务6

使用MapReduce统计电影上映情况与排序 84

任务概述 84

学习目标 84

预备知识——数据统计概述 84

任务6.1 统计每部电影上映的次数 85

【任务描述】 85

【任务实施】 85

任务6.2 统计每部电影的上映天数和平均票房 88

【任务描述】 88

【任务实施】 88

任务6.3 按平均票房降序排列 90

【任务描述】 90

【任务实施】 91

任务小结 94

课后习题 94

相关阅读——许宝騄，中国统计学家的先驱 94

工作任务7

数据建仓 96

任务概述 96

学习目标 96

预备知识——数据库与数据仓库 96

任务7.1 安装与配置Hive 97

【任务描述】 97

【知识链接】 97

7.1.1 Hive概述 97

7.1.2 Hive和数据库比较 98

7.1.3 Hive架构原理 99

【任务实施】 101

任务7.2 将元数据迁移到MySQL 101

【任务描述】 101

【任务实施】 102

任务7.3 使用Hive进行数据建仓 104

【任务描述】 104

【知识链接】 104

7.3.1 HQL的数据类型 104

7.3.2 HQL的数据定义语言 106

7.3.3 HQL的数据操作语言 109

【任务实施】 110

任务小结 111

课后习题 111

相关阅读——数据库泄露 111

工作任务8

数据分析 112

任务概述 112

学习目标 112

预备知识——数据分析概述 112

任务8.1 查询某年全年电影数据 113

【任务描述】 113

【知识链接】 113

8.1.1 Hive数据导出 113

8.1.2 Hive查询 113

【任务实施】 120

任务8.2 统计周平均票房 121

【任务描述】 121

【知识链接】 121

【任务实施】 121

任务8.3 统计北京和上海某年一季度票房收入 122

【任务描述】 122

【任务实施】 122

任务小结 127

课后习题 127

相关阅读——诚信意识 127

工作任务9

数据迁移 128

任务概述 128

学习目标 128

预备知识——数据迁移概述 128

任务9.1 安装和配置Sqoop 129

【任务描述】 129

【知识链接】 129

【任务实施】 130

任务9.2 迁移清洗后的电影数据 131

【任务描述】 131

【知识链接】 131

9.2.1 导入数据 131

9.2.2 导出数据 133

【任务实施】 133

任务9.3 迁移日平均票房数据 134

【任务描述】 134

【任务实施】 134

任务9.4 迁移周平均票房数据 135

【任务描述】 135

【任务实施】 135

任务9.5 迁移北京和上海某年一季度票房数据 136

【任务描述】 136

【任务实施】 136

任务小结 137

课后习题 137

相关阅读——删库事件 138

工作任务10

数据可视化 139

任务概述 139

学习目标 139

预备知识——数据可视化概述 139

任务10.1 使用Spring Boot搭建Web系统 140

【任务描述】 140

【任务实施】 140

任务10.2 显示全部电影数据 143

【任务描述】 143

【任务实施】 144

任务10.3 使用柱状图显示电影的日平均票房 146

【任务描述】 146

【任务实施】 146

任务10.4 使用饼图显示电影的周平均票房 150

【任务描述】 150

【任务实施】 150

任务10.5 使用折线图显示北京和上海某年一季度电影票房走势 153

【任务描述】 153

【任务实施】 153

任务小结 157

课后习题 157

相关阅读——中华人民共和国2022年国民经济和社会发展统计公报 158