【现货直发】高性能分布式计算系统开发与实现：基于HadoopScaldi

目　　录

译者序

前言

作者简介

第一部分　高性能分布式计算编程基础

第1章　引言2

1.1　分布式系统2

1.2　分布式系统类型5

1.2.1　分布式嵌入式系统5

1.2.2　分布式信息系统7

1.2.3　分布式计算系统8

1.3　分布式计算架构9

1.4　分布式文件系统10

1.4.1　分布式文件系统需求10

1.4.2　分布式文件系统架构11

1.5　分布式系统面临的挑战13

1.6　分布式系统的发展趋势16

1.7　高性能分布式计算系统示例18

参考文献20

第2章　Hadoop入门22

2.1　Hadoop简介22

2.2　Hadoop生态系统24

2.3　Hadoop分布式文件系统26

2.3.1　HDFS的特性26

2.3.2　名称节点和数据节点27

2.3.3　文件系统28

2.3.4　数据复制28

2.3.5　通信30

2.3.6　数据组织30

2.4　MapReduce准备工作31

2.5　安装前的准备33

2.6　单节点集群的安装35

2.7　多节点集群的安装38

2.8　Hadoop编程45

2.9　Hadoop流48

参考文献51

第3章　Spark入门53

3.1　Spark简介53

3.2　Spark内部结构54

3.3　Spark安装58

3.3.1　安装前的准备58

3.3.2　开始使用60

3.3.3　示例：Scala应用63

3.3.4　Python下Spark的使用65

3.3.5　示例：Python应用67

3.4　Spark部署68

3.4.1　应用提交68

3.4.2　单机模式70

参考文献72

第4章　Scalding和Spark的内部编程74

4.1　Scalding简介74

4.1.1　安装74

4.1.2　编程指南77

4.2　Spark编程指南103

参考文献120

第二部分　使用Hadoop、Scalding和Spark的案例研究

第5章　案例研究Ⅰ：使用Scalding和Spark进行数据聚类122

5.1　简介122

5.2　聚类122

5.2.1　聚类方法123

5.2.2　聚类处理125

5.2.3　K均值算法125

5.2.4　简单的K均值示例126

5.3　实现128

问题142

参考文献142

第6章　案例研究Ⅱ：使用Scalding和Spark进行数据分类144

6.1　分类145

6.2　概率论146

6.2.1　随机变量146

6.2.2　分布146

6.2.3　均值和方差147

6.3　朴素贝叶斯148

6.3.1　概率模型148

6.3.2　参数估计和事件模型149

6.3.3　示例150

6.4　朴素贝叶斯分类器的实现152

6.4.1　Scalding实现153

6.4.2　结果166

问题168

参考文献168

第7章　案例研究Ⅲ：使用Scalding和Spark进行回归分析169

7.1　回归分析的步骤169

7.2　实现细节172

7.2.1　线性回归：代数方法173

7.2.2　代数方法的Scalding实现174

7.2.3　代数方法的Spark实现179

7.2.4　线性回归：梯度下降法184

7.2.5　梯度下降法的Scalding实现187

7.2.6　梯度下降法的Spark实现195

问题198

参考文献199

第8章　案例研究Ⅳ：使用Scalding和Spark实现推荐系统200

8.1　推荐系统200

8.1.1　目标201

8.1.2　推荐系统的数据源201

8.1.3　推荐系统中使用的技术202

8.2　实现细节204

8.2.1　Spark实现206

8.2.2　Scalding实现221

问题230

参考文献230

索引233

作者介绍