新書推薦:
《
史铁生:听风八百遍,才知是人间(2)
》
售價:NT$
254.0
《
量子网络的构建与应用
》
售價:NT$
500.0
《
拍电影的热知识:126部影片里的创作技巧(全彩插图版)
》
售價:NT$
500.0
《
大唐名城:长安风华冠天下
》
售價:NT$
398.0
《
情绪传染(当代西方社会心理学名著译丛)
》
售價:NT$
403.0
《
中国年画 1950-1990 THE NEW CHINA: NEW YEAR PICTURE 英文版
》
售價:NT$
1100.0
《
革命与反革命:社会文化视野下的民国政治(近世中国丛书)
》
售價:NT$
435.0
《
画楼:《北洋画报》忆旧(年轮丛书)
》
售價:NT$
1573.0
|
編輯推薦: |
目前市面上已经有很多大数据技术相关书籍,然而大部分书籍是基于理论或基础操作讲解单个技术点,这些书籍虽然可以使初学者掌握单个技术点的基础技能,不过对于多技术点整合使用存在一定局限性,需要读者自己去摸索,并且针对技术点的实际应用方面,欠缺带领读者体验在多技术点融合的基础上实现真实项目的操作与讲解。
作为Spark实训项目的教程,重要且难的一件事情就是将一些复杂、难以理解的思想和问题简单化,让初学者能够轻松理解并快速掌握Spark项目的开发流程。本教材对Spark项目开发过程的每个环节都进行了深入讲解,使读者由浅入深的了解每个环节知识内容。
|
內容簡介: |
本书运用Spark计算框架的核心组件对电商数据进行分析,以项目形式呈现,其内容涵盖环境搭建、数据分析、数据持久化和数据可视化, 涉及JavaEE、ECharts、Hadoop、HBase、Spark、Kafka和ZooKeeper等技术点的综合应用。针对项目开发过程的每个环节都进行了深入讲解,使读者由浅入深地了解每个环节的知识内容。 本书共分为7章。第1章主要介绍项目开发的基本情况;第2章主要介绍大数据集群环境的搭建;第3章主要介绍通过Spark实现热门品类Top10分析,并对分析结果进行持久化操作;第4章主要介绍通过Spark实现各区域热门商品Top3分析,并对分析结果进行持久化操作;第5章主要介绍通过Spark SQL实现网站转化率统计,并对分析结果进行持久化操作;第6章主要介绍通过Spark Streaming实现广告点击流实时统计,并实时持久化统计结果;第7章主要介绍通过可视化技术将第3~6章的分析与统计结果进行图形化展示。 本书配有视频、源代码、教学设计、教学PPT、教学大纲等资源。同时,为了帮助初学者更好地学习书中的内容,还提供了在线答疑,欢迎读者关注。 本书适合拥有Spark基础的读者阅读,也可以作为高等院校相关课程的教学参考书。读者不仅能够通过项目实战巩固基础知识的学习效果,还能学习商业智能系统的开发过程。
|
關於作者: |
江苏传智播客教育科技股份有限公司(简称传智播客)是一家致力于培养高素质软件开发人才的科技公司,“黑马程序员”是传智播客旗下高端IT教育品牌。
|
目錄:
|
第1章项目概述1
1.1项目需求和目标1
1.2预备知识2
1.3项目架构设计及技术选取2
1.4开发环境和开发工具介绍3
1.5项目开发流程4
1.6硬件要求5
1.7本章小结6
第2章搭建大数据集群环境7
2.1安装准备7
2.1.1认识Linux操作系统 7
2.1.2创建虚拟机8
2.1.3启动虚拟机并安装Linux操作
系统14
2.1.4克隆虚拟机22
2.1.5配置Linux操作系统网络及主
机名25
2.1.6SSH配置29
2.1.7配置时间同步36
2.2安装JDK41
2.3ZooKeeper集群部署42
2.3.1ZooKeeper集群的安装与配置…42
2.3.2ZooKeeper集群的启动与关闭…44
2.4Hadoop集群部署46
2.4.1Hadoop高可用集群规划46
2.4.2安装Hadoop47
2.4.3Hadoop高可用集群配置48
2.4.4启动Hadoop高可用集群55
2.5Spark集群部署60
2.5.1Spark集群部署模式60
2.5.2Spark集群安装配置61
2.5.3Spark集群测试62
2.6HBase集群部署64
2.6.1HBase集群规划64
2.6.2HBase集群安装配置65
2.6.3启动HBase集群67
2.7Kafka集群部署69
2.7.1Kafka集群的安装与配置69
2.7.2启动Kafka集群70
2.8本章小结72
第3章热门品类Top10分析73
3.1数据集分析73
3.2实现思路分析74
3.3实现热门品类Top1075
3.3.1创建项目75
3.3.2创建Spark连接并读取数据集81
3.3.3获取业务数据82
3.3.4统计品类的行为类型83
3.3.5过滤品类的行为类型83
3.3.6合并相同品类的行为类型85
3.3.7根据品类的行为类型进行排序85
3.3.8数据持久化87
3.4运行程序92
3.5本章小结97
第4章各区域热门商品Top3分析98
4.1实现思路分析98
4.2实现各区域热门商品Top399
4.2.1创建Spark连接并读取数据集99
4.2.2获取业务数据100
4.2.3过滤商品的行为类型100
4.2.4转换数据格式101
4.2.5统计每个区域中的不同商品101
4.2.6根据区域进行分组102
4.2.7根据区域内商品的查看次数进行排序102
4.2.8数据持久化103
4.3运行程序106
4.4本章小结108
目录Spark项目实战第5章网站转化率统计109
5.1数据集分析109
5.2实现思路分析110
5.3实现网站转化率统计111
5.3.1生成用户浏览网页数据111
5.3.2修改pom.xml文件112
5.3.3创建Spark连接并读取数据集113
5.3.4统计每个页面访问次数114
5.3.5获取每个用户浏览网页的顺序114
5.3.6合并同一用户浏览的网页114
5.3.7统计每个单跳的次数115
5.3.8计算页面单跳转化率116
5.3.9数据持久化117
5.4运行程序118
5.5本章小结121
第6章广告点击流实时统计122
6.1数据集分析122
6.2实现思路分析123
6.3数据库设计124
6.4实现广告点击流实时统计125
6.4.1修改pom.xml文件125
6.4.2生产用户广告点击流数据125
6.4.3创建Spark Streaming连接128
6.4.4读取用户广告点击流数据129
6.4.5获取业务数据129
6.4.6读取黑名单用户数据130
6.4.7过滤黑名单用户131
6.4.8统计每个城市不同广告的点击次数132
6.4.9添加黑名单用户133
6.4.10数据持久化134
6.5运行程序135
6.6本章小结137
第7章数据可视化138
7.1系统概述138
7.1.1技术选取138
7.1.2系统架构139
7.2数据表设计与实现141
7.2.1数据表介绍141
7.2.2Phoenix集成HBase142
7.2.3建立Phoenix与HBase表映射143
7.3创建Spring Boot项目147
7.4实现热门品类Top10数据可视化152
7.4.1创建实体类Top10Entity152
7.4.2创建数据库访问接口Top10Dao153
7.4.3创建控制器类Top10Controller153
7.4.4创建HTML文件top10.html154
7.4.5运行项目实现热门品类Top10数据可视化157
7.5实现各区域热门商品Top3数据可视化160
7.5.1创建实体类Top3Entity160
7.5.2创建数据库访问接口Top3Dao160
7.5.3创建控制器类Top3Controller161
7.5.4创建HTML文件top3.html162
7.5.5运行项目实现各区域热门商品Top3数据可视化164
7.6实现页面单跳转化率数据可视化165
7.6.1创建实体类ConversionEntity165
7.6.2创建数据库访问接口ConversionDao165
7.6.3创建控制器类ConversionController166
7.6.4创建HTML文件conversion.html166
7.6.5运行项目实现页面单跳转化率数据可视化169
7.7实现广告点击流实时统计可视化169
7.7.1创建实体类AdsEntity169
7.7.2创建数据库访问接口AdsDao170
7.7.3创建控制器类AdsController170
7.7.4创建HTML文件ads.html171
7.7.5运行项目实现广告点击流实时统计可视化173
7.8本章小结174
|
內容試閱:
|
大数据是信息化发展的新阶段,随着全球数据储量的不断提高,大数据正进入发展加速时期。近年来,随着5G、AI、云计算、区块链等新一代信息技术的蓬勃发展,大数据技术走向融合发展的关键阶段。同时,我国大数据产业保持良好发展势头,“大数据 行业”渗透融合全面展开,融合生态加速构建,新技术、新业态、新模式不断涌现,政策支持、战略引领、标准规范、产业创新的良性互动局面正在形成。
目前市面上已经有很多大数据技术相关书籍,然而大部分书籍是基于理论或基础操作讲解单个技术点,这些书籍虽然可以使初学者掌握单个技术点的基础技能,不过对于多技术点整合使用存在一定局限性,需要读者自己去摸索,并且针对技术点的实际应用方面,欠缺带领读者体验在多技术点融合的基础上实现真实项目的操作与讲解。
作为Spark实训项目的教程,重要且难的一件事情就是将一些复杂、难以理解的思想和问题简单化,让初学者能够轻松理解并快速掌握Spark项目的开发流程。本书对Spark项目开发过程的每个环节都进行了深入讲解,使读者由浅入深地了解每个环节的知识内容。
本书共分为7章,接下来分别对每章内容进行简单介绍,具体如下。
第1章主要介绍项目开发的基本情况,包括项目需求、项目目标、项目预备知识、项目架构设计、技术选取、开发环境、开发工具、开发流程以及硬件要求。通过本章的学习,读者能够明确项目需求,了解项目开发相关环境以及流程,后续将基于本章介绍的项目情况进行项目的开发。
第2章主要介绍大数据集群环境的搭建,包括Linux虚拟机的安装与配置、ZooKeeper、Hadoop、Spark、HBase和Kafka集群部署,并通过相关技术的基础操作实现集群环境的测试。通过本章的学习,读者可以掌握大数据集群环境搭建技能,同时对相关技术的基础操作有初步了解。
第3章主要介绍实现热门品类Top10分析,本章分为4部分,详细讲解实现热门品类Top10分析。首先对数据集进行分析,使读者明确数据结构,便于后续合理使用数据集中的数据;接着对实现思路进行分析,使读者掌握实现热门品类Top10分析的流程;然后详细讲解如何通过IntelliJ IDEA开发工具编写Spark程序,实现热门品类Top10分析;终将Spark程序提交到大数据集群中,通过Spark on YARN的方式运行Spark程序,并使用HBase数据库存储分析结果。
第4章主要介绍实现各区域热门商品Top3分析,本章分为3部分,详细讲解实现各区域热门商品Top3分析。首先对实现思路进行分析,使读者掌握实现各区域热门商品Top3分析的流程;然后详细讲解如何通过IntelliJ IDEA开发工具编写Spark程序,实现各区域热门商品Top3分析;终将Spark程序提交到大数据集群中,通过Spark on YARN的方式运行Spark程序,并使用HBase数据库存储分析结果。
第5章主要介绍实现网站转化率统计,本章分为4部分,详细讲解实现网站转化率统计。首先对数据集进行分析,使读者明确数据结构,便于后续合理使用数据集中的数据;接着对实现思路进行分析,使读者掌握实现网站转化率统计的流程;然后详细讲解如何通过IntelliJ IDEA开发工具编写Spark SQL程序,实现网站转化率统计;终将Spark SQL程序提交到大数据集群中,通过Spark on YARN的方式运行Spark SQL程序,并使用HBase数据库存储分析结果。
第6章主要介绍广告点击流实时统计。首先对数据集进行分析,使读者明确数据结构,便于后续合理使用数据集中的数据;接着对实现思路进行分析,使读者掌握实现广告点击流实时统计的流程;然后详细讲解通过IntelliJ IDEA开发工具编写Kafka生产者程序生产用户广告点击流数据;终详细讲解通过IntelliJ IDEA开发工具编写Spark Streaming程序,实现广告点击流实时统计,并使用HBase数据库存储分析结果。
第7章主要介绍数据可视化。首先对实现可视化的技术以及系统架构进行详细讲解,使读者对实现数据可视化有初步认知;接着集成Phoenix与HBase实现将HBase中的数据映射到Phoenix,通过JDBC连接Phoenix获取分析结果;然后讲解了如何创建和配置Spring Boot项目。后,在Spring Boot项目中编写相关类、接口以及HTML页面实现热门品类Top10、各区域热门商品Top3、页面单跳转化率统计以及广告点击流实时统计的可视化。通过本章的学习,读者应掌握Phoenix的使用,以及如何通过Spring Boot项目实现数据可视化展示。
致谢
本书的编写和整理工作由江苏传智播客教育科技股份有限公司教材研发中心完成,主要参与人员有高美云、张明强、李丹等,全体人员在这近一年的编写过程中付出了许多辛勤的汗水。除此之外,还有传智播客的600多名学员参与了书稿的试读,他们站在初学者的角度对本书提出了许多宝贵的修改意见,在此一并表示衷心的感谢。
意见反馈
尽管我们尽了的努力,但书中难免会有不妥之处,欢迎各界专家和读者朋友来函给予宝贵意见,我们将不胜感激。您在阅读本书时,如果发现任何问题或有不认同之处可以通过电子邮件与我们取得联系。
请发送电子邮件至:itcast_book@vip.sina.com。
江苏传智播客教育科技股份有限公司教材研发中心2021年1月于北京
|
|