TA的每日心情 | 开心 2024-9-19 21:14 |
---|
签到天数: 757 天 [LV.10]以坛为家III
管理员
- 积分
- 1312677
|
资源详情
A0443《新手入门大数据Hadoop基础与电商行为日志分析视频教程》本课程从Hadoop核心技术入手,以电商项目为依托,带领你从0基础开始上手,逐步掌握大数据核心技术(如:HDFS、YARN、MapReduce以及Hive),并使用这些技术进行实战,最终完成电商行为日志分析项目,让你轻松入门大数据!
Java视频教程目录:
第1章大数据概述
本章将从故事说起,让大家明白大数据是与我们的生活息息相关的,并不是遥不可及的,还会介绍大数据的特性,以及大数据对我们带来的技术变革,大数据处理过程中涉及到的技术以及大数据典型应用。
1-1课程导学试看
1-2***学前必读***(助你平稳踩坑,畅学无忧,课程学习与解决问题指南)
1-3课程目录
1-4从一个案例说起
1-5什么是大数据以及大数据的4V特征试看
1-6大数据带来的技术变革
1-7大数据现存的模式
1-8大数据的技术概念
1-9大数据带来的挑战
1-10如何对大数据进行存储和分析
1-11大数据典型应用
第2章初识Hadoop
本章节将带领大家认识Hadoop以及Hadoop生态系统、Hadoop的发展史、Hadoop的优势、Hadoop的三个核心组件、Hadoop发行版的选择,为后续深入讲解Hadoop打下坚实的基础。
2-1课程目录
2-2Hadoop概述
2-3Hadoop核心组件之HDFS概述
2-4Hadoop核心组件之MapReduce
2-5Hadoop核心组件之YARN
2-6Hadoop优势
2-7Hadoop发展史
2-8Hadoop生态圈
2-9Hadoop发行版选型
2-10OOTB环境的使用
第3章分布式文件系统HDFS
本章将从Hadoop的设计目标、架构及文件系统命令空间出发,快速搭建单节点伪分布式HDFS的实验环境,通过讲解使用hdfs
shell以及JavaAPI的方式操作HDFS文件系统,详细分析HDFS文件的读写流程,并通过HDFS
API来实现词频统计案例,使得大家对Hadoop分布式文件系统HDFS有深刻的认识以及实战。…
2V U!?*X*K6M3k’m/s
3-1HDFS概述
3-2HDFS设计目标
3-3HDFS架构详解
3-4文件系统NameSpace详解
3-5HDFS副本机制
3-6本课程使用的Linux环境介绍
3-7Hadoop部署前置介绍
3-8JDK1.8部署详解
3-9ssh无密码登陆部署详解
3-10Hadoop安装目录详解及hadoop-env配置
3-11HDFS格式化以及启动详解
3-12HDFS常见文件之防火墙干扰
3-13Hadoop停止集群以及如何单个进程启动
3-14Hadoop命令行操作详解
3-15深度剖析Hadoop文件的存储机制
3-16HDFSAPI编程之开发环境搭建
3-17HDFSAPI编程之第一个应用程序的开发
3-18HDFSAPI编程之jUnit封装
3-19HDFSAPI编程之查看HDFS文件内容
3-20HDFSAPI编程之创建文件并写入内容
3-21HDFSAPI编程之副本系数深度剖析
3-22HDFSAPI编程之重命名
3-23HDFSAPI编程之copyFromLocalFile
3-24HDFSAPI编程之带进度的上传大文件
3-25HDFSAPI编程之下载文件
3-26HDFSAPI编程之列出文件夹下的所有内容
3-27HDFSAPI编程之递归列出文件夹下的所有文件
3-28HDFSAPI编程之查看文件块信息
3-29HDFSAPI编程之删除文件
3-30HDFS项目实战之需求分析
3-31HDFS项目实战之代码框架编写
3-32HDFS项目实战之自定义上下文
3-33HDFS项目实战之自定义处理类实现
3-34HDFS项目实战之功能实现
3-35HDFS项目实战之使用自定义配置文件重构代码
3-36HDFS项目实战之使用反射创建自定义Mapper对象
3-37HDFS项目实战之可插拔的业务逻辑处理
3-38HDFSReplicaPlacementPolicy
3-39HDFS写数据流程图解
3-40HDFS读数据流程图解
3-41HDFSCheckpoint详解
3-42HDFSSaveMode
第4章分布式计算框架MapReduce
本章将从架构、编程模型等角度带大家认识Hadoop的分布式计算框架MapReduce,掌握MapReduce各个核心组件编程,并通过两个案例让大家深入掌握MapReduce编程的方方面面。
4-1课程目录
4-2MapReduce概述
4-3MapReduce编程模型详解
4-4MapReduce编程模型核心概念详解
4-5词频统计之自定义Mapper实现
4-6词频统计之自定义Reducer实现
4-7词频统计之自定义Driver类实现
4-8词频统计之本地方式运行
4-9词频统计之通过Debug方式进一步了解偏移量以及重构代码
4-10词频统计升级之Combiner操作试看
4-11流量统计实战之需求
4-12流量统计实战之自定义复杂数据类型
4-13流量统计实战之自定义Mapper类
4-14流量统计实战之自定义Reducer实现
4-15流量统计实战之Driver开发
4-16流量统计实战之代码重构及NullWritable的使用
4-17流量统计实战升级之自定义Partitioner
第5章资源调度框架YARN
本章将从YARN的产生背景、YARN的架构及执行流程的角度带大家认知Hadoop的资源调度框架YARN,快速搭建单节点伪分布式YARN的实验环境并掌握如何提交MapReduce作业提交到YARN上运行。
5-1课程目录
5-2YARN产生背景
5-3YARN概述
5-4YARN架构详解
5-5YARN执行流程
5-6YARN环境部署
5-7提交example案例到YARN上运行
5-8提交流量统计案例到YARN上运行
第6章电商项目实战Hadoop实现
本章将通过电商用户行为日志分析的项目实战,来将前面几个章节讲解的知识点串联起来,综合使用Hadoop的技术进行离线统计分析。
6-1课程目录
6-2用户行为日志概述
6-3为什么要记录用户行为日志
6-4日志内容介绍
6-5用户行为日志分析的意义所在
6-6电商常用术语
6-7项目需求描述
6-8数据处理流程及技术架构
6-9浏览量统计功能实现
6-10省份浏览量统计之IP库解析
6-11省份浏览量统计之日志解析
6-12省份浏览量统计之功能实现
6-13页面浏览量统计之页面编号获取
6-14页面浏览量统计之功能实现
6-15数据处理过程中ETL的重要性
6-16原始日志ETL操作
6-17浏览量统计功能升级
6-18省份浏览量统计功能升级
6-19页面浏览量统计功能升级思路
6-20打包到服务器上运行
6-21项目扩展
第7章数据仓库Hive
本章将从Hive的产生背景、体系架构、Hive部署、DDL以及DML来掌握Hive使用的方方面面。
4~1r7]6| k3^ r
7-1课程目录
7-2Hive产生背景
7-3Hive是什么
7-4为什么要使用Hive
7-5Hive在Hadoop生态圈中的位置
7-6Hive体系架构
7-7Hive部署架构
7-8Hive与RDBMS的区别
7-9Hive部署
7-10Hive快速入门
7-11HiveDDL之数据库操作
7-12HiveDDL之表操作
7-13HiveDML之加载和导出数据
7-14HiveQL基本统计
7-15HiveQL之聚合函数
7-16HiveQL之分组函数
7-17HiveQL之join的使用
7-18HiveQL执行计划
第8章电商项目实战Hive实现
本章将使用Hive对电商用户行为日志分析进行重新实现,让大家对MapReduce编程和Hive实现的方式进行对比,体会Hive在生产上使用的便捷性。
8-1课程目录
8-2外部表在Hive中的使用
8-3track_info分区表的创建
8-4将ETL的数据加载到Hive表
8-5使用Hive完成统计分析功能
8-6Hive实现项目的方便性体现
第9章Hadoop分布式集群搭建
本章将带领大家搭建一个三个节点的分布式Hadoop集群环境,让大家对于Hadoop集群的安装有更深入的认识,并将项目实战案例运行在分布式集群环境中。
”m9`’?*o1f9H3R:X
9-1课程目录
9-2Hadoop集群规划
9-3前置条件安装
9-4JDK安装
9-5Hadoop集群部署
9-6提交作业到Hadoop集群上运行
9-7课程总结
第10章(彩蛋番外篇)Join在MapReduce中的实现
本章将从SQL中的join入手,详细剖析如何在MapReduce中实现JOIN,这是面试中经常被考察到的点,考察你的MapReduce功底以及优化策略。
!j#N$Y;~;t.R)t$z&c
10-1Join概述
10-2ReduceJoin流程分析
10-3ReduceJoin功能实现
10-4MapJoin实现原理
10-5MapJoin功能实现
|
|