課程描述INTRODUCTION
Hadoop大數(shù)據(jù)開發(fā)培訓(xùn)課程
日程安排SCHEDULE
課程大綱Syllabus
Hadoop大數(shù)據(jù)開發(fā)培訓(xùn)課程
模塊一
移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算相關(guān)技術(shù)介紹
1、數(shù)據(jù)中心與云計(jì)算技術(shù)應(yīng)用
2、智慧城市與云計(jì)算技術(shù)應(yīng)用
3、移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)與云計(jì)算關(guān)聯(lián)技術(shù)
4、移動(dòng)云計(jì)算的生態(tài)系統(tǒng)及產(chǎn)業(yè)鏈
5、大數(shù)據(jù)技術(shù)在運(yùn)營商、金融業(yè)、銀行業(yè)、電子商務(wù)行業(yè)、零售業(yè)、制造業(yè)、政務(wù)信息化、互聯(lián)網(wǎng)、教育信息化等行業(yè)中的應(yīng)用實(shí)踐
6、國內(nèi)外主流的大數(shù)據(jù)解決方案介紹
7、當(dāng)前大數(shù)據(jù)解決方案與傳統(tǒng)數(shù)據(jù)庫方案的剖析比較
8、Coudera Hadoop 大數(shù)據(jù)平臺(tái)方案剖析
9、開源的大數(shù)據(jù)生態(tài)系統(tǒng)平臺(tái)剖析
模塊二
大數(shù)據(jù)的挑戰(zhàn)和發(fā)展方向
1、大數(shù)據(jù)時(shí)代的挑戰(zhàn)
戰(zhàn)略決策能力
技術(shù)開發(fā)和數(shù)據(jù)處理能力
組織和運(yùn)營能力
2、大數(shù)據(jù)時(shí)代的發(fā)展方向
云計(jì)算是基礎(chǔ)設(shè)施架構(gòu)
大數(shù)據(jù)是靈魂資產(chǎn)
分析、挖掘是手段
發(fā)現(xiàn)和預(yù)測是最終目標(biāo)
3、大數(shù)據(jù)挖掘在各行業(yè)應(yīng)用情況
電信行業(yè)應(yīng)用及案例分析
互聯(lián)網(wǎng)行業(yè)應(yīng)用及案例分析
金融行業(yè)應(yīng)用及案例研究
銷售行業(yè)應(yīng)用案例分析
模塊三
大數(shù)據(jù)文件存儲(chǔ)系統(tǒng)技術(shù)和分布式文件系統(tǒng)平臺(tái)及其應(yīng)用
1、Hadoop的發(fā)展歷程
Hadoop大數(shù)據(jù)平臺(tái)架構(gòu)
基于Hadoop平臺(tái)的PB級(jí)大數(shù)據(jù)存儲(chǔ)管理與分析處理的工作原理與機(jī)制
Hadoop 的核心組件剖析
2、分布式文件系統(tǒng)HDFS
概述、功能、作用、優(yōu)勢
應(yīng)用范疇、應(yīng)用現(xiàn)狀
發(fā)展趨勢
3、分布式文件系統(tǒng)HDFS架構(gòu)及原理
核心關(guān)鍵技術(shù)
設(shè)計(jì)精髓
基本工作原理
系統(tǒng)架構(gòu)
文件存儲(chǔ)模式
工作機(jī)制
存儲(chǔ)擴(kuò)容與吞吐性能擴(kuò)展
4、分布式文件系統(tǒng)HDFS操作
SHE命令操作
I/O流式操作
文件數(shù)據(jù)讀取、寫入、追加、刪除
文件狀態(tài)查詢
數(shù)據(jù)塊分布機(jī)制
數(shù)據(jù)同步與一致性
元數(shù)據(jù)管理技術(shù)
主節(jié)點(diǎn)與從節(jié)點(diǎn)工作機(jī)制
大數(shù)據(jù)負(fù)載均衡技術(shù)
HDFS大數(shù)據(jù)存儲(chǔ)集群管理技術(shù)
5、Hadoop生態(tài)系統(tǒng)組件
Storm
HDFS
MapReduce
HIVE
Hbase
Spark
GraphX
Mib
Shark
模塊四
Hadoop文件系統(tǒng)HDFS*實(shí)戰(zhàn)
1、HDFS的設(shè)計(jì)
2、HDFS的概念
數(shù)據(jù)塊
namenode和datanode
聯(lián)邦HDFS
HDFS的高可用性
3、命令行接口
4、Hadoop文件系統(tǒng)
5、Java接口
從Hadoop UR讀取數(shù)據(jù)
通過FieSystem API讀取數(shù)據(jù)
寫入數(shù)據(jù)
目錄
查詢文件系統(tǒng)
刪除數(shù)據(jù)
6、數(shù)據(jù)流
剖析文件讀取
剖析文件寫入
一致模型
7、通過Fume和Sqoop導(dǎo)入數(shù)據(jù)
8、通過distcp并行復(fù)制
9、Hadoop存檔
使用Hadoop存檔工具
不足
模塊五
Hadoop運(yùn)維管理與性能調(diào)優(yōu)
1、第二代大數(shù)據(jù)處理框架
Yarn的工作原理及
DAG并行執(zhí)行機(jī)制
Yarn大數(shù)據(jù)分析處理案例分析
Yarn 框架并行應(yīng)用程序?qū)嵺`
2、集群配置管理
Hadoop集群配置
Hadoop性能調(diào)優(yōu)與參數(shù)配置
Hadoop機(jī)架感知策略與配置
Hadoop壓縮機(jī)制
Hadoop任務(wù)負(fù)載均衡
Hadoop 集群維護(hù)
Hadoop監(jiān)控管理
3、HDFS的靜態(tài)調(diào)優(yōu)技巧
HDFS 的高吞吐量I/O性能調(diào)優(yōu)技巧
MapReduce/Yarn的并行處理性能調(diào)優(yōu)技巧
Hadoop集群的運(yùn)行故障剖析,以及解決方案
基于Hadoop大數(shù)據(jù)應(yīng)用程序的性能瓶頸剖析與提
Hadoop 大數(shù)據(jù)運(yùn)維監(jiān)控管理系統(tǒng) HUE 平臺(tái)的安裝部署與應(yīng)用配置
Hadoop運(yùn)維管理監(jiān)控系統(tǒng)Ambari平臺(tái)的安裝部配置
Hadoop 集群運(yùn)維系統(tǒng) Gangia, Nagios的安裝部署與應(yīng)用配置
模塊六
*SQ數(shù)據(jù)庫Hbase與Redis
1、*SQ基礎(chǔ)
CAP理論
base與ACID
*SQ數(shù)據(jù)庫存儲(chǔ)類型
鍵值存儲(chǔ)
列存儲(chǔ)
文檔存儲(chǔ)
圖形存儲(chǔ)
2、Hbase分布式數(shù)據(jù)基礎(chǔ)
3、安裝Hbase
4、Hbase應(yīng)用
Hbase的邏輯數(shù)據(jù)模型,Hbase的表、行、列族、列、單元格、版本、row key排序
Hbase的物理模型,命名空間(表空間)、表模式(Schema)的設(shè)計(jì)法則
Hbase 主節(jié)點(diǎn)HMaster的工作原理,HMaster的高可用配置,以及性能調(diào)優(yōu)
Hbase 從節(jié)點(diǎn)RegionServer(分區(qū)服務(wù)節(jié)點(diǎn))的工作原理,表分區(qū)及存儲(chǔ)I/O高并發(fā)配置,以及性能調(diào)優(yōu)
Hbase的存儲(chǔ)引擎工作原理,以及Hbase表數(shù)據(jù)的鍵值存儲(chǔ)結(jié)構(gòu),以及HFie存儲(chǔ)結(jié)構(gòu)剖析
Hbase表設(shè)計(jì)與數(shù)據(jù)操作以及數(shù)據(jù)庫管理操作
Hbase集群的安裝部署、參數(shù)配置和性能優(yōu)化
5、Hbase分布式數(shù)據(jù)庫簡介、發(fā)展歷程、應(yīng)用場景、工作原理、以及應(yīng)用優(yōu)勢與不足之處
Hbase分布式數(shù)據(jù)庫集群的主從式平臺(tái)架構(gòu)和關(guān)鍵技術(shù)剖析
Hbase偽分布式和物理集群分布式的控制與運(yùn)行配置
Hbase從節(jié)點(diǎn)RegionServer(分區(qū)服務(wù)節(jié)點(diǎn))的工作原理,表分區(qū)及存儲(chǔ)I/O高并發(fā)配置,以及性能調(diào)優(yōu)
Hbase的存儲(chǔ)引擎工作原理,以及Hbase表數(shù)據(jù)的鍵值存儲(chǔ)結(jié)構(gòu),以及HFie存儲(chǔ)結(jié)構(gòu)剖析
Hbase表設(shè)計(jì)與數(shù)據(jù)操作以及數(shù)據(jù)庫管理操作
Hbase集群的安裝部署、參數(shù)配置和性能優(yōu)化
ZooKeeper分布式協(xié)調(diào)服務(wù)系統(tǒng)的工作原理、平臺(tái)架構(gòu)、集群部署應(yīng)用實(shí)戰(zhàn)
ZooKeeper集群的原理架構(gòu),以及應(yīng)用配置
6、Redis內(nèi)存數(shù)據(jù)庫介紹,以及業(yè)界應(yīng)用案例
Redis內(nèi)存數(shù)據(jù)庫集群架構(gòu)以及核心技術(shù)剖析
Redis 集群的安裝部署與應(yīng)用開發(fā)實(shí)戰(zhàn)
模塊七
類SQ語句工具——Hive
1、安裝Hive
2、示例
3、運(yùn)行Hive
配置Hive
Hive服務(wù)
metastore
4、Hive與傳統(tǒng)數(shù)據(jù)庫相比
讀時(shí)模式vs.寫時(shí)模式
更新、事務(wù)和索引
5、HiveQ
數(shù)據(jù)類型
操作與函數(shù)
6、表
托管表和外部表
分區(qū)和桶
存儲(chǔ)格式
導(dǎo)入數(shù)據(jù)
表的修改
表的丟棄
7、查詢數(shù)據(jù)
排序和聚集
MapReduce腳本
連接
子查詢
視圖
8、用戶定義函數(shù)
寫UDF
寫UDAF
模塊八
數(shù)據(jù)挖掘SPARK建模基礎(chǔ)介紹
1、Spark簡介
Spark是什么
Spark生態(tài)系統(tǒng)BDAS
2、Spark架構(gòu)
Spark分布式架構(gòu)與單機(jī)多核架構(gòu)的異同
3、Spark集群的安裝與部署
Spark的安裝與部署
Spark集群初試
4、Spark硬件配置
Spark硬件
Spark硬件配置流程
模塊九
Kafka基礎(chǔ)介紹
1、Kafka介紹
2、kafka體系結(jié)構(gòu)
3、kafka設(shè)計(jì)理念簡介
4、kafka通信協(xié)議
5、kafka的偽分布安裝、集群安裝
6、kafka的she操作、java操作
7、kafka設(shè)計(jì)理念*
8、kafka producer和consumer開發(fā)
9、Kafka分布式消息訂閱系統(tǒng)的應(yīng)用介紹、平臺(tái)架構(gòu)、集群部署與配置應(yīng)用實(shí)戰(zhàn)
10、Fume-NG數(shù)據(jù)采集系統(tǒng)的數(shù)據(jù)流模型、平臺(tái)架構(gòu)、集群部署與配置應(yīng)用實(shí)戰(zhàn)
11、Hadoop與DBMS之間數(shù)據(jù)交互工具Sqoop的應(yīng)用實(shí)踐,
12、Sqoop導(dǎo)入導(dǎo)出數(shù)據(jù)以及Sqoop集群部署與配置
13、Kette 集群的平臺(tái)架構(gòu)、核心技術(shù)、部署配置和應(yīng)用實(shí)戰(zhàn)
14、利用Sqoop實(shí)現(xiàn) MySQ 與 Hadoop 集群之間
模塊十
大數(shù)據(jù)典型應(yīng)用與開發(fā)案例分析:互聯(lián)網(wǎng)數(shù)據(jù)運(yùn)營
1、案例1:貴州數(shù)據(jù)交易中心
交易所交易形式:電子交易
交易所服務(wù):大數(shù)據(jù)交易、大數(shù)據(jù)清洗建模分析、大數(shù)據(jù)定向采購、大數(shù)據(jù)平臺(tái)技術(shù)開發(fā)
大數(shù)據(jù)交易安全性探討分析
數(shù)據(jù)交易中心商業(yè)模式探討分析
2、案例2:大數(shù)據(jù)應(yīng)用案例:公共交通線路的智能規(guī)劃
UrbanInsights:為公交公司提供基于訂閱訪問的大數(shù)據(jù)工具以及大數(shù)據(jù)咨詢服務(wù)
Urban Insights數(shù)據(jù)源、數(shù)據(jù)收集、數(shù)據(jù)倉庫、數(shù)據(jù)分析——設(shè)計(jì)運(yùn)營線路
Urban Insights通過互聯(lián)網(wǎng)數(shù)據(jù)的運(yùn)營
3、討論:浙江移動(dòng)大數(shù)據(jù)應(yīng)用與開發(fā)方向
模塊十一
當(dāng)前數(shù)據(jù)中心的改造和轉(zhuǎn)換分析-以國內(nèi)外運(yùn)營商、互聯(lián)網(wǎng)公司為例
1、流商業(yè)大數(shù)據(jù)解決方案比較
2、主流開源云計(jì)算系統(tǒng)比較
3、國內(nèi)外代表性大數(shù)據(jù)平臺(tái)比較
4、各廠商*的大數(shù)據(jù)產(chǎn)品介紹
5、案例分析
Facebook的SNS平臺(tái)應(yīng)用
Googe的搜索引擎應(yīng)用
Rackspace的日志處理
Verizon成立精準(zhǔn)市場營銷部
TeefonicaDynamicInsights推出的名為“智慧足跡”的商業(yè)服務(wù)
中國聯(lián)通的“移動(dòng)通信用戶上網(wǎng)記錄集中查詢與分析支撐系統(tǒng)”
Hadoop大數(shù)據(jù)開發(fā)培訓(xùn)課程
轉(zhuǎn)載:http://szsxbj.com/gkk_detail/39515.html
已開課時(shí)間Have start time
大數(shù)據(jù)課程內(nèi)訓(xùn)
- 數(shù)字媒體和數(shù)字教學(xué) 鐘理勇
- 數(shù)字金融與智能金融下的智慧 盧森煌
- 企業(yè)區(qū)塊鏈技術(shù)的應(yīng)用場景與 李璐
- 《小紅書運(yùn)營策劃與執(zhí)行》 黃光偉
- 商業(yè)銀行數(shù)據(jù)治理體系建設(shè)實(shí) 馬慶
- 《零售行業(yè)社群團(tuán)購運(yùn)營》 陳蕊
- 《企業(yè)數(shù)據(jù)管理與數(shù)據(jù)資產(chǎn)化 張光利
- 數(shù)字化轉(zhuǎn)型與新質(zhì)生產(chǎn)力 盧森煌
- 大數(shù)據(jù)時(shí)代下服務(wù)營銷新思維 秦超
- 數(shù)字經(jīng)濟(jì)基礎(chǔ)和企業(yè)數(shù)字化轉(zhuǎn) 盧森煌
- 管理者數(shù)據(jù)能力晉級(jí) 宋致旸
- 大數(shù)據(jù)行業(yè)的現(xiàn)狀與熱點(diǎn) 徐全