大數(shù)據(jù)分析(Hadoop)與云計(jì)算實(shí)踐培訓(xùn)班的通知
講師:錢興會(huì) 朱永春 瀏覽次數(shù):2629
課程描述INTRODUCTION
大數(shù)據(jù)與云計(jì)算培訓(xùn)
培訓(xùn)講師:錢興會(huì) 朱永春
課程價(jià)格:¥元/人
培訓(xùn)天數(shù):5天
日程安排SCHEDULE
課程大綱Syllabus
大數(shù)據(jù)與云計(jì)算培訓(xùn)
一、課程目標(biāo)
二、培訓(xùn)師資
錢興會(huì) 大數(shù)據(jù)專家。在電信、電力、金融行業(yè)從事Java開發(fā)和架構(gòu)設(shè)計(jì)的工作;資深云計(jì)算研發(fā)工程師。作為項(xiàng)目的主要成員和負(fù)責(zé)人參與并領(lǐng)導(dǎo)完成了多個(gè)大型復(fù)雜項(xiàng)目,并成功應(yīng)用于行業(yè)解決方案,如海量數(shù)據(jù)匹配系統(tǒng)、電力行業(yè)實(shí)時(shí)數(shù)據(jù)采集分析系統(tǒng)等。設(shè)計(jì)并實(shí)現(xiàn)了實(shí)時(shí)索引系統(tǒng)-云搜,成功應(yīng)用與某國企知識(shí)庫系統(tǒng)。并可應(yīng)用與互聯(lián)網(wǎng)行業(yè)的搜索等應(yīng)用。完成多個(gè)云計(jì)算解決方案的架構(gòu),涉及到金融韓行業(yè)海量數(shù)據(jù)分析與數(shù)據(jù)處理系統(tǒng)、海量日志分析系統(tǒng)、電力用電信息統(tǒng)計(jì)系統(tǒng)等,獲得業(yè)界認(rèn)可。朱永春 十余年IT行業(yè)經(jīng)驗(yàn),IBM企業(yè)數(shù)據(jù)分析與大數(shù)據(jù)專家,數(shù)據(jù)中心系統(tǒng)架構(gòu)設(shè)計(jì),性能管理與容量評(píng)估專家,主要專業(yè)特長(zhǎng)包括基礎(chǔ)架構(gòu)云平臺(tái)設(shè)計(jì)、服務(wù)器及存儲(chǔ)虛擬化、數(shù)據(jù)庫優(yōu)化、性能管理、容量評(píng)估等領(lǐng)域。具有豐富的教學(xué)和實(shí)踐經(jīng)驗(yàn),對(duì)IT職業(yè)培訓(xùn)有深刻的理解。曾參與多家大型銀行系統(tǒng)架構(gòu)設(shè)計(jì),在高可用性高性能大容量系統(tǒng)領(lǐng)域的虛擬化和大數(shù)據(jù)處理有深入的研究,能夠結(jié)合實(shí)際,在復(fù)雜的應(yīng)用環(huán)境中選擇適合的分析技術(shù)來降低運(yùn)維風(fēng)險(xiǎn)、縮短停機(jī)時(shí)間、提高系統(tǒng)及數(shù)據(jù)庫性能。多次全國巡講。授課過程理論與實(shí)踐并重,深入淺出,講課詼諧幽默、氣氛活躍,深受廣大學(xué)員好評(píng)。
三、學(xué)習(xí)對(duì)象
軟件工程師、數(shù)據(jù)庫開發(fā)人員、網(wǎng)絡(luò)后臺(tái)開發(fā)人員、運(yùn)維人員;地方政府云計(jì)算物聯(lián)網(wǎng)產(chǎn)業(yè)負(fù)責(zé)人;各地云計(jì)算中心負(fù)責(zé)人;云計(jì)算物聯(lián)網(wǎng)產(chǎn)業(yè)規(guī)劃負(fù)責(zé)人;云計(jì)算產(chǎn)業(yè)投資團(tuán)隊(duì);云計(jì)算應(yīng)用開發(fā)商;云計(jì)算硬件設(shè)備提供商;云服務(wù)運(yùn)營服務(wù)提供商;高校、科研院所云計(jì)算項(xiàng)目負(fù)責(zé)人。
四、課程大綱
(第一專題:大數(shù)據(jù)分析與Hadoop開發(fā))
第一天
第1個(gè)主題:Hadoop的來源和動(dòng)機(jī)
1.傳統(tǒng)大規(guī)模系統(tǒng)存在的問題
2.對(duì)一種新的解決方案的需求
3.Hadoop應(yīng)用案例解析
4.Hadoop 版本介紹
5.Hadoop與傳統(tǒng)分布式環(huán)境的區(qū)別
第2個(gè)主題:Hadoop安裝和部署準(zhǔn)備
1. Hadoop系統(tǒng)模塊組件概述
2. Hadoop試驗(yàn)集群的部署結(jié)構(gòu)
3. Hadoop 安裝依賴關(guān)系
4. Hadoop 生產(chǎn)環(huán)境的部署結(jié)構(gòu)
第3個(gè)主題:Hadoop集群安裝和部署
第4個(gè)主題:Hadoop組件詳解
1. Hadoop HDFS 基本結(jié)構(gòu)
2. Hadoop HDFS 副本存放策略
3. Hadoop NameNode 詳解
4. Hadoop SecondaryNameNode 詳解
5. Hadoop DataNode 詳解
6. Hadoop JobTracker 詳解
7. API 使用Eclipse進(jìn)行快速開發(fā)
8. 新MapReduce API
第5個(gè)主題:Hadoop 核心代碼剖析
1.Hadoop Mapper 類核心代碼剖析
2.Hadoop Reducer 類核心代碼剖析
第6個(gè)主題:HDFS分布式文件系統(tǒng)編程
1.Hadoop HDFS 剖析
2.Hadoop NameNode 剖析
3.Hadoop DataNode 剖析
4.hadoop I/O 操作
5.使用Hadoop HDFS API對(duì)HDFS編程
第二天
第1個(gè)主題:Hadoop MapReduce
1.Hadoop JobTracker 剖析
2.Hadoop TaskTracker 剖析
3.Hadoop 任務(wù)提交流程剖析
第2個(gè)主題: Hadoop MapReduce Streaming編程
1.Hadoop Streaming 和 Java MapReduce Api 差異
2.使用 MapReduce 實(shí)現(xiàn)數(shù)據(jù)庫功能
第3個(gè)主題:MapReduce分布式程序
1.MapReduce流程
2.剖析一個(gè)MapReduce程序
3.基本MapReduceAPI 概念
4.驅(qū)動(dòng)代碼
第4個(gè)主題:Hadoop Mapreduce高級(jí)編程
1.ToolRunner介紹
2.使用MRUnit進(jìn)行測(cè)試
3.利用Combiners來減少中間數(shù)據(jù)
4.使用Configure和Close方法來進(jìn)行Map/Reduce設(shè)置和關(guān)閉
5.編寫Partitioner來優(yōu)化負(fù)載平衡
6.直接訪問Hadoop分布式文件系統(tǒng)(HDFS)
7.使用分布式緩存(Distributed Cache)
第5個(gè)主題:MapReduce的優(yōu)化
1.map優(yōu)化
2.reduce優(yōu)化
3.小文件優(yōu)化
第6個(gè)主題:MapReduce的任務(wù)調(diào)度
1.Queue調(diào)度的使用
2.公平調(diào)度的使用
3.能力調(diào)度的使用
第7個(gè)主題Hadoop 生態(tài)系統(tǒng)介紹
分布式管理組件-Zookeeper
分布式數(shù)據(jù)倉庫-Hive
分布式數(shù)據(jù)庫-Hbase
數(shù)據(jù)導(dǎo)入導(dǎo)出-Sqoop
工作流管理- Ozzie
Hadoop數(shù)據(jù)倉庫-Hive
Hive基礎(chǔ)
Hive的作用和原理說明
Hadoop倉庫和傳統(tǒng)數(shù)據(jù)倉庫的協(xié)作關(guān)系;Hive與傳統(tǒng)數(shù)據(jù)庫的對(duì)接使用
Hadoop/Hive倉庫數(shù)據(jù)數(shù)據(jù)流
第三天
Hadoop數(shù)據(jù)倉庫-Hive
Hive Cli 的基本用法
HQL基本語法
自行編寫數(shù)據(jù)庫與Hadoop相互ETL工具的思路
Hadoop 分布式數(shù)據(jù)倉庫-Hbase
Hbase概念與架構(gòu)
hbase核心知識(shí)點(diǎn)
hbase安裝、部署
Hbase配置優(yōu)化綜述
表設(shè)計(jì)優(yōu)化相關(guān)參數(shù)
監(jiān)控工具使用方法及注意事項(xiàng)
常見異?,F(xiàn)象級(jí)處理方法
(第二專題:大數(shù)據(jù)與云計(jì)算架構(gòu))
日程 授課主題 課程安排
第四天
云計(jì)算概述 云的理想
云的挑戰(zhàn)
發(fā)展的趨勢(shì)
云是什么
不同工作負(fù)載適用不同的云
選擇合適的云平臺(tái)
幾個(gè)云應(yīng)用案例
我們身邊的云
云架構(gòu) 云多層架構(gòu)視圖
IaaS、PaaS與SaaS的定位與異同
云平臺(tái)的發(fā)展現(xiàn)狀
云數(shù)據(jù)中心技術(shù)架構(gòu)
IAAS云層的原理與應(yīng)用 IaaS的基礎(chǔ):虛擬化
虛擬化相關(guān)技術(shù)
Power云部署方案介紹
VMWare云部署方案介紹
OpenStack云部署方案介紹
SONAS云存儲(chǔ)方案介紹
應(yīng)用實(shí)例
第五天
PaaS云層的原理與應(yīng)用 PaaS的架構(gòu)原理
基于WebSphere的PaaS設(shè)計(jì)實(shí)踐
SaaS云層的原理與應(yīng)用 SaaS的架構(gòu)原理
一個(gè)公有云SaaS的設(shè)計(jì)實(shí)踐
云計(jì)算的性能管理與容量規(guī)劃
什么是性能容量管理
性能容量管理參考案例
壓力測(cè)試基本理論
系統(tǒng)性能設(shè)計(jì)與調(diào)優(yōu)
第六天
大數(shù)據(jù)云的原理與架構(gòu) 存儲(chǔ)子系統(tǒng)
傳統(tǒng)文件系統(tǒng)
松耦合網(wǎng)絡(luò)文件系統(tǒng)
共享存儲(chǔ)文件系統(tǒng)
基于對(duì)象的存儲(chǔ)子系統(tǒng)
大數(shù)據(jù)存儲(chǔ)子系統(tǒng)
Google GFS
Facebook Haystack
Amazon Dynamo
Yahoo PNUTS
Google BigTable
云存儲(chǔ)服務(wù)
Amazon Simple Storage Service
Google Storage for Developers
六、培訓(xùn)證書
證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級(jí)和晉升職務(wù)的重要依據(jù)。
大數(shù)據(jù)與云計(jì)算培訓(xùn)
轉(zhuǎn)載:http://szsxbj.com/gkk_detail/153.html
已開課時(shí)間Have start time
大數(shù)據(jù)課程內(nèi)訓(xùn)
- 數(shù)據(jù)驅(qū)動(dòng)價(jià)值 ——基于Ex 張曉如
- 大數(shù)據(jù)提升:用戶體驗(yàn)提升與 武建偉
- 能源電力企業(yè)數(shù)字化轉(zhuǎn)型探索 李開東
- 《流量神器,銷量升級(jí):如何 武建偉
- 數(shù)據(jù)創(chuàng)造價(jià)值——大數(shù)據(jù)分析 張曉如
- 《大數(shù)據(jù)分析與客戶開發(fā)》 喻國慶
- 《大數(shù)據(jù)精益化營銷思維與運(yùn) 喻國慶
- 大數(shù)據(jù)項(xiàng)目解決方案及應(yīng)用 胡國慶
- 建材門店--微信獲客與運(yùn)營 武建偉
- 《精細(xì)運(yùn)營——京東/天貓平 武建偉
- 互聯(lián)網(wǎng)大數(shù)據(jù)分析管理 孫平
- 《銀行--網(wǎng)絡(luò)消費(fèi)行為與網(wǎng) 武建偉