數據Hadoop最佳實踐培訓
培訓內容
第一部分
第1個主題：Hadoop思考
1.Hadoop的設計目標和適用場景
2.Hadoop架構解析
3.MapReduce工作原理和案例說明
第2個主題：Hadoop集群與管理
1、?Hadoop集群的搭建
2、?Hadoop集群的監控
3、?Hadoop集群的管理
4、?集群下運行MapReduce程序
第3主題：徹底掌握HDFS?(具備修改HDFS具體源碼實現的能力)
1、HDFS體系架構剖析
2、NameNode、DataNode、SecondaryNameNode架構
3、保證NodeName高可靠性最佳實踐
4、DataNode中Block劃分的原理和具體存儲方式
5、修改Namenode、DataNode數據存儲位置
6、使用CLI操作HDFS
7、使用Java操作HDFS
第4主題：徹底掌握HDFS?(具備修改HDFS具體源碼實現的能力)
1、RPC架構剖析
2、源碼剖析Hadoop構建于RPC之上
3、源碼剖析HDFS的RPC實現
4、源碼剖析客戶端與與NameNode的RPC通信
第5個主題：徹底掌握MapReduce（從代碼的角度剖析MapReduce執行的具體過程并具備開發MapReduce代碼的能力）
1、MapReduce執行的經典步驟
2、wordcount運行過程解析
3、Mapper和Reducer剖析
4、自定義Writable
5、新舊API的區別以及如何使用就API
6、把MapReduce程序打包成Jar包并在命令行運行
第6個主題：徹底掌握MapReduce（具備掌握Hadoop如何把HDFS文件轉化為Key-Value讓供Map調用的能力）
1、?Hadoop是如何把HDFS文件轉化為鍵值對的？
2、?源碼剖析Hadoop讀取HDFS文件并轉化為鍵值對的過程實現
3、?源碼剖析轉化為鍵值對后供Map調用的過程實現
第7個主題：徹底掌握MapReduce（具備掌握MapReduce內部運行和實現細節并改造MapReduce的能力）
1、?Hadoop內置計數器及如何自定義計數器
2、?Combiner具體的作用和使用以及其使用的限制條件
3、?Partitioner的使用最佳實踐
4、?Hadoop內置的排序算法剖析
5、?自定義排序算法
6、?Hadoop內置的分組算法
7、?自定義分組算法
8、?MapReduce常見場景和算法實現
第二部分
第1個主題：HBase架構設計和實現剖析
1、?HBase定義
2、?HBase與RDBMS的對比
3、?數據模型
4、?系統架構
5、?HBase上的MapReduce
6、?表的設計
第2個主題：HBase集群及其管理
1、?集群的搭建過程講解
2、?集群的監控
3、?集群的管理
第3個主題：HBase客戶端
1、?HBase?Shell以及演示
2、?Java客戶端以及代碼演示
第4個主題：HBase案例實戰1---使用HBase實現微博系統
1.?項目架構和設計
2.?開發環境搭建
3.?實現用戶登錄和注銷
4.“關注”功能的設計和實現
5.“發微博”功能的設計和實現
6.發布和運行整個基于HBase的微博系統
第5個主題：HBase與MapReduce
1.?HBase與MapReduce的關系
2.?HBase如何使用MapReduce
第6個主題：HBase案例實戰2---話單查詢與統計
1.?項目架構設計
2.?開發環境搭建
3.?話單入庫和查詢的設計與實現
4.統計功能的設計與實現
第7個主題：安裝和使用Hive
1.?Hive剖析
2.?安裝Hive
3.Hive的基本使用
第8個主題：Hive與HDFS、MapReduce
1.?Hive向HDFS存入結構化數據
2.?使用MySQL作為Hive的元數據庫
3.Hive與MapReduce
第三部分
第1個主題：Hive
1.?Hive的Java擴展開發
2.?Hive?UDF和UDAF開發
3.?Hive常見場景，實戰練習
第2個主題：Hive案例實戰---數據統計
1.?項目架構設計
2.?表結構設計
3.數據的插入與統計實現
第3個主題：Sqoop
1.?Sqoop原理
2.?Sqoop使用詳解
3.?用Sqoop實現HDFS/Hive與關系數據庫的數據交互
4.?用Sqoop實現HBase與關系數據庫的數據交互
第4個主題：電商業日志流量分析項目
電商業日志流量分析項目，互聯網企業對海量日志的分析是Hadoop應用的一個重要用途，也是對網站流量、客戶行為分析的重要途徑。該項目整合Hive、Hbase、Sqoop等常用組件，涉及從后臺處理到前臺呈現的每一個技術環節。包括：
1·業務需求介紹
2·數據建模
3·后臺算法設計
4·后臺業務處理
5·前臺WEB展示等
第5個主題：Hadoop開發者之路
1.?Hadoop技能模型
2.?Hadoop開發者最佳學習路線和方式
3.Hadoop開發者最佳成長路線 |
合作伙伴與授權機構
總部李老師
