2017年大數據平臺搭建與高性能計算最佳實戰

2017年大數據平臺搭建與高性能計算最佳實戰(多名講師)課程介紹：

    根據黨中央和國務院“互聯網+”行動計劃戰略布局，落實國務院促進大數據發展行動綱要，響應工業和信息化部培養大數據技術高端人才的號召,中國信息化培訓中心特推出了大數據平臺搭建與高性能計算實戰課程培訓班。通過專業的大數據技術架構體系與業界真實案例來全面提升大數據項目高管、大數據平臺架構師，以及大數據開發工程師與大數據應用設計人員的專業水平，旨在培養專業的大數據技術架構專家，培養大數據技術和應用創新型人才，促進大數據技術在各行業內部及跨行業進行實施應用，以及企事業單位的大數據項目開發和落地，并利用大數據提升競爭力優勢。

一、 培訓特色
1. 課程培訓業界最流行、應用最廣泛的Hadoop與Spark大數據技術體系。
強化大數據平臺的分布式集群架構和核心關鍵技術實現、大數據應用項目開發和大數據集群運維實踐、以及Hadoop與Spark大數據項目應用開發與調優的全過程沙盤模擬實戰。
2. 通過一個完整的大數據開發項目及一組實際項目訓練案例，完全覆蓋Hadoop與Spark生態系統平臺的應用開發與運維實踐。課堂實踐項目以項目小組的形式進行沙盤實操練習，重點強化理解Hadoop與Spark大數據項目各個階段的工作重點，同時掌握作為大數據項目管理者的基本技術與業務素養。
3. 本課程的授課師資都是有著多年在一線從事Hadoop與Spark大數據項目的資深講師，采用原理技術剖析和實戰案例相結合的方式開展互動教學、強化以建立大數據項目解決方案為主體的應用開發、技術討論與交流咨詢，在學習的同時促進講師學員之間的交流，讓每個學員都能在課程培訓過程中學到實實在在的大數據技術知識體系，以及大數據技術應用實戰技能，具備實際大數據應用項目的動手開發實踐與運維管理部署能力。授課過程中，根據學員需求，增設交流環節，可將具體工作中遇到的實際問題展開討論，講師會根據學員的實際情況微調授課內容，由講師帶著全部學員積極討論，并給出一定的時間讓學員上臺發言，現場剖析問題的癥結，規劃出可行的解決方案。

二、培訓目標
1.深刻理解在“互聯網+”時代下大數據的產生背景、發展歷程和演化趨勢；
2.了解業界市場需求和國內外最新的大數據技術潮流，洞察大數據的潛在價值；
3.理解大數據項目解決方案及業界大數據應用案例，從而為企業在大數據項目
中的技術選型及技術架構設計提供決策參考；
4.掌握業界最流行的Hadoop與Spark大數據技術體系；
5.掌握大數據采集技術；
6.掌握大數據分布式存儲技術；
7.掌握NoSQL與NewSQL分布式數據庫技術；
8.掌握大數據倉庫與統計機器學習技術；
9.掌握大數據分析挖掘與商業智能（BI）技術；
10.掌握大數據離線處理技術；
11.掌握Storm流式大數據處理技術；
12.掌握基于內存計算的大數據實時處理技術；
13.掌握大數據管理技術的原理知識和應用實戰；
14.深入理解大數據平臺技術架構和使用場景；
15.嫻熟運用Hadoop與Spark大數據技術體系規劃解決方案滿足實際項目需求；
16.熟練地掌握基于Hadoop與Spark大數據平臺進行應用程序開發、集群運維管理和性能調優技巧。

三、課程大綱

第一天上午
大數據技術基礎
1. 大數據的產生背景與發展歷程
2. 大數據的4V特征，以及與云計算的關系
3. 大數據應用需求以及潛在價值分析
4. 業界最新的大數據技術發展態勢與應用趨勢
5. 大數據項目的系統與技術選型，及落地實施的挑戰
6. “互聯網+”時代下的電子商務、制造業、零售批發、電信運營商、互聯網金融業、電子政務、移動互聯網、教育信息化等行業應用實踐與應用案例介紹

業界主流的大數據技術方案 1. 大數據軟硬件系統全棧與關鍵技術介紹
2. 主流的大數據解決方案介紹
3. Apache大數據平臺方案剖析
4. CDH大數據平臺方案剖析
5. HDP大數據平臺方案剖析
6. 大數據解決方案與傳統數據庫方案比較

大數據計算模型（一）——批處理MapReduce
1. MapReduce產生背景與適用場景
2. MapReduce計算模型的基本原理
3. MapReduce作業執行流程
4. MapReduce基本組件，JobTracker和TaskTracker
5. MapReduce高級編程應用，Combiner和Partitioner
6. MapReduce性能優化技巧
7. MapReduce案例分析與開發實踐操作

第一天下午
大數據存儲系統與應用實踐
1. 分布式文件系統HDFS產生背景與適用場景
2. HDFS master-slave系統架構與工作原理
3. HDFS核心組件技術講解
4. HDFS高可用保證機制
5. HDFS集群的安裝、部署與配置，熟練HDFS shell命令操作
6. 分布式小文件存儲系統的平臺架構、核心技術與應用場景
7. 分布式對象存儲系統的平臺架構、核心技術與應用場景

 Hadoop框架與生態發展，以及應用實踐操作 1. Hadoop的發展歷程
2. Hadoop大數據生態圈系統與工具全貌介紹
3. Hadoop 1.0的核心組件與適用范圍
4. Hadoop 2.0的核心組件YARN工作原理，以及與Hadoop 1.0的區別
5. Hadoop資源管理與作業調度機制
6. Hadoop 常用性能優化技術
7. Hadoop集群安裝與部署實踐，以及MapReduce程序在YARN上執行

第二天上午
大數據計算模型（二）——實時處理/內存計算 Spark
 1. MapReduce計算模型的瓶頸
2. Spark產生動機、基本概念與適用場景
3. Spark編程模型與RDD彈性分布式數據集的工作原理與機制
4. Spark實時處理平臺運行架構與核心組件
5. Spark容錯機制
6. Spark作業調度機制
7. Scala開發介紹與實踐
8. Spark集群部署與配置實踐，Spark開發環境構建，Spark案例程序分析，Spark程序開發與運行，Spark與Hadoop集群集成實踐

第二天下午
大數據倉庫查詢技術Hive、SparkSQL、Impala，以及應用實踐
1. 基于MapReduce的大型分布式數據倉庫Hive基礎知識與應用場景
2. Hive數據倉庫的平臺架構與核心技術剖析
3. Hive metastore的工作機制與應用
4. Hive數據倉庫實踐：Hive集群安裝部署，數據倉庫表導入導出與分區操作，Hive SQL操作，Hive客戶端操作
5. 基于Spark的大型分布式數據倉庫SparkSQL基礎知識與應用場景
6. Spark SQL實時數據倉庫的實現原理與工作機制
7. SparkSQL應用分析與操作實踐
8. 基于MPP的大型分布式數據倉庫Impala基礎知識與應用場景
9. Impala實時查詢系統平臺架構、關鍵技術剖析

Hadoop集群運維監控工具
1. Hadoop大數據運維監控管理系統HUE平臺介紹
2. Hadoop運維管理監控系統Ambari工具介紹
3. 第三方運維系統與工具Ganglia, Nagios

第三天上午

大數據計算模型（三）——流處理Storm, SparkStreaming
1. 流數據處理應用場景與流數據處理的特點
2. 流數據處理工具Storm的平臺架構與集群工作原理
3. Storm關鍵技術與并發機制
4. Storm編程模型與基本開發模式
5. Storm數據流分組
6. Storm可靠性保證與Acker機制
7. Storm應用案例分析與實踐：Storm集群安裝部署，Storm程序開發運行操作實踐，Storm與Hadoop集群的集成
8. 流數據處理工具Spark Streaming基本概念與數據模型
9. Spark Streaming工作機制

 大數據ETL操作工具，與大數據分布式采集系統
1. Hadoop與DBMS之間數據交互工具的應用
2. Sqoop導入導出數據的工作原理，以及Sqoop工具的安裝部署與實踐操作，利用Sqoop實現MySQL與Hadoop集群之間的數據導入導出交互
3. Flume-NG數據采集系統的數據流模型與系統架構
4. Kafka分布式消息訂閱系統的應用介紹與平臺架構，及其使用模式

第三天下午
面向OLTP型應用的NoSQL數據庫及應用實踐
1. 關系型數據庫瓶頸，以及NoSQL數據庫的發展，概念，分類，及其在半結構化和非結構化數據場景下的適用范圍
2. 列存儲NoSQL數據庫HBase簡介與數據模型剖析
3. HBase分布式集群系統架構與讀寫機制，ZooKeeper分布式協調服務系統的工作原理與應用
4. HBase表設計模式與primary key設計規范
5. HBase分布式集群安裝、部署與操作實踐
6. 文檔NoSQL數據庫MongoDB簡介與數據模型剖析
7. MongoDB集群模式、讀寫機制與常用API操作
8. Cassandra分布式數據庫的平臺架構以及關鍵技術
9. Cassandra一致性哈希算法與數據分布策略，以及NWR策略
10.鍵值型NoSQL數據庫Redis簡介與數據模型剖析
11.Redis多實例集群架構與關鍵技術
12.NewSQL數據庫技術簡介及其適用場景
 大數據項目選型、實施、優化等問題交流討論 大數據項目的需求分析、應用實施、系統優化，以及解決方案等咨詢與交流討論

第四天 學習考核與業內經驗交流

四、授課師資
鐘老師  現任職于中科院某研究所，高級工程師，副高職稱，博士畢業于中國科學院計算技術研究所，獲工學博士學位（計算機系統結構方向）。中培教育的大數據、云計算、移動互聯網系列課程建設與教學專家。近六年來帶領團隊主要從事大數據與云計算技術項目的研發與IT項目管理工作。鐘老師有著多年的企業內訓和公開課培訓講師經歷，主要講授大數據平臺技術、云計算、移動互聯網、電子商務、IT信息軟件項目管理、企業信息化規劃與管理、IT戰略規劃與企業架構、數據中心主機規劃與IDC系統運營等企業實戰類培訓課程。鐘老師將原理技術剖析和應用實戰相結合的授課風格受到廣大公開課學員和企業內訓學員的歡迎。

蔣老師  清華大學博士，云計算專家 熟悉主流的云計算平臺，并有商業與開源云計算平臺的實踐經驗,對云計算關鍵技術有深刻了解和實踐經驗，如分布式系統、虛擬化、分布式文件系統、云存儲等，參與并領導多個大型云計算項目。對大數據關鍵技術有深刻了解和實踐經驗，如NoSQL數據庫、大數據處理、Hadoop、Hive、HBase、Spark等。

更多2017年大數據平臺搭建與高性能計算最佳實戰相關課程：