Scala編程詳解：面向?qū)ο缶幊讨畬ο?/div>
Scala編程詳解：面向?qū)ο缶幊讨^承
Scala編程詳解：面向?qū)ο缶幊讨甌rait
Scala編程詳解：函數(shù)式編程
Scala編程詳解：函數(shù)式編程之集合操作
Scala編程詳解：模式匹配
Scala編程詳解：類型參數(shù)
Scala編程詳解：隱式轉(zhuǎn)換與隱式參數(shù)
Scala編程詳解：Actor入門
?
二、課程環(huán)境搭建：?
課程環(huán)境搭建：CentOS 6.5集群搭建
課程環(huán)境搭建：Hadoop 2.4.1集群搭建
課程環(huán)境搭建：Hive 0.13搭建
-課程環(huán)境搭建：ZooKeeper 3.4.5集群搭建
課程環(huán)境搭建：kafka_2.9.2-0.8.1集群搭建
-課程環(huán)境搭建：Spark 1.3.0集群搭建
?
三、Spark核心編程：
Spark核心編程：Spark基本工作原理與RDD
Spark核心編程：使用Java、Scala和spark-shell開發(fā)wordcount程序
Spark核心編程：wordcount程序原理深度剖析
Spark核心編程：Spark架構(gòu)原理
Spark核心編程：創(chuàng)建RDD實戰(zhàn)（集合、本地文件、HDFS文件）
Spark核心編程：操作RDD實戰(zhàn)（transformation和action案例實戰(zhàn)）
Spark核心編程：transformation操作開發(fā)案例實戰(zhàn)
Spark核心編程：action操作開發(fā)案例實戰(zhàn)
Spark核心編程：RDD持久化詳解
Spark核心編程：共享變量（Broadcast Variable和Accumulator）
Spark核心編程：高級編程之基于排序機制的wordcount程序
Spark核心編程：高級編程之二次排序?qū)崙?zhàn)
Spark核心編程：高級編程之topn與分組取topn實戰(zhàn)
?
四、Spark內(nèi)核源碼深度剖析：
Spark內(nèi)核源碼深度剖析：Spark內(nèi)核架構(gòu)深度剖析
Spark內(nèi)核源碼深度剖析：寬依賴與窄依賴深度剖析
Spark內(nèi)核源碼深度剖析：基于Yarn的兩種提交模式深度剖析
Spark內(nèi)核源碼深度剖析：SparkContext初始化原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Master主備切換機制原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Master注冊機制原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Master狀態(tài)改變處理機制原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Master資源調(diào)度算法原理剖析與源碼分析
-Spark內(nèi)核源碼深度剖析：Worker原理剖析與源碼分析?
Spark內(nèi)核源碼深度剖析：Job觸發(fā)流程原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：DAGScheduler原理剖析與源碼分析（stage劃分算法與task佳位置算法）
Spark內(nèi)核源碼深度剖析：TaskScheduler原理剖析與源碼分析（task分配算法）
Spark內(nèi)核源碼深度剖析：Executor原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Task原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Shuffle原理剖析與源碼分析（普通Shuffle與優(yōu)化后的Shuffle）
Spark內(nèi)核源碼深度剖析：BlockManager原理剖析與源碼分析（Spark底層存儲機制）
Spark內(nèi)核源碼深度剖析：CacheManager原理剖析與源碼分析
Spark內(nèi)核源碼深度剖析：Checkpoint原理剖析與源碼分析
?
五、Spark性能優(yōu)化：
Spark性能優(yōu)化：性能優(yōu)化概覽
Spark性能優(yōu)化：診斷內(nèi)存的消耗
Spark性能優(yōu)化：高性能序列化類庫
Spark性能優(yōu)化：優(yōu)化數(shù)據(jù)結(jié)構(gòu)
Spark性能優(yōu)化：對多次使用的RDD進行持久化或Checkpoint
Spark性能優(yōu)化：使用序列化的持久化級別
Spark性能優(yōu)化：Java虛擬機垃圾回收調(diào)優(yōu)
Spark性能優(yōu)化：提高并行度
Spark性能優(yōu)化：廣播共享數(shù)據(jù)
Spark性能優(yōu)化：數(shù)據(jù)本地化
Spark性能優(yōu)化：reduceByKey和groupByKey
Spark性能優(yōu)化：shuffle性能優(yōu)化
?
六、Spark SQL：
課程環(huán)境搭建：Spark 1.5.1新版本特性、源碼編譯、集群搭建
Spark SQL：前世今生
Spark SQL：DataFrame的使用
Spark SQL：使用反射方式將RDD轉(zhuǎn)換為DataFrame
Spark SQL：使用編程方式將RDD轉(zhuǎn)換為DataFrame
Spark SQL：數(shù)據(jù)源之通用的load和save操作
Spark SQL：Parquet數(shù)據(jù)源之使用編程方式加載數(shù)據(jù)
-Spark SQL：Parquet數(shù)據(jù)源之自動分區(qū)推斷
Spark SQL：Parquet數(shù)據(jù)源之合并元數(shù)據(jù)
Spark SQL：JSON數(shù)據(jù)源復雜綜合案例實戰(zhàn)
Spark SQL：Hive數(shù)據(jù)源復雜綜合案例實戰(zhàn)
Spark SQL：JDBC數(shù)據(jù)源復雜綜合案例實戰(zhàn)
Spark SQL：內(nèi)置函數(shù)以及每日uv和銷售額統(tǒng)計案例實戰(zhàn)
Spark SQL：開窗函數(shù)以及top3銷售額統(tǒng)計案例實戰(zhàn)
Spark SQL：UDF自定義函數(shù)實戰(zhàn)
Spark SQL：UDAF自定義聚合函數(shù)實戰(zhàn)
Spark SQL：工作原理剖析以及性能優(yōu)化
Spark SQL：與Spark Core整合之每日top3熱點搜索詞統(tǒng)計案例實戰(zhàn)
Spark SQL：核心源碼深度剖析（DataFrame lazy特性、Optimizer優(yōu)化策略等）
-Spark SQL：延伸知識之Hive On Spark
?
七、Spark Streaming：
-Spark Streaming：大數(shù)據(jù)實時計算介紹
Spark Streaming：DStream以及基本工作原理
Spark Streaming：與Storm的對比分析
Spark Streaming：實時wordcount程序開發(fā)
Spark Streaming：StreamingContext詳解
Spark Streaming：輸入DStream和Receiver詳解
Spark Streaming：輸入DStream之基礎(chǔ)數(shù)據(jù)源以及基于HDFS的實時wordcount案例實戰(zhàn)
Spark Streaming：輸入DStream之Kafka數(shù)據(jù)源實戰(zhàn)（基于Receiver的方式）
Spark Streaming：輸入DStream之Kafka數(shù)據(jù)源實戰(zhàn)（基于Direct的方式）
Spark Streaming：DStream的transformation操作概覽
Spark Streaming：updateStateByKey以及基于緩存的實時wordcount案例實戰(zhàn)
Spark Streaming：transform以及廣告計費日志實時黑名單過濾案例實戰(zhàn)
Spark Streaming：window滑動窗口以及熱點搜索詞滑動統(tǒng)計案例實戰(zhàn)
Spark Streaming：DStream的output操作以及foreachRDD性能優(yōu)化詳解
Spark Streaming：與Spark SQL結(jié)合使用之top3熱門商品實時統(tǒng)計案例實戰(zhàn)
Spark Streaming：緩存與持久化機制詳解
Spark Streaming：Checkpoint機制詳解（Driver高可靠方案詳解）
Spark Streaming：部署、升級和監(jiān)控實時應(yīng)用程序
Spark Streaming：容錯機制以及事務(wù)語義詳解
Spark Streaming：架構(gòu)原理深度剖析
Spark Streaming：StreamingContext初始化與Receiver啟動原理剖析與源碼分析
Spark Streaming：數(shù)據(jù)接收原理剖析與源碼分析
Spark Streaming：數(shù)據(jù)處理原理剖析與源碼分析（block與batch關(guān)系透徹解析）
Spark Streaming：性能調(diào)優(yōu)詳解
講-課程總結(jié)（學到了什么？達到了什么水平？）
?
Spark開發(fā)進階(升級內(nèi)容！)
?
一、Scala編程進階：?
Scala編程進階：Scaladoc的使用
Scala編程進階：跳出循環(huán)語句的3種方法
Scala編程進階：多維數(shù)組、Java數(shù)組與Scala數(shù)組的隱式轉(zhuǎn)換
Scala編程進階：Tuple拉鏈操作、Java Map與Scala Map的隱式轉(zhuǎn)換
Scala編程進階：擴大內(nèi)部類作用域的2種方法、內(nèi)部類獲取外部類引用
Scala編程進階：package與import實戰(zhàn)詳解
Scala編程進階：重寫field的提前定義、Scala繼承層級、對象相等性
Scala編程進階：文件操作實戰(zhàn)詳解
Scala編程進階：偏函數(shù)實戰(zhàn)詳解
Scala編程進階：執(zhí)行外部命令
Scala編程進階：正則表達式支持
Scala編程進階：提取器實戰(zhàn)詳解
Scala編程進階：樣例類的提取器實戰(zhàn)詳解
Scala編程進階：只有一個參數(shù)的提取器
Scala編程進階：注解實戰(zhàn)詳解
Scala編程進階：常用注解介紹
Scala編程進階：XML基礎(chǔ)操作實戰(zhàn)詳解
Scala編程進階：XML中嵌入scala代碼
Scala編程進階：XML修改元素實戰(zhàn)詳解
Scala編程進階：XML加載和寫入外部文檔
Scala編程進階：集合元素操作
Scala編程進階：集合的常用操作方法
Scala編程進階：map、flatMap、collect、foreach實戰(zhàn)詳解
Scala編程進階：reduce和fold實戰(zhàn)詳解
?
二、Spark核心編程進階：?
環(huán)境搭建-CentOS 6.4虛擬機安裝
環(huán)境搭建-Hadoop 2.5偽分布式集群搭建
環(huán)境搭建-Spark 1.5偽分布式集群搭建
第一次課程升級大綱介紹以及要點說明
Spark核心編程進階-Spark集群架構(gòu)概覽
Spark核心編程進階-Spark集群架構(gòu)的幾點特別說明
Spark核心編程進階-Spark的核心術(shù)語講解
Spark核心編程進階-Spark Standalone集群架構(gòu)
Spark核心編程進階-單獨啟動master和worker腳本詳解
-Spark核心編程進階-實驗：單獨啟動master和worker進程以及啟動日志查看
Spark核心編程進階-worker節(jié)點配置以及spark-evn.sh參數(shù)詳解
Spark核心編程進階-實驗：local模式提交spark作業(yè)
Spark核心編程進階-實驗：standalone client模式提交spark作業(yè)
Spark核心編程進階-實驗：standalone cluster模式提交spark作業(yè)
Spark核心編程進階-standalone模式下的多作業(yè)資源調(diào)度
Spark核心編程進階-standalone模式下的作業(yè)監(jiān)控與日志記錄
Spark核心編程進階-實驗：運行中作業(yè)監(jiān)控以及手工打印日志
Spark核心編程進階-yarn-client模式原理講解
Spark核心編程進階-yarn-cluster模式原理講解
Spark核心編程進階-實驗：yarn-client模式提交spark作業(yè)
Spark核心編程進階-yarn模式下日志查看詳解
Spark核心編程進階-yarn模式相關(guān)參數(shù)詳解
-Spark核心編程進階-spark工程打包以及spark-submit詳解
Spark核心編程進階-spark-submit示例以及基礎(chǔ)參數(shù)講解
Spark核心編程進階-實驗：spark-submit簡單版本提交spark作業(yè)
Spark核心編程進階-實驗：spark-submit給main類傳遞參數(shù)
Spark核心編程進階-spark-submit多個示例以及常用參數(shù)詳解
Spark核心編程進階-SparkConf、spark-submit以及spark-defaults.conf
Spark核心編程進階-spark-submit配置第三方依賴
-Spark核心編程進階-spark算子的閉包原理詳解
Spark核心編程進階-實驗：對閉包變量進行累加操作的無效現(xiàn)象
Spark核心編程進階-實驗：在算子內(nèi)打印數(shù)據(jù)的無法看到現(xiàn)象
Spark核心編程進階-mapPartitions以及學生成績查詢案例
Spark核心編程進階-mapPartitionsWithIndex以開學分班案例
Spark核心編程進階-sample以及公司年會抽獎案例
Spark核心編程進階-union以及公司部門合并案例
Spark核心編程進階-intersection以及公司跨多項目人員查詢案例
Spark核心編程進階-distinct以及網(wǎng)站uv統(tǒng)計案例
Spark核心編程進階-aggregateByKey以及單詞計數(shù)案例
Spark核心編程進階-cartesian以及服裝搭配案例
Spark核心編程進階-coalesce以及公司部門整合案例
Spark核心編程進階-repartition以及公司新增部門案例
-Spark核心編程進階-takeSampled以及公司年會抽獎案例
Spark核心編程進階-shuffle操作原理詳解
Spark核心編程進階-shuffle操作過程中進行數(shù)據(jù)排序
第Spark核心編程進階-會觸發(fā)shuffle操作的算子
Spark核心編程進階-shuffle操作對性能消耗的原理詳解
Spark核心編程進階-shuffle操作所有相關(guān)參數(shù)詳解以及性能調(diào)優(yōu)
Spark核心編程進階-綜合案例1：移動端app訪問流量日志分析
Spark核心編程進階-綜合案例1：日志文件格式分析
Spark核心編程進階-綜合案例1：讀取日志文件并創(chuàng)建RDD
Spark核心編程進階-綜合案例1：創(chuàng)建自定義的可序列化類
Spark核心編程進階-綜合案例1：將RDD映射為key-value格式
Spark核心編程進階-綜合案例1：基于deviceID進行聚合操作
Spark核心編程進階-綜合案例1：自定義二次排序key類
Spark核心編程進階-綜合案例1：將二次排序key映射為RDD的key
Spark核心編程進階-綜合案例1：執(zhí)行二次排序以及獲取top10數(shù)據(jù)
Spark核心編程進階-綜合案例1：程序運行測試以及代碼調(diào)試
Spark核心編程進階-部署第二臺CentOS機器
Spark核心編程進階-部署第二個Hadoop節(jié)點
Spark核心編程進階-將第二個Hadoop節(jié)點動態(tài)加入集群
Spark核心編程進階-使用yarn-client和yarn-cluster提交spark作業(yè)
?
三、Spark內(nèi)核原理進階：?
Spark內(nèi)核原理進階-union算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-groupByKey算子內(nèi)部實現(xiàn)原理剖析
-Spark內(nèi)核原理進階-reduceByKey算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-distinct算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-cogroup算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-intersection算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-join算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-sortByKey算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-cartesian算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-coalesce算子內(nèi)部實現(xiàn)原理剖析
Spark內(nèi)核原理進階-repartition算子內(nèi)部實現(xiàn)原理剖析
?
四、Spark SQL實戰(zhàn)開發(fā)進階：?
Spark SQL實戰(zhàn)開發(fā)進階-Hive 0.13安裝與測試
Spark SQL實戰(zhàn)開發(fā)進階-Thrift JDBC、ODBC Server
Spark SQL實戰(zhàn)開發(fā)進階-CLI命令行使用
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：新聞網(wǎng)站關(guān)鍵指標離線統(tǒng)計
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：頁面pv統(tǒng)計以及排序和企業(yè)級項目開發(fā)流程說明
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：頁面uv統(tǒng)計以及排序和count(distinct) bug說明
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：新用戶注冊比例統(tǒng)計
-Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：用戶跳出率統(tǒng)計
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：版塊熱度排行榜統(tǒng)計
Spark SQL實戰(zhàn)開發(fā)進階-綜合案例2：測試與調(diào)試
?
五、Spark Streaming實戰(zhàn)開發(fā)進階：?
Spark Streaming實戰(zhàn)開發(fā)進階-flume安裝
Spark Streaming實戰(zhàn)開發(fā)進階-接收flume實時數(shù)據(jù)流-flume風格的基于push的方式
Spark Streaming實戰(zhàn)開發(fā)進階-接收flume實時數(shù)據(jù)流-自定義sink的基于poll的方式
Spark Streaming實戰(zhàn)開發(fā)進階-高階技術(shù)之自定義Receiver
Spark Streaming實戰(zhàn)開發(fā)進階-kafka安裝
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：新聞網(wǎng)站關(guān)鍵指標實時統(tǒng)計
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：頁面pv實時統(tǒng)計
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：頁面uv實時統(tǒng)計
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：注冊用戶數(shù)實時統(tǒng)計
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：用戶跳出量實時統(tǒng)計
Spark Streaming實戰(zhàn)開發(fā)進階-綜合案例3：版塊pv實時統(tǒng)計
?
六、Spark運維管理進階：?
Spark運維管理進階-基于ZooKeeper實現(xiàn)HA高可用性以及自動主備切換
Spark運維管理進階-實驗：基于ZooKeeper實現(xiàn)HA高可用性以及自動主備切換
Spark運維管理進階-基于文件系統(tǒng)實現(xiàn)HA高可用性以及手動主備切換
Spark運維管理進階-實驗：基于文件系統(tǒng)實現(xiàn)HA高可用性以及手動主備切換
Spark運維管理進階-作業(yè)監(jiān)控-實驗：通過Spark Web UI進行作業(yè)監(jiān)控
Spark運維管理進階-作業(yè)監(jiān)控-實驗：standalone模式下查看歷史作業(yè)的Web UI
Spark運維管理進階-作業(yè)監(jiān)控-實驗：啟動HistoryServer查看歷史作業(yè)的Web UI
Spark運維管理進階-作業(yè)監(jiān)控-實驗：使用curl+REST API進行作業(yè)監(jiān)控
Spark運維管理進階-作業(yè)監(jiān)控-實驗：Spark Metrics系統(tǒng)以及自定義Metrics Sink
Spark運維管理進階-作業(yè)資源調(diào)度-靜態(tài)資源分配原理
Spark運維管理進階-作業(yè)資源調(diào)度-動態(tài)資源分配原理
Spark運維管理進階-作業(yè)資源調(diào)度-實驗：standalone模式下使用動態(tài)資源分配
Spark運維管理進階-作業(yè)資源調(diào)度-實驗：yarn模式下使用動態(tài)資源分配
Spark運維管理進階-作業(yè)資源調(diào)度-多個job資源調(diào)度原理
Spark運維管理進階-作業(yè)資源調(diào)度-Fair Scheduler使用詳解
?
Spark2.0(升級內(nèi)容！)
?
七、Spark 2.0深入淺出
Spark 2.0-新特性介紹
Spark 2.0-新特性介紹-易用性：標準化SQL支持以及更合理的API
Spark 2.0-新特性介紹-高性能：讓Spark作為編譯器來運行
Spark 2.0-新特性介紹-智能化：Structured Streaming介紹
Spark 2.0-新特性介紹-Spark 1.x的Volcano Iterator Model技術(shù)缺陷分析
Spark 2.0-新特性介紹-whole-stage code generation技術(shù)和vectorization技術(shù)
Spark 2.0-Spark 2.x與1.x對比以及分析、學習建議以及使用建議
Spark 2.0-課程環(huán)境搭建：虛擬機、CentOS、Hadoop、Spark等
Spark 2.0-開發(fā)環(huán)境搭建：Eclipse+Maven+Scala+Spark
Spark 2.0-SparkSession、Dataframe、Dataset開發(fā)入門
Spark 2.0-Dataset開發(fā)詳解-初步體驗untypd操作案例：計算部門平均年齡與薪資
Spark 2.0-Dataset開發(fā)詳解-action操作：collect、count、foreach、reduce等
Spark 2.0-Dataset開發(fā)詳解-基礎(chǔ)操作：持久化、臨時視圖、ds與df互轉(zhuǎn)換、寫數(shù)據(jù)等
Spark 2.0-Dataset開發(fā)詳解-typed操作：coalesce、repartition
Spark 2.0-Dataset開發(fā)詳解-typed操作：distinct、dropDuplicates
Spark 2.0-Dataset開發(fā)詳解-typed操作：except、filter、intersect
Spark 2.0-Dataset開發(fā)詳解-typed操作：map、flatMap、mapPartitions
Spark 2.0-Dataset開發(fā)詳解-typed操作：joinWith
Spark 2.0-Dataset開發(fā)詳解-typed操作：sort
Spark 2.0-Dataset開發(fā)詳解-typed操作：randomSplit、sample
Spark 2.0-Dataset開發(fā)詳解-untyped操作：select、where、groupBy、agg、col、join
Spark 2.0-Dataset開發(fā)詳解-聚合函數(shù)：avg、sum、max、min、count、countDistinct
Spark 2.0-Dataset開發(fā)詳解-聚合函數(shù)：collect_list、collect_set
Spark 2.0-Dataset開發(fā)詳解-其他常用函數(shù)
Spark 2.0-Structured Streaming：深入淺出的介紹
Spark 2.0-Structured Streaming：wordcount入門案例
Spark 2.0-Structured Streaming：編程模型
Spark 2.0-Structured Streaming：創(chuàng)建流式的dataset和dataframe
Spark 2.0-Structured Streaming：對流式的dataset和dataframe執(zhí)行計算操作
Spark 2.0-Structured Streaming：output mode、sink以及foreach sink詳解
Spark 2.0-Structured Streaming：管理streaming query
-Spark 2.0-Structured Streaming：基于checkpoint的容錯機制
Spark面試、簡歷中的項目編寫以及實際生產(chǎn)環(huán)境的集群和資源配置等
合作伙伴與授權(quán)機構(gòu)
shuhaipeixun
1299983702
總部李老師
