驢媽媽大數據離線項目大數據實戰全套視頻教程
驢媽媽大數據離線項目大數據實戰課程導語
1、歡迎大家來到離線數據分析平臺實戰驢媽媽大數據離線項目的課程,本套課程可分為三個階段五個章節共計220+課時為大家詳細解讀學習這門課程。
2、第一個階段的課程學習大概有95節課時,該階段主要是對該項目所用到的技術進行技能儲備的階段,讓大家首先了解本次項目的整體架構、環境,學習完本課程等達到一個什么樣的目標、以及掌握什么樣的技術,技術能掌握到什么程度等。
3、第二個階段的課程學習大概有10個左右的課程,這個階段主要是對接下來的項目進行詳細的需求分析,討論數據結果如何展示,做出實際的靜態頁面展示效果圖。
4、第三個階段大概用100個課時左右的時間來講解以及代碼的實現,項目的測試、項目的性能優化部署上線等具體操作。
驢媽媽大數據離線項目課程要實現的目標
1、不管你之前對hadoop是否了解過,如果你從來沒有了解過hadoop,那么通過學習本套課程會讓你學習和掌握企業工作中hadoop的基本使用方法,如果你之前就學習過hadoop的話,通過本課程的學習會讓你增加hadoop的項目實戰經驗。
2、通過本套課程的學習,學員們能夠了解和掌握hadoop的適用場景,什么情況下會使用大數據hadoop以及在實際的工作中如何集成和使用hadoop。
hadoop的常用應用場景介紹
1、基于數據統計的大數據分析平臺場景的運用,本次課程就是該場景下的離線數據分析平臺。
2、推薦系統使用場景的運用,目前很多公司都在著手開始和創建自己的大數據推薦系統,如果從無到有的實現這么一個推薦系統可能會用大概半年到一年的時間才能夠創建完成,如果使用hadoop自帶推薦系統進行搭建的話,速度就會快上好幾倍。
3、基于業務的底層存儲系統應用場景的平臺,目前以互聯網公司為主的大數據量的爆發導致關系型數據庫存儲上的壓力山大,使得更多的公司不得不改為nosql為代表的非關系型數據庫,如hbase。
4、業務監控平臺應用場景,這種監控平臺可以幫助眾多公司用于監控他們的其他平臺系統的健康狀況,以上幾個場景是hadoop運用比較常見的,還有其它跟多應用場景就不在此一一贅述了,會在接下來的課程中滲透。
第一章 驢媽媽大數據離線項目基本技能儲備
1.1、項目介紹 |
1.2、hadoop介紹 |
1.3、SSH免密碼登錄 |
1.4、JAVA安裝 |
1.5、Hadoop安裝及驗證 |
1.6、shell命令相關配置信息 |
1.7、httpfs相關命令 |
1.8、集群啟動相關命令介紹 |
1.9、集群啟動相關命令操作 |
1.10、hdfs相關命令(上) |
1.11、hdfs相關命令(下) |
1.12、其他HadoopShell命令 |
1.13、HDFS結構介紹 |
1.14、windows開發環境搭建 |
1.15、HdfsJavaApi介紹1 |
1.16、HdfsJavaApi介紹2 |
1.17、HdfsJavaApi介紹3 |
1.18、MapReduce介紹 |
1.19、Wordcount實現 |
1.20、Wordcount運行介紹以及異常解決 |
1.21、倒排索引實現 |
1.22、InputFormat和OutputFormat介紹 |
1.23、自定義InputFormat實現2_1 |
1.24、自定義InputFormat實現2_2 |
1.25、自定義OutputFormat實現 |
1.26、案例演示 |
1.27、shuffle階段介紹 |
1.28、自定義group+partitioner實現 |
1.29、案例damo編寫 |
1.30、HBase結構介紹 |
1.31、HBase安裝上 |
1.32、HBase安裝下 |
1.33、hbase命令概述及幫助命令使用方式介紹 |
1.34、命名空間相關命令介紹 |
1.35、HBase Shell常用命令介紹 |
1.36、Scan命令詳解 |
1.37、其他shell命令介紹 |
1.38、Java客戶端概述以及Java開發Hbase基本環境搭建 |
1.39、HBaseAdmin類詳細介紹 |
1.40、Put類詳細介紹 |
1.41、Get和Delete類詳細介紹 |
1.42、Scan類和Hbase連接池詳細介紹 |
1.43、環境搭建 |
1.44、案例介紹 |
1.45、案例Mapper及Reducer類編寫 |
1.46、案例執行入口代碼編寫及異常解決 |
1.47、Hive介紹 |
1.48、MYSQL安裝 |
1.49、Hive安裝 |
1.50、hive服務介紹 |
1.51、Database相關命令介紹 |
1.52、Hive表類型及創建命令格式介紹 |
1.53、Hive表創建案例介紹 |
1.54、Hive&Hbase關聯介紹 |
1.55、導入數據命令介紹 |
1.56、select語句介紹1 |
1.57、select語句介紹2 |
1.58、join介紹 |
1.59、子查詢介紹 |
1.60、導出數據和其他命令介紹 |
1.61、Hive函數介紹 |
1.62、UDF自定義函數實現 |
1.63、UDAF自定義函數實現1 |
1.64、UDAF自定義函數實現2 |
1.65、UDTF自定義函數實現 |
1.66、Hive自定義函數jar集成方式介紹 |
1.67、Nginx介紹 |
1.68、Flume結構介紹 |
1.69、Flume安裝 |
1.70、Flume簡單案例實現 |
1.71、Nginx+Flume+Hdfs日志收集案例實現 |
1.72、Sqoop介紹和安裝 |
1.73、Sqoop基本命令介紹 |
1.74、Import命令介紹1 |
1.75、Import命令介紹2 |
1.76、Export命令介紹 |
1.77、Oozie介紹 |
1.78、Tomcat安裝 |
1.79、Oozie安裝 |
1.80、Oozie Workflow工作流介紹 |
1.81、Oozie Workflow編寫規則和自定義介紹 |
1.82、Workflow案例1 |
1.83、Workflow案例2 |
1.84、Workflow案例3 |
1.85、Oozie Coordinator和Bundle介紹 |
1.86、Highcharts介紹 |
1.87、案例介紹1 |
1.88、案例介紹2 |
1.89、案例介紹3 |
1.90、案例介紹4 |
1.91、基本介紹 |
1.92、環境搭建 |
1.93、案例測試1 |
1.94、案例測試2 |
1.95、數據展示框架介紹 |
第二章 驢媽媽大數據離線項目需求介紹
2.1、bf_track項目總體介紹 |
2.2、JavaSDK需求分析介紹 |
2.3、JsSDK需求分析介紹1 |
2.4、JsSDK需求分析介紹2 |
2.5、bf_dataapi項目總體介紹 |
2.6、bf_dataapi頁面展示介紹1 |
2.7、bf_dataapi頁面展示介紹2 |
2.8、bf_dataapi頁面展示介紹3 |
2.9、bfdataapi的restapi和bftransformer項目結構介紹 |
2.10、數據存儲結構介紹1 |
2.11、數據存儲結構介紹2 |
2.12、數據存儲結構介紹3 |
第三章 用戶行為數據收集模塊實現講解
3.1、SDK Engine入口類編寫 |
3.2、SDK Monitor數據發送類編寫 |
3.3、JavaSDK測試 |
3.4、JsSDK CookieUtil對象編寫 |
3.5、JsSDK tracker對象編寫1 |
3.6、JsSDK tracker對象編寫2 |
3.7、JsSDK tracker對象編寫3 |
3.8、JsSDK tracker對象編寫4 |
3.9、JsSDK測試 |
第四章 數據分析模塊講解
4.1、UserAgent解析 |
4.2、IP解析1 |
4.3、IP解析2 |
4.4、EventLogConstants類編寫 |
4.5、LoggerUtil日志解析工具類編寫 |
4.6、AnalyserLogDataMapper類編寫 |
4.7、AnalyserLogDataRunner類編寫 |
4.8、測試1 |
4.9、測試2 |
4.10、BrowserDimension類編寫 |
4.11、DateDimension類編寫 |
4.12、PlatformDimension類編寫 |
4.13、DimensionConverter類編寫1 |
4.14、DimensionConverter類編寫2 |
4.15、TransformerOutputFormat類編寫1 |
4.16、TransformerOutputFormat類編寫2 |
4.17、新增用戶統計mr程序輸出類編寫 |
4.18、NewInstallUserMapper類編寫 |
4.19、NewInstallUserRudecer類編寫 |
4.20、NewInstallUserRunner類編寫1 |
4.21、NewInstallUserRunner類編寫2 |
4.22、NewInstallUser代碼測試 |
4.23、TotalInstallUser統計代碼編寫 |
4.24、ActiveUserMapper類編寫 |
4.25、ActiveUserReducer類編寫 |
4.26、ActiveUserRunner類編寫 |
4.27、Collector輸出類編寫及測試 |
4.28、活躍會員分析1 |
4.29、活躍會員分析2 |
4.30、MemberUtil類編寫 |
4.31、NewMemberMapper類編寫 |
4.32、NewMemberReducer類和Runner類編寫 |
4.33、測試 |
4.34、SessionMapper類編寫 |
4.35、SessionsReducer類編寫 |
4.36、SessionsRunner類編寫以及測試 |
4.37、HourlyActiveUser分析1 |
4.38、HourlyActiveUser分析2 |
4.39、HourlySession相關分析1 |
4.40、HourlySession相關分析2 |
4.41、Mapper編寫 |
4.42、Reducer和Runner編寫 |
4.43、測試 |
4.44、Mapper公用代碼提取1 |
4.45、Mapper公用代碼提取2 |
4.46、Runner公用代碼提取1 |
4.47、Runner公用代碼提取2 |
4.48、Runner公用代碼提取3 |
4.49、統計規則介紹 |
4.50、LocationDimension類編寫 |
4.51、Mapper類編寫 |
4.52、Reducer和Runner類編寫 |
4.53、測試 |
4.54、統計規則介紹 |
4.55、InboundDimension相關類編寫 |
4.56、InboundMapper類編寫1 |
4.57、InboundMapper類編寫2 |
4.58、InboundReducer&Runner類編寫以及測試 |
4.59、InboundBounceMapper類編寫 |
4.60、InboundBounceReducer類編寫1 |
4.61、InboundBounceReducer類編寫2 |
4.62、InboundBounceRunner類編寫以及測試 |
4.63、服務器hdfs參數調優 |
4.64、Linux文件句柄數操作 |
4.65、服務器hbase參數優化 |
4.66、服務器mapreduce參數調優 |
4.67、代碼調優 |
4.68、Mapper&Reduce調優 |
4.69、Runner調優 |
4.70、服務器端相關類編寫1 |
4.71、服務器端相關類編寫2 |
4.72、client端相關類編寫 |
4.73、測試 |
4.74、用戶瀏覽深度Hive分析1 |
4.75、用戶瀏覽深度Hive分析2 |
4.76、用戶瀏覽深度Hive分析3 |
4.77、用戶瀏覽深度Hive分析4 |
4.78、用戶瀏覽深度Hive分析5 |
4.79、事件分析Hive編寫1 |
4.80、事件分析Hive編寫2 |
4.81、規則介紹以及外部表創建 |
4.82、Dimension操作相關UDF編寫 |
4.83、訂單數量分析1 |
4.84、訂單數量分析2 |
4.85、訂單金額分析 |
4.86、訂單信息mysql保存 |
4.87、訂單信息獲取相關UDF編寫 |
4.88、TotalAmount相關UDF編寫 |
4.89、成功支付訂單相關統計指標的分析 |
4.90、退款訂單相關統計指標分析 |
4.91、Oozie流部署規則介紹 |
4.92、Oozie流編寫1 |
4.93、Oozie流編寫2 |
第五章 數據展示模塊課程大綱
5.1、規則介紹 |
5.2、AEController編寫1 |
5.3、AEController編寫2 |
5.4、AEController編寫3 |
5.5、AEController編寫4 |
5.6、AEService編寫 |
5.7、其他類編寫 |
5.8、Spring配置信息編寫及測試 |
5.9、后臺程序編寫 |
5.10、前臺頁面編寫 |
5.11、程序后臺編寫 |
5.12、前端頁面編寫 |
5.13、后臺程序編寫 |
5.14、前端頁面編寫 |
5.15、后臺程序編寫 |
5.16、前端頁面編寫 |
5.17、后臺&前端程序代碼編寫 |
5.18、程序后臺實現 |
5.19、程序前端實現1 |
5.20、程序前端實現2 |
5.21、后臺程序編寫1 |
5.22、后臺程序編寫2 |
5.23、前端頁面編寫 |
5.24、項目總結 |
相關文章 |