04 Stash訂閱(大數據核心技術有哪些)

roker上但用戶只需指定消息的Topic即可生產或消費數據而不必關心數據存于何處）

Partition

Parition是物理上的概念，每個Topic包含一個或多個Partition.

Procer

負責發布消息到Kafka broker

Consumer

消息消費者，向Kafka broker讀取消息的客戶端。

Consumer Group

每個Consumer屬于一個特定的Consumer Group（可為每個Consumer指定group name，若不指定group name則屬于默認的group）。

一般應用在大數據日志處理或對實時性（少量延遲），可靠性（少量丟數據）要求稍低的場景使用。

建設了幾個系統平臺 哪些數據

(1)操作系統的選擇操作系統一般使用開源版的RedHat、Centos或者Debian作為底層的構建平臺，要根據大數據平臺所要搭建的數據分析工具可以支持的系統，正確的選擇操作系統的版本。

(2)搭建Hadoop集群Hadoop作為一個開發和運行處理大規模數據的軟件平臺，實現了在大量的廉價計算機組成的集群中對海量數據進行分布式計算。Hadoop框架中最核心的設計是HDFS和MapRece，HDFS是一個高度容錯性的系統，適合部署在廉價的機器上，能夠提供高吞吐量的數據訪問，適用于那些有著超大數據集的應用程序;MapRece是一套可以從海量的數據中提取數據最后返回結果集的編程模型。在生產實踐應用中，Hadoop非常適合應用于大數據存儲和大數據的分析應用，適合服務于幾千臺到幾萬臺大的服務器的集群運行，支持PB級別的存儲容量。Hadoop家族還包含各種開源組件，比如Yarn，Zookeeper，Hbase，Hive，Sqoop，Impala，Spark等。使用開源組件的優勢顯而易見，活躍的社區會不斷的迭代更新組件版本，使用的人也會很多，遇到問題會比較容易解決，同時代碼開源，高水平的數據開發工程師可結合自身項目的需求對代碼進行修改，以更好的為項目提供服務。

(3)選擇數據接入和預處理工具面對各種來源的數據，數據接入就是將這些零散的數據整合在一起，綜合起來進行分析。數據接入主要包括文件日志的接入、數據庫日志的接入、關系型數據庫的接入和應用程序等的接入，數據接入常用的工具有Flume，Logstash，NDC(網易數據運河系統)，sqoop等。對于實時性要求比較高的業務場景，比如對存在于社交網站、新聞等的數據信息流需要進行快速的處理反饋，那么數據的接入可以使用開源的Strom，Sparkstreaming等。當需要使用上游模塊的數據進行計算、統計和分析的時候，就需要用到分布式的消息系統，比如基于發布/訂閱的消息系統kafka。還可以使用分布式應用程序協調服務Zookeeper來提供數據同步服務，更好的保證數據的可靠和一致性。數據預處理是在海量的數據中提取出可用特征，建立寬表，創建數據倉庫，會使用到HiveSQL，SparkSQL和Impala等工具。隨著業務量的增多，需要進行訓練和清洗的數據也會變得越來越復雜，可以使用azkaban或者oozie作為工作流調度引擎，用來解決有多個hadoop或者spark等計算任務之間的依賴關系問題。

(4)數據存儲除了Hadoop中已廣泛應用于數據存儲的HDFS，常用的還有分布式、面向列的開源數據庫Hbase，HBase是一種key/value系統，部署在HDFS上，與Hadoop一樣，HBase的目標主要是依賴橫向擴展，通過不斷的增加廉價的商用服務器，增加計算和存儲能力。同時hadoop的資源管理器Yarn，可以為上層應用提供統一的資源管理和調度，為集群在利用率、資源統一等方面帶來巨大的好處。Ku是一個圍繞Hadoop生態圈建立的存儲引擎，Ku擁有和Hadoop生態圈共同的設計理念，可以運行在普通的服務器上，作為一個開源的存儲引擎，可以同時提供低延遲的隨機讀寫和高效的數據分析能力。Redis是一種速度非常快的非關系型數據庫，可以將存儲在內存中的鍵值對數據持久化到硬盤中，可以存儲鍵與5種不同類型的值之間的映射。

(5)選擇數據挖掘工具Hive可以將結構化的數據映射為一張數據庫表，并提供HQL的查詢功能，它是建立在Hadoop之上的數據倉庫基礎架構，是為了減少MapRece編寫工作的批處理系統，它的出現可以讓那些精通SQL技能、但是不熟悉MapRece、編程能力較弱和不擅長Java的用戶能夠在HDFS大規模數據集上很好的利用SQL語言查詢、匯總、分析數據。Impala是對Hive的一個補充，可以實現高效的SQL查詢，但是Impala將整個查詢過程分成了一個執行計劃樹，而不是一連串的MapRece任務，相比Hive有更好的并發性和避免了不必要的中間sort和shuffle。Spark可以將Job中間輸出結果保存在內存中，不需要讀取HDFS，Spark啟用了內存分布數據集，除了能夠提供交互式查詢外，它還可以優化迭代工作負載。Solr是一個運行在Servlet容器的獨立的企業級搜索應用的全文搜索服務器，用戶可以通過買粉絲請求，向搜索引擎服務器提交一定格式的XML，生成索引，或者通過HTTPGET操作提出查找請求，并得到XML格式的返回結果。還可以對數據進行建模分析，會用到機器學習相關的知識，常用的機器學習算法，比如貝葉斯、邏輯回歸、決策樹、神經網絡、協同過濾等。

(6)數據的可視化以及輸出API對于處理得到的數據可以對接主流的BI系統，比如國外的Tableau、Qlikview、PowrerBI等，國內的SmallBI和新興的網易有數(可免費試用)等，將結果進行可視化，用于決策分析;或者回流到線上，支持線上業務的發展。成熟的搭建一套大數據分析平臺不是一件簡單的事情，本身就是一項復雜的工作，在這過程中需要考慮的因素有很多，比如：穩定性，可以通過多臺機器做數據和程序運行的備份，但服務器的質量和預算成本相應的會限制平臺的穩定性;可擴展性：大數據平臺部署在多臺機器上，如何在其基礎上擴充新的機器是實際應用中經常會遇到的問題;安全性：保障數據安全是大數據平臺不可忽視的問題，在海量數據的處理過程中，如何防止數據的丟失和泄漏一直是大數據安全領域的研究熱點。

如何進入大數據領域，學習路線是什么？

分享大數據學習路線：

第一階段為JAVASE+MYSQL+JDBC

主要學習一些Java語言的概念，如字符、流程控制、面向對象、進程線程、枚舉反射等，學習MySQL數據庫的安裝卸載及相關操作，學習JDBC的實現原理以及Linux基礎知識，是大數據剛入門階段。

第二階段為分布式理論簡介

主要講解CAP理論、數據分布方式、一致性、2PC和3PC、大數據集成架構。涉及的知識點有Consistency一致性、Availability可用性、Partition tolerance分區容忍性、數據量分布、2PC流程、3PC流程、哈希方式、一致性哈希等。

第三階段為數據存儲與計算（離線場景）

主要講解協調服務ZK(1T)、數據存儲hdfs(2T)、數據存儲alluxio(1T)、數據采集flume、數據采集logstash、數據同步Sqoop(0.5T)、數據同步datax(0.5T)、數據同步mysql-binlog(1T)、計算模型MR與DAG(1T)、hive(5T)、Impala(1T)、任務調度Azkaban、任務調度airflow等。

第四部分為數倉建設

主要講解數倉倉庫的歷史背景、離線數倉項目-伴我汽車（5T）架構技術解析、多維數據模型處理kylin（3.5T）部署安裝、離線數倉項目-伴我汽車升級后加入kylin進行多維分析等；

第五階段為分布式計算引擎

主要講解計算引擎、scala語言、spark、數據存儲hbase、redis、ku，并通過某p2p平臺項目實現spark多數據源讀寫。

第六階段為數據存儲與計算（實時場景）

主要講解數據通道Kafka、實時數倉druid、流式數據處理flink、SparkStreaming，并通過講解某交通大數讓你可以將知識點融會貫通。

第七階段為數據搜索

主要講解elasticsearch，包括全文搜索技術、ES安裝操作、index、創建索引、增刪改查、索引、映射、過濾等。

第八階段為數據治理

主要講解數據標準、數據分類、數據建模、圖存儲與查詢、元數據、血緣與數據質量、Hive Hook、Spark Listener等。

第九階段為BI系統

主要講解Superset、Graphna兩大技術，包括基本簡介、安裝、數據源創建、表操作以及數據探索分析。

第十階段為數據挖掘

主要講解機器學習中的數學體系、Spark Mlib機器學習算法庫、Python scikit-learn機器學習算法庫、機器學習結合大數據項目。

對大數據分析有興趣的小伙伴們，不妨先從看看大數據分析書籍開始入門！B站上有很多的大數據教學視頻，從基礎到高級的都有，還挺不錯的，知識點講的很細致，還有完整版的學習路線圖。也可以自己去看看，下載學習試試。

很赞哦!（53338）