Hadoop概要 到底是業務推動了技術的發展，還是技術推動了業務的發展，這個話題放在什麼時候都會惹來一些爭議。 隨著互聯網以及物聯網的蓬勃發展，我們進入了大數據時代。IDC預測，到2020年,全球會有44ZB的數據量。 傳統存儲和技術架構無法滿足需求 。在2013年出版的《大數據時代》一書中，定義了 ...
Hadoop概要
到底是業務推動了技術的發展，還是技術推動了業務的發展，這個話題放在什麼時候都會惹來一些爭議。
隨著互聯網以及物聯網的蓬勃發展，我們進入了大數據時代。IDC預測，到2020年,全球會有44ZB的數據量。 傳統存儲和技術架構無法滿足需求 。在2013年出版的《大數據時代》一書中，定義了大數據的5V特點：Volume(大量)、Velocity(高速)、Variety(多樣)、Value(低價值密度)、Veracity(真實性)。
大數據學習群：119599574
當我們把時間往回看10年，來到了2003年，這一年Google發表《Google File System》，其中提出一個GFS集群中由多個節點組成，其中主要分為兩類：一個Master node，很多Chunkservers。之後於2004年Google發表論文並引入MapReduce。2006年2月，Doug Cutting等人在Nutch項目上應用GFS和 MapReduce思想,並演化為Hadoop項目。
Doug Cutting曾經說過他非常喜歡自己的程式被千萬人使用的感覺，很明顯，他做到了;下圖就是本尊照片，帥氣的一塌糊塗
2008年1月, Hadoop成為Apache的開源項目。
Hadoop的出現解決了互聯網時代的海量數據存儲和處理，其是一種支持分散式計算和存儲的框架體系。假如把Hadoop集群抽象成一臺機器的話，理論上我們的硬體資源(CPU、Memoery等)是可以無限擴展的。
Hadoop通過其各個組件來擴展其應用場景，例如離線分析、實時處理等。
Hadoop相關組件介紹
本文主要是依據Hadoop2.7版本，後面沒有特殊說明也是按照此版本
HDFS
HDFS,Hadoop Distributed File System (Hadoop分散式文件系統)被設計成適合運行在通用硬體(commodity hardware)上的分散式文件系統。它和現有的分散式文件系統有很多共同點，例如典型的Master/Slave架構(這裡不准備展開介紹);然而HDFS是一個高度容錯性的系統，適合部署在廉價的機器上。
關於HDFS主要想說兩點。
HDFS中的預設副本數是3，這裡涉及到一個問題為什麼是3而不是2或者4。
機架感知(Rack Awareness)。
只有深刻理解了這兩點才能理解為什麼Hadoop有著高度的容錯性，高度容錯性是Hadoop可以在通用硬體上運行的基礎。
Yarn
Yarn,Yet Another Resource Negotiator(又一個資源協調者)，是繼Common、HDFS、MapReduce之後Hadoop 的又一個子項目。Yarn的出現是因為在Hadoop1.x中存在如下幾個問題：
擴展性差。JobTracker兼備資源管理和作業控制兩個功能。
可靠性差。在Master/Slave架構中,存在Master單點故障。
資源利用率低。Map Slot (1.x中資源分配的單位)和Reduce Slot分開,兩者之間無法共用。
無法支持多種計算框架。MapReduce計算框架是基於磁碟的離線計算 模型,新應用要求支持記憶體計算、流式計算、迭代式計算等多種計算框架。
Yarn通過拆分原有的JobTracker為：
全局的 ResourceManager(RM)。
每個Application有一個ApplicationMaster(AM)。
由Yarn專門負責資源管理,JobTracker可以專門負責作業控制,Yarn接替 TaskScheduler的資源管理功能,這種松耦合的架構方式 實現了Hadoop整體框架的靈活性。
Hive
Hive的是基於Hadoop上的數據倉庫基礎構架，利用簡單的SQL語句(簡稱HQL)來查詢、分析存儲在HDFS的數據。並且把SQL語句轉換成MapReduce程式來數據的處理。
Hive與傳統的關係資料庫主要區別在以下幾點：
存儲的位置 Hive的數據存儲在HDFS或者Hbase中，而後者一般存儲在裸設備或者本地的文件系統中。
資料庫更新 Hive是不支持更新的，一般是一次寫入多次讀寫。
執行SQL的延遲 Hive的延遲相對較高，因為每次執行HQL需要解析成MapReduce。
數據的規模上 Hive一般是TB級別，而後者相對較小。
可擴展性上 Hive支持UDF/UDAF/UDTF，後者相對來說較差。
HBase
HBase，是Hadoop Database，是一個高可靠性、高性能、面向列、可伸縮的分散式存儲系統。它底層的文件系統使用HDFS，使用Zookeeper來管理集群的HMaster和各Region server之間的通信，監控各Region server的狀態，存儲各Region的入口地址等。
HBase是Key-Value形式的資料庫(類比Java中的Map)。那麼既然是資料庫那肯定就有表，HBase中的表大概有以下幾個特點：
大：一個表可以有上億行，上百萬列(列多時，插入變慢)。
面向列：面向列(族)的存儲和許可權控制，列(族)獨立檢索。
稀疏：對於為空(null)的列，並不占用存儲空間，因此，表可以設計的非常稀疏。
每個cell中的數據可以有多個版本，預設情況下版本號自動分配，是單元格插入時的時間戳。
HBase中的數據都是位元組，沒有類型( 因為系統需要適應不同種類的數據格式和數據源，不能預先嚴格定義模式 )。
Spark
Spark是由伯克利大學開發的分散式計算引擎，解決了海量數據流式分析的問題。Spark首先將數據導入Spark集群，然後再通過基於記憶體的管理方式對數據進行快速掃描 ，通過迭代演算法實現全局I/O操作的最小化，達到提升整體處理性能的目的，這與Hadoop從“計算”找“數據”的實現思路是類似的。
Other Tools
Phoneix
基於Hbase的SQL介面，安裝完Phoneix之後可以適用SQL語句來操作Hbase資料庫。
Sqoop
Sqoop的主要作用是方便不同的關係資料庫將數據遷移到Hadoop，支持多種資料庫例如Postgres，Mysql等。
Hadoop集群硬體和拓撲規劃
規劃這件事情並沒有最優解，只是在預算、數據規模、應用場景下之間的平衡。
硬體配置
Raid
首先Raid是否需要，在回答這個問題之前，我們首先瞭解什麼是Raid0以及Raid1。
Raid0是提高存儲性能的原理是把連續的數據分散到多個磁碟上存取，這樣，系統有數據請求就可以被多個磁碟並行的執行，每個磁碟執行屬於它自己的那部分數據請求。這種數據上的並行操作可以充分利用匯流排的帶寬，顯著提高磁碟整體存取性能。( 來源百度百科 )
當Raid0與Hadoop結合在一起會產生什麼影響呢?
優勢：
提高IO。
加快讀寫。
消除單塊磁碟的讀寫過熱的情況。
然而在Hadoop系統中，當Raid0中的一塊磁碟數據出現問題(或者讀寫變得很慢的時候)時，你需要重新格式化整個Raid，並且數據需要重新恢復到DataNode中。整個周期會隨著數據的增加而逐步增加。
其次Raid0的瓶頸是Raid中最慢的那一塊盤，當你需要替換其中最慢的那一塊盤的時候就會重新格式化整個Raid然後恢複數據。
RAID 1通過磁碟數據鏡像實現數據冗餘，在成對的獨立磁碟上產生互 為備份的數據。當原始數據繁忙時，可直接從鏡像拷貝中讀取數據，因此RAID 1可以提高讀取性能。RAID 1是磁碟陣列中單位成本最高的，但提供了很高的數據安全性和可用性。當一個磁碟失效時，系統可以自動切換到鏡像磁碟上讀寫，而不需要重組失效的數據。( 來源百度百科 )
所以Raid1的本質是提高數據的冗餘，而Hadoop本身預設就是3個副本，所以當存在Raid1時候，副本數將會變成6，將會提高系統對於硬體資源的需求。
所以在Hadoop系統中不建議適用Raid的，其實更加推薦JBOD，當一塊磁碟出現問題時，直接unmount然後替換磁碟(很多時候直接換機器的)。
集群規模及資源
這裡主要依據數據總量來推算集群規模，不考慮CPU以以及記憶體配置。
一般情況來說，我們是根據磁碟的的需求來計算需要機器的個數。
首先我們需要調研整個系統的當量以及增量數據。
舉個例子來說，假如現在系統中存在8T的數據，預設副本數為3，那麼所需要的存儲=8T*3/80% = 30T左右。
每台機器存儲為6T，則數據節點個數為5。
加上Master節點，不考慮HA的情況下，大概是6台左右機器。
軟體配置
根據業務需求是否需要配置HA方案進行劃分,由於實際場景複雜多變，下麵方案僅供參考。
1.非HA方案
一般考慮將所有的管理節點放在一臺機器上，同時在數據節點上啟動若幹個Zookeeper服務(奇數)。
管理節點：NameNode+ResourceManager+HMaster
數據節點：SecondaryNameNode
數據節點：DataNode +RegionServer+Zookeeper
2.HA方案
在HA方案中，需要將Primary Node 與Standby Node 放在不同的機器上，一般在實際場景中，考慮到節省機器，可能會將不同的組件的Master節點進行交叉互備，如A機器上有Primary NameNonde 以及 Standby HMaster ，B機器上有Standby NameNode 以及 Primary Master。
管理節 點：NameNode(Primary)+HMaster(Standby)
管理節點：NameNode(Standby)+HMaster(Primary)
管理節點：ResourceManager
數據節點：DataNode +RegionServer+Zookeeper
Hadoop的設計目標和適用場景
其實在上面的 Hadoop概要 上我們就可以看到Hadoop當初的設計目標是什麼。Hadoop在很多場合下都是大數據的代名詞。其主要是用來處理半結構以及非結構數據(例如MapReduce)。
其本質也是通過Mapreduce程式來將半結構化或者非結構化的數據結構化繼而來進行後續的處理。
其次由於Hadoop是分散式的架構，其針對的是大規模的數據處理，所以相對較少的數據量並不能體現Hadoop的優勢。例如處理GB級別的數據量，利用傳統的關係型資料庫的速度可能相對較快。
基於上述來看Hadoop的適用場景如下：
離線日誌的處理(包括ETL過程，其實本質就是基於Hadoop的數據倉庫)。
大規模並行計算。
Hadoop的架構解析
Hadoop由主要由兩部分組成：
分散式文件系統(HDFS)，主要用於大規模的數據存儲。
分散式計算框架MapReduce，其主要用來對HDFS上的數據進行運算處理。
HDFS主要由NameNode(Master)以及DataNode(Slave)組成。前者主要是對命名空間管理：如對HDFS中的目錄、文件和塊做類似 文件系統的創建、修改、刪除、列表文件和目錄等基本操作。後者存儲實際的數據塊，並與NameNode保持一定的心跳。
MapReduce2.0的計算框架本質是有Yarn來完成的，Yarn是關註點分離的思路，由Yarn專門負責資源管理 ，JobTracker可以專門負責作業控制，Yarn接替 TaskScheduler的資源管理功能，這種松耦合的架構方式 實現了Hadoop整體框架的靈活性。
MapReduce工作原理和案例說明
MapReduce可謂Hadoop的精華所在，是用於數據處理的編程模型。MapReduce從名稱上面可以看到Map以及Reduce兩個部分。其思想類似於先分後合，Map對與數據進行抽取轉換，Reduce對數據進行彙總。其中需要註意的是Map任務將輸出結果存儲在本地磁碟,而不是HDFS。
在我們執行MapReduce的過程中，根據Map與資料庫的關係大體上可以分為三類：
數據本地
機架本地
跨機架
從上述幾種可以看出來，假設一個MapReduce過程中存在大量的數據移動對於執行效率來說是災難性。
MapReduce數據流
從數據流來看MapReduce的關係大體可以分為以下幾類：
單Reduce
多Reduce
無Reduce
然而無論什麼MapReduce關係如何，MapReduce的執行流程都如下圖所示：
其中在執行每個Map Task時，無論Map方法中執行什麼邏輯，最終都是要把輸出寫到磁碟上。如果沒有Reduce階段，則直接輸出到HDFS上。如果有Reduce作業，則每個Map方法的輸出在寫磁碟前線在記憶體中緩存。每個Map Task都有一個環狀的記憶體緩衝區，存儲著Map的輸出結果，預設100m，在每次當緩衝區快滿的時候由一個獨立的線程將緩衝區的數據以一個溢出文件的方式存放到磁碟，當整個Map Task結束後再對磁碟中這個Map Task產生的所有溢出文件做合併，被合併成已分區且已排序的輸出文件。然後等待Reduce Task來拉數據。
上述這個過程其實也MapReduce中赫赫有名的 Shuffle 過程。
MapReduce實際案例
Raw Data
原始的數據文件是普通的文本文件，每一行記錄中存在一個年份以及改年份中每一天的溫度。
Map
Map過程中，將每一行記錄都生成一個key，key一般是改行在文件中的行數(Offset)，例如下圖中的0，106代表第一行、第107行。其中 粗體 的地方代表年份以及溫度。
Shuffle
該過程中獲取所要的記錄組成鍵值對{年份，溫度}。
Sort
將上一步過程中的相同key的value組成一個list，即{年份，List<溫度>}，傳到Reduce端。
Reduce
Reduce端對list進行處理，獲取最大值，然後輸出到HDFS中。
大數據學習QQ群：119599574
