HDFS High Availability Using the Quorum Journal Manager

来源:https://www.cnblogs.com/cjsblog/archive/2017/12/26/8120198.html
-Advertisement-
Play Games

http://hadoop.apache.org/docs/r2.9.0/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html 背景 在Hadoop 2.0.0以前,在一個HDFS集群中NameNode存在單點故障。每個集群 ...


http://hadoop.apache.org/docs/r2.9.0/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html

背景

在Hadoop 2.0.0以前,在一個HDFS集群中NameNode存在單點故障。每個集群中只有一個NameNode,如果這個機器不可用的話,那麼整個集群將不可用,直到這個機器被重啟或者其它的機器來替代它。這就意味著:

  • 萬一NameNode機器宕機了,那麼整個集群不可用
  • NameNode機器上的軟體或者硬體升級的時候,集群不得不停止運行

HDFS HA在每個集群中運行兩個NameNode,一個是Active的,一個Passive的,作為熱備。

架構

在典型的HA集群中,兩個分開的機器均被配置為NameNode。在任意時刻,只有一個NameNode處於活動狀態,另一個處於備用狀態。處於活動狀態的NameNode負責處理集群中所有客戶端操作,此時處於備用狀態的NameNode只是扮演者slave的角色。這個備用的NameNode維護足夠的狀態,以防快速容災。

備用NameNode為了保持和活動NameNode的狀態同步,這兩個節點用一組單獨的後臺進程進行通信,這個守護進程被叫做“JournalNodes”(簡稱JNs)。當處於活動狀態的NameNode做了任何修改以後,它將修改的日誌傳給大部分JNs。備用的NameNode從JNs中讀取這種修改,並且會把這種改變寫到EditLog中。因為備用NameNode看到這些編輯,所有它將這種改變應用到自己的namespace中。

要想保住HA集群正確的操作,至關重要的一點是,同一時間集群中只能有一個NameNode處於活動狀態。為了保證這一點,JournalNodes只允許同一時間只有一個NameNode可以寫。

硬體資源

為了部署一個HA集群,你需要準備下列資源:

  • NameNode machines:運行活動的和備用的NameNode的機器的硬體配置應該是相等的
  • JournalNode machines:必須至少3個JournalNode,因為Edit Log必須被寫到大多數JNs上。也就是說,可以容忍單個機器失敗。你也可以運行3個以上的JournalNode,但是為了能夠增加系統承受失敗的數量,你應該運行奇數個JNs(比如:3,5,7等等)。當運行的JournalNode數量是N的時候,系統最多可以容忍(N - 1)/ 2個失敗,並且正常服務。

 

其它參考

http://blog.csdn.net/strongerbit/article/details/7013221/

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言: 安裝完CentOS7後,執行#Python與#python -V,看到版本號是2.6,而且之前寫的都是跑在python3.X上面的,3.X和2.X有很多不同,在這裡我就不弊述兩者之間的區別了新python千萬不要把老版本的刪除!新老版本是可以共存的,很多基本的命令、軟體包都要依賴預裝的老版本 ...
  • 常用指令 ls 顯示文件或目錄 -l 列出文件詳細信息l(list) -a 列出當前目錄下所有文件及目錄,包括隱藏的a(all) mkdir 創建目錄 -p 創建目錄,若無父目錄,則創建p(parent) cd 切換目錄 touch 創建空文件 echo 創建帶有內容的文件。 cat 查看文件內容 ...
  • ALL-IN-ONE安裝openstack 操作系統安裝 *************************************************************************************系統:centos7.0記憶體:4G硬碟:80GCPU:4核最小安裝方式安 ...
  • 一不小心把Ubuntu刪東西刪壞了 嗚~ 剛好跟可惡的 下載 文件夾告別了 現在百度上的相關教程多多少少有些問題,多數過時了。 +++++++++++++++++++++說正事專用分隔符+++++++++++++++++++++++++ 我選擇的ibus 框架 然後右上角輸入法設置添加Chinese ...
  • 很無語,CentOS居然php版本才5.1.6,很多開源的CMS無法安裝。 查看php版本命令: #php -v 下麵的命令是刪除不幹凈的 #yum remove php 因為使用這個命令以後再用 #php -v 還是會看到有版本信息的。。。。。 必須強制刪除,使用下麵命令查看全部php軟體包 #r ...
  • echo:Display a line of text,預設會加換行。 -e:escape轉義特殊字元 -n:不要在最後自動換行 no LR cp:文件複製,規則:只有最後一個為目標,複製一個文件到一個文件 或者 多個文件到一個目錄! -r:遞歸複製目錄 -i:互動式顯示覆制 -f:強制複製,覆蓋 ...
  • [20171225]變態的windows批處理4.txt--//昨天學習windows 批處理的echo &.使用它可以實現類似回車換行的功能.例子:1.echo &.R:\>echo 1111 & echo 222211112222--//但是如果寫成如下:R:\>echo 1111 & echo ...
  • 一、yum 簡介 yum,是Yellow dog Updater, Modified 的簡稱,是杜克大學為了提高RPM 軟體包安裝性而開發的一種軟體包管理器。起初是由yellow dog 這一發行版的開發者Terra Soft 研發,用python 寫成,那時還叫做yup(yellow dog up ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...