NodeManager概述(基本職能和內部架構)

来源:https://www.cnblogs.com/SmallBird-Nest/archive/2019/09/24/11578965.html
-Advertisement-
Play Games

概述 NodeManager是運行在單個節點上的代理,它需要與應用程式的的ApplicationMaster和集群管理者ResourceManager交互: 從ApplicationMaster上接收有關Container的命令並執行之(比如啟動,停止Container); 向ResourceMan ...


概述

NodeManager是運行在單個節點上的代理,它需要與應用程式的的ApplicationMaster和集群管理者ResourceManager交互: 從ApplicationMaster上接收有關Container的命令並執行之(比如啟動,停止Container); 向ResourceManager彙報各個Container運行狀態和節點健康狀況,並領取有關Container的命令(比如清理Container)執行之

NodeManager是YARN中單個節點上的代理,它管理Hadoop集群中單個計算節點,功能包括與ResourceManager保持通信,管理Container的生命周期,監控每個Container的資源使用(記憶體,CPU等)情況,追蹤節點健康狀況,管理日誌和不同應用程式用到的附屬服務

NodeManager基本職能

NodeManager需通過兩個RPC協議與ResourceManager服務和各個應用程式的ApplicationMaster交互
NodeManager1.png

ResourceTrackerProtocol協議

NodeManager通過該RPC協議向ResourceManager註冊,彙報節點健康狀況和Container運行狀態,並領取ResourceManager下達的命令,包括重新初始化,清理Container占用資源等.在該RPC協議中,ResourceManager扮演RPC Server的角色,而NodeManager扮演RPC Client的角色

ResourceTrackerProtocol協議主要提供了以下兩個RPC函數

(1) registerNodeManager

NodeManager啟動時通過該RPC函數向ResourceManager註冊,註冊信息由RegisterNodeManagerRequest封裝的,包括如下三部分內容 :

  • httpPort : 該NodeManager對外提供的HTTP埠號,ResourceManager會在界面上提供一個可直接訪問NodeManager Web界面的超鏈接
  • nodeId : 該NodeManager所在的host和對外的RPC埠號
  • totalResource : 該NodeManager所在節點總的可分配資源,當前支持記憶體和虛擬CPU兩種資源,管理員可通過參數yarn.nodemanager.resource.cpu-vcores和yarn.nodemanager.resource.memory-mb配置

ResourceManager將通過registerNodeManager函數向NodeManager返回一個RegisterNodeManagerResponse類型的對象,主要包含以下信息 :

  • MasterKey : 新生成的Container Token和Node Token的Master Key
  • NodeAction : ResourceManager向該NodeManager返回的下一步操作,主要包括NORMAL,RESYNC,SHUTDOWN三種,分別表示正常,重新同步信息和停止運行
  • rmIdentifier : ResourceManager的標示符,NodeManager通過該標識符判斷ApplicationMaster發送的Container來自原始的還是新啟動的ResourceManager
  • diagnosticsMessage : NodeManager註冊失敗時,將收到一段診斷信息,告知具體的失敗原因

(2) nodeHeartbeat

NodeManager啟動後,定期通過該RPC函數向ResourceManager彙報Container運行信息和節點健康狀況,並領取新的命令,比如殺死一個Container

ContainerManagementProtocol協議

應用程式的ApplicationMaster通過該RPC協議向NodeManager發起針對Container的相關操作,包括啟動Container,殺死Container,獲取Container

ContainerManagementProtocol協議主要提供了以下三個RPC函數 :

  • startContainer : ApplicationMaster通過該RPC要求NodeManager啟動一個Contaienr.該函數有一個StartContainerRequest類型的參數,封裝了Container啟動所需的本地資源,環境變數,執行命令,Token等信息.如果Container啟動成功,則該函數返回一個StartContainerResponse對象
  • stopContainer : ApplicationMaster通過該RPC要求NodeManager停止(殺死)一個Container.該函數有一個StopContainerRequest類型的參數,用於指定待殺死的Container ID.如果Container被成功殺死,則該函數返回一個StopContainerResponse對象
  • getContainerStatus : ApplicationMaster通過該RPC獲取一個Container的運行狀態.該函數參數類型為GetContainerStatusRequest,封裝了目標Container的ID,返回值為封裝了Container當前運行狀態的類型為GetContainerStatusResponse的對象

NodeManager內部架構

NodeManager內部組織結構和主要模塊

  • NodeStatusUpdater : NodeStatusUpdater是NodeManager與ResourceManager通信的唯一通道
  • ContainerManager : ContainerManager是NodeManager中最核心組件之一,它由多個子組件構成,每個子組件負責一部分功能,協作共同管理運行在該節點上的所有Container.各個子組件如下
    • RPC Server : 該RPC Server實現了ContainerManagementProtocol協議,是ApplicationMaster與NodeManager通信的唯一通道
    • ResourceLocalizationService : 負責Container所需資源的本地化.它能夠按照描述從HDFS上下載Container所需的文件資源,並儘量將它們分攤到各個磁碟上以防止出現訪問熱點.此外,它會為下載的文件添加訪問控制限制,併為之施加合適的磁碟空間使用份額
    • ContainersLauncher : 維護了一個線程池以並行完成Container相關操作,比如啟動或者殺死Container,其中啟動Container請求是由ApplicationMaster發起的,而殺死Container請求則可能來自ApplicationMaster或者ResourceManager
    • AuxServices : NodeManager允許用戶通過配置附屬服務的方式擴展自己的功能,這使得每個節點可以定製一些特定框架需要的服務
    • ContainersMonitor : ContainersMonitor負責監控Container的資源使用量
    • LogHandler : 一個可插拔組件,用戶可通過它控制Container日誌的保存方式,即是寫到本地磁碟上還是將其打包後上傳到一個文件系統中
    • ContainerEventDispatcher : Container事件調度器,負責將ContainerEvent類型的事件調度給對應Application的狀態機ApplicationImpl
    • ApplicationEventDispatcher : Application事件調度器,負責將ApplicationEvent類型的事件調度給對應Application的狀態機ApplicationImpl
  • ContainerExecutor : ContainerExecutor可與底層操作系統交互,安全存放Container需要的文件和目錄,進而以一種安全的方式啟動和清除Container對應的進程
  • NodeHealthCheckerService : NodeHealthCheckerService通過周期性地運行一個自定義腳本和向磁碟寫文件檢查節點的健康狀況,並將之通過NodeStatusUpdater傳遞給ResourceManager
  • DeletionService : NodeManager將文件刪除功能服務化,即提供一個專門的文件刪除服務非同步刪除失效文件,這樣可避免同步刪除文件帶來的性能開銷
  • Security : 安全模塊是NodeManager中的一個重要模塊,包含兩部分
    • ApplicationACLsManager : NodeManager需要為所有面向用戶的API提供安全檢查,如在Web UI上只能將Container日誌顯示給授權用戶.該組件為每個應用程式維護了一個ACL列表,一旦收到類似請求後會利用該列表對其進行驗證
    • ContainerTokenSecretManager : 檢查收到的各種訪問請求的合法性,確保這些請求操作已被ResourceManager授權
  • WebServer : 通過Web界面向用戶展示該節點上所有應用程式運行狀態,Container列表,節點健康狀態和Container產生的日誌等信息

NodeManager2.png

我每天會寫文章記錄學習之路,另外我自己整理了些學習資料,目前全部放在我的公眾號"SmallBird技術分享",加入我們一起學習交流,並且回覆’分享’會有各種技術資源驚喜等著你~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • linux就該這麼學-第一節課
    #學習Linux,從小白開始，知識是由淺到深，一步一步慢慢來。總有一天你就是大佬~ 首先學習下關於linux的發展和一些歷史，就像你想瞭解一個人，你得瞭解他的過去，才能足夠瞭解他。 先瞭解下開源共用精神。 複製自由：允許把軟體複製到任何人的電腦中，不限制複製數量 傳播自由：允許軟體以各種形式傳播 收 ...
  • Linux—系統關機命令詳解
    不管是重啟系統還是關閉系統，首先要運行 sync 命令，把記憶體中的數據寫到磁碟中。將數據由記憶體同步寫入到硬碟中。 一、shutdown命令 二、reboot命令 三、halt命令 四、poweroff命令（網上說是halt命令的鏈接，基本用法和 halt 差不多） 五、init命令 Linux系統有 ...
  • 內部命令和外部命令幫助
        查看內部命令和外部命令幫助 一、內部命令   可以用type來判斷該命令是內部命令還是外部命令，type後加要查看的命令. 示例寫法：type enable   有的命令既有內部命令也有外部命令但是系統會優先使用 ...
  • 高通平臺開機LOGO修改LK(bootloader)下實現【轉】
    網路上已經有許多在kernel中修改開機Logo的文章，本文就LK下實現開機logo進行簡述 需要用到ffmpeg工具，沒有安裝ffmpeg請參考這裡： "http://blog.csdn.net/redstarofsleep/article/details/45092145" 運行"ffmpeg ...
  • 第十六章、資料庫之多表關係
    [TOC] 第十六章、資料庫之多表關係 欄位操作 多表關係 外鍵 一對一：無級聯關係 一對一：有級聯關係(外鍵加unique約束) 一對多 多對多 ...
  • 追蹤SQL Server執行delete操作時候不同鎖申請與釋放的過程
    一直以為很瞭解sqlserver的加鎖過程，在分析一些特殊情況下的死鎖之後，尤其是併發單表操作發生的死鎖，對於加解鎖的過程，有了一些重新的認識，之前的知識還是有一些盲區在裡面的。delete加鎖與解鎖步驟是怎麼樣的？什麼時候對那些對象，加什麼類型的瑣，加鎖與索引的關係是怎麼樣的，什麼時候釋放鎖？整個 ...
  • MongoDB分片，唯一索引與upsert
    分片，唯一索引和upsert，錶面上看似沒有直接聯繫的幾個東西，到底存在怎樣的瓜葛呢？ ...
  • 從三層架構邁向領域驅動設計(轉載)
    三層架構 嚴格分層架構模式的特點是上層只能訪問相鄰的下層，其他層次間的調用都不允許。三層架構就是一種嚴格分層模式，它把職責劃分為界面展示、業務邏輯、數據訪問三層，還有一個業務實體，前面三層都要依賴它，所以它並不構成一個層。 三層架構的特點是一種面向過程的編程思想，特點如下： a. 業務實體類中基本上 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類