yarn的學習之1-架構

来源:http://www.cnblogs.com/lzfhope/archive/2017/06/28/7079832.html
-Advertisement-
Play Games

本文翻譯自http://hadoop.apache.org/docs/r2.8.0/hadoop-yarn/hadoop-yarn-site/YARN.html 譯註:原文說得有些過於簡單的,並且有些混亂。 yarn由兩個部分的守護程式構成:資源管理、調度/監控。 這樣就要求有個全局資源管理器(re ...


本文翻譯自http://hadoop.apache.org/docs/r2.8.0/hadoop-yarn/hadoop-yarn-site/YARN.html

譯註:原文說得有些過於簡單的,並且有些混亂。

 

yarn由兩個部分的守護程式構成:資源管理、調度/監控。

這樣就要求有個全局資源管理器(resoureManager-rm)和與應用一一對應的管理程式(applicationMaster-am).

一個應用要麼是一個作業,要麼就是由作業構成的dag(多個job--多個job)

Yarn的數據計算框架由rm和節點管理器(nodemanager -nm)構成.rm負責管理所有應用的資源。nm其實是容器的代理,負責監控資源使用(cpu,記憶體,磁碟,網路),並向rm/調度器報告有關信息。

am從rm獲取資源,並和nm協調工作,執行和監控任務。

 

譯註: dag-directed acycli graph --有向無環圖

參閱:

dag圖相對比較簡單,適合yarn的作業結構,如果太複雜,實現起來有點困難,而且目前暫時沒有那個必要。一個有向有環圖更可能用於流程處理。

圖1-yarn框架

譯註:在上圖中,有兩個客戶,分別提交了一個作業。yarn集群的組件分佈在4個節點上,其中一個運行rm,另外三個運行nm。am則運行在兩個數據節點上,分別用於關於關於兩個客戶的需求。

  • 紫色客戶的應用主程式運行在右上節點,但它的工作實際中右邊中間一個節點執行。
  • 粉褐客戶的應用主程式運行在右中節點,實際工作分佈在右上和右下兩個節點上。
  • 粉褐客戶的資源需求大體是紫色的兩倍。
  • 註意:一個節點上可以有多個容器

nm必須和dn運行在一起,可以方便地收集dn的資源信息。

 

資源管理器

資源管理器有兩個主要的部分:作業調度器和應用主程式.

作業調度器

作業調度器負責為應用分配資源(譯註,如果是這麼說,也許理解為資源調度器,就好比生活中火車調度站-負責為每個商業合同分配車皮)。

調度器不監控也不追蹤應用的狀態。

調度器不保證任務的成功,不管任務是因為由於應用還是硬體的故障。

調度器根據應用的資源需求,執行調度功能;它僅僅工作於資源容器上,後者包含諸如記憶體,cpu,磁碟和網路等等。

調度器具有一個可拔插的策略--根據不同隊列,應用等,把集群資源進行劃分。當前版本的調度器具有CapacitySchedulerFairScheduler  這兩個策略。

譯註:

  • CapacityScheduler--容量調度器,大體可以理解為根據要求來分配資源。瞭解這個很重要,因為不是所有客戶的需求都是一樣的,需要分輕重緩急。
  • FairScheduler--公平到調度器,大體可以理解為所有的應用的資源需求都是一致的。

應用主程式

應用主程式負責接收作業提交,並找到第一個可用的容器,如果容器有故障,能重啟容器。此外am還負責從調度器中獲得資源,並追蹤和監測任務。

 

資源預訂(resource reservation)

yarn支持預訂系統(ReservationSystem),用戶可以提前預定資源,這樣保留出來的資源可以用於執行一些重要的作業。

預訂系統不停地追蹤資源,處理預訂,並不時提醒調度器,讓後者確保所有的預訂能夠得到滿足。

譯註:yarn的預訂,不失為一個有趣有用的功能。很多系統中,這些功能的實現,主要靠認為操作來實現。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 轉自:http://www.cnblogs.com/daiweilai/p/4421340.html 侵刪 目錄 前言逼優雞知己知彼 百戰不殆抽刀斷Bug 普通操作 全局斷點(Global BreakPoint) 條件斷點(Condational Breakpoints)列印的藝術 NSLog 開啟 ...
  • 一、介紹 MVP(Model View Presenter)架構是從著名的MVC(Model View Controller)架構演變而來的。對於在Android應用中開發就可以視為是MVC架構,佈局文件視為View,Activity視為Controller,但是Activity還要控制佈局的更新, ...
  • 音樂播放器後臺之歌曲讀取 1.引言 & 160;& 160;& 160;& 160;C 中可以使用的第三方解決方案實在是不多,可以適用於UWP的解決方案就更少了。經過兩天的不懈努力,我算是基本上完成了讀取MP3文件中的標題、參與創作的藝術家、唱片集等信息,但是很遺憾,對MP3文件封面的讀取沒有實現。 ...
  • 1. 效果圖預覽 2.基本功能 3.基本實現 1. 自定義屬性 2.基本方法 更多用法 詳見代碼,這裡就不全部粘貼了。 3.使用示例: 項目源碼下載 導入自己項目 How to How to How to To get a Git project into your build: To get a ...
  • 備註的大段文本,無法在圖片中體現, 思維導圖源文件放在附件中。使用 Xmind 8 製作。 附件:AndroidAnimation-xmind.zip ...
  • 1. Oracle是大型資料庫而Mysql是中小型資料庫,Oracle市場占有率達40%,Mysql只有20%左右,同時Mysql是開源的而Oracle價格非常高。 2. Oracle支持大併發,大訪問量,是OLTP最好的工具。 3. 安裝所用的空間差別也是很大的,Mysql安裝完後才152M而Or ...
  • 資料庫占用的存儲空間,從高層次來看,可以查看資料庫文件(數據文件,日誌文件)占用的存儲空間,從較細的粒度上來看,分為數據表,索引,分區占用的存儲空間。監控資料庫對象占用的硬碟空間,包括已分配,未分配,和未使用的空間占比,能夠有效地管控存儲空間,合理利用,避免部分文件空間不足,而其他文件浪費空間的問題 ...
  • [20170628]11g修改用戶名.txt--//昨天看了鏈接,提到修改用戶名:http://www.oratea.com/2017/06/26/oracle-11g%e4%bf%ae%e6%94%b9%e7%94%a8%e6%88%b7%e5%90%8d/--//自己也測試看看.1.環境:SCO ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...