Flink的TaskManager啟動(源碼分析)

来源:https://www.cnblogs.com/ljygz/archive/2019/08/26/11414206.html
-Advertisement-
Play Games

通過啟動腳本已經找到了TaskManager 的啟動類org.apache.flink.runtime.taskexecutor.TaskManagerRunner 來看一下它的main方法中 最後被start了起來 start其實是將taskManager 端的RPC服務起起來了 看一下TaskM ...


通過啟動腳本已經找到了TaskManager 的啟動類org.apache.flink.runtime.taskexecutor.TaskManagerRunner

來看一下它的main方法中

最後被start了起來

start其實是將taskManager 端的RPC服務起起來了

看一下TaskManagerRunner的構造方法中

調用了這個startTaskManager()方法,在這個方法中又調用了

在這個方法中.fromConfiguration()

看到創建了一個networkEnevironment並且把它起了起來其中

因為flink的網路是走的netty,可以看到它會初始化netty的客戶端和服務端用於網路通信並且傳入了bufferPool池,這個在以後隨緣更新到 反壓 會詳細的研究

回到fromConfiguration()方法

network.start以後它又

創建了記憶體管理類memoryManager和io管理類IOmanager, 這裡以後隨緣更新講到記憶體和IO單獨說

需要註意的是這裡的Async非同步IO,其實目前flink只有這一種非同步的IO管理器

創建了定時器服務,定時器留到視窗在講

回到startTaskManager()方法的最後

這個類TaskExecutor就是前面說的包含了RPC介面的類主要是實現了介面

 

裡面包含了一些重要的方法的實現,來看一下有哪些重要的方法

可以看到這是請求slot的

這是啟動Task的其中這個tdd就包含了一些任務的信息上下游inputGate,resultPartition等 具體job啟動的時候詳細講一下

這個方法也是比較重要的,可以看到這是一個觸發checkPoint的RPC,這裡可能會有疑問為什麼Chenkpoint這個RPC會在TaskManager端

可以先簡單的看下具體實現

看到這裡大致就知道了,其實這個RPC是留給Coordinator調用的,會觸發生成Barrier的邏輯(也就是經常說的,coordinator會在source插入barriers用於分散式快照對齊)隨緣更新到checkpoint的時候在細說吧

這裡TaskManager就差不多啟動起來了,當然TaskManager還有很多服務像什麼HA,Heartbeat,BlobCache也會起起來,這裡就不全部寫出了

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Dos是什麼? 是一個命令行執行的操作系統 ...
  • 安裝環境:CentOS7 64位 MINI版,安裝MySQL5.7 1、配置YUM源 在MySQL官網中下載YUM源rpm安裝包:http://dev.mysql.com/downloads/repo/yum/ 檢查mysql源是否安裝成功 看到上圖所示表示安裝成功。 可以修改yum源,改變預設安裝 ...
  • crond任務調度: 是指系統在某個時間執行特定的命令或程式。 分類:1、系統工作,有些重要的工作必須周而複始地執行,如病毒掃描等;2、個別用戶工作,個別用戶可能希望執行某些程式,如mysql資料庫備份 基本語法: crontab [選項] [-e] 編輯crontab定時任務 [-l] 查詢cro ...
  • 轉載請註明來源 "https://www.cnblogs.com/sogeisetsu/p/11410219.html" 創建git用戶 初始化一個Git倉庫,使用 命令。 添加文件到Git倉庫,分兩步: 使用命令 ,註意,可反覆多次使用,添加多個文件; 使用命令 ,完成上傳到庫 有可能是上傳log ...
  • Slave伺服器的版本要等於或者高於master伺服器 現在的實例是在mysql 5.7上的主從配置 a) master伺服器的my.cnf配置,server_id 推薦用IP的後兩位數字 b) master伺服器授權一個可以數據同步的用戶(這裡的用戶是slave,密碼123456) c) mast ...
  • oracle命令行登錄 創建用戶 創建表空間 用戶授權 用創建的用戶名和密碼登錄oracle資料庫 最該許可權授權 用最高許可權賬號登錄 imp導入dmp 該命令需要在cmd的dos命令視窗直接執行,而不是sqlplus.exe full=y 是導入文件中全部內容 ignore=y相當於,如果沒有的表, ...
  • 最近項目中用到了SSL連接,記錄一下,環境為windows10,Mysql版本為5.6 查看是否支持 SSL 首先在 MySQL 上執行如下命令, 查詢是否 MySQL 支持 SSL: 當 have_ssl 為 YES 時, 表示此時 MySQL 服務已經支持 SSL 了. 如果是 DESABLE, ...
  • 環境:兩台centos環境,安裝mysql(mariadb) web網站的優化: 緩存技術 資料庫緩存 redis 文件緩存 圖片 fastdfs 負載均衡 nginx 資料庫主從備份,讀寫分離 圖解: 在工作中,為了防止數據損壞,使用主從備份這種架構(複製集),為了滿足mysql的性能要求,為了提 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...