Flink基本概念

来源:https://www.cnblogs.com/ALittleMoreLove/archive/2018/08/14/9474056.html
-Advertisement-
Play Games

Flink基本概念 1.The history of Flink? 2.What is Flink? Apache Flink是一個開源的分散式、高性能、高可用、準確的流處理框架,主要由Java代碼實現,支持實時流(stream)處理和批(batch)處理,批數據只是流數據的一個極限的特例。原生支持 ...


Flink基本概念

1.The history of Flink?

2.What is Flink?

Apache Flink是一個開源的分散式高性能高可用準確的流處理框架,主要由Java代碼實現,支持實時流(stream)處理和批(batch)處理,批數據只是流數據的一個極限的特例。原生支持了迭代管理、記憶體計算和程式優化。

3.The Feature of Flink?

流式優先(streaming-first:連續處理),容錯(fault-tolerant:有狀態的計算),可伸縮(scalable:可支持上千個節點),性能(performance:高吞吐-每秒處理的數據量很大、低延遲-數據產生時Flink立刻可以處理掉 數據的產生到處理間隔的時間很短)。

4.The Architecture of Flink?

(1)部署deploy : 支持local(single jvm)、支持cluster(standalone、yarn)、支持cloud(GCE、EC2)  (2)核心core : 分散式流處理框架  (3)APIs : DataStream API、DataSet API  (4)Libraries : DataStream API -- CEP、Table,DataSet API -- FLinkML、Gelly、Table

5.The basic components of Flink?

Data Source、Transformations、Data Sink

6.The Distributed Execution about Flink?

7.The different between Batch Processing and Streaming Processing?

流處理是一個節點把一條記錄處理完後序列化到緩存里另一個節點立刻把數據從緩存中拉過去進行處理,批處理是一個節點處理一條記錄放入緩存中另一個節點不會立刻從緩存中拉取記錄直到所有的記錄都執行完為止在統一從緩存裡拉取數據。

8.The diagram of Flink Cluster? 

9.The application scene of Flink?

優化電商網站的實時搜索結果如阿裡巴巴的實時更新產品細節使用Flink,實時更新庫存細節使用Blink。

10.Flink vs Storm vs Spark Streaming vs Trident?

Flink可以通過設置閾值來實現流處理或批處理,如果將閾值設為0那麼就相和Storm一樣的實時流處理來一條數據處理一條,真正的實現了低延遲但是相對的吞吐量會降低,如果閾值設為無限大相當於批處理一樣那麼吞吐量會提高卻無法實現低延遲的效果,當然根據實際情況可以吧把值設為合適的值。Storm就是實時流處理來一條數據處理一條,保證數據至少被處理一次,所以可能會處理重覆,其他三者都是保證了僅一次的處理。Spark Streaming是微批處理(mirco-batching),本質上不屬於實時流處理,而是每隔一定的時間段會處理一次數據,一批一批的小批量處理。Trident是基於Storm的一個封裝,是一批一批的小批量處理。

11.Flink execution process?

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 有個字典表並定期維護,對DBA和開發很重要,終於把他們整合在一起了,看有沒問題? 一條SQL生成數據字典,包含所有OPEN用戶、表名、欄位名、欄位序號、欄位屬性、預設值、是否非空、欄位意思、主鍵標識、外鍵標識、主鍵表名、主鍵欄位名、外鍵表名、外鍵欄位名、外鍵名、外鍵標識、外鍵表用戶其中聯合外鍵會出現 ...
  • 轉自:http://www.maomao365.com/?p=6227 摘要: 下文將製作一個isnumber驗證整型的函數,供在sql腳本中做數值判斷,如下所示: 例: 實現原理:判斷 是否包含特殊字元,是否全部為0-9的自然數組成 ...
  • 正則表達式最能解決: 例如: 這裡主要是註意正則表達式要寫對,該轉義的註意轉義,否則報錯。 ...
  • 1.工程maven依賴包 2.spark載入資料庫中數據 3.spark支持載入多種資料庫,僅需要用戶依賴不同的資料庫驅動包,並且代碼進行微調即可 根據以上java代碼,僅需調整18行,更改驅動載入類即可。 ...
  • 方法1,建立臨時表,利用hive的collect_set 進行去重。 2,方法2, 利用row_number 去重 比如,我有一大堆的表格, 表格內容大多類似,只是有些許差別。 現在的需求是把我要統計所有的表格中,都有哪些欄位,也就是把所有的表格整合成一張大表 則可以利用row_number 進行去 ...
  • 1. Elasticsearch 常用API 1.1.數據輸入與輸出 1.1.1.Elasticsearch 文檔 #在 Elasticsearch 中,術語 文檔 有著特定的含義。它是指最頂層或者根對象, 這個根對象被序列化成 JSON 並存儲到 Elasticsearch 中,指定了唯一 ID。 ...
  • 轉自:http://www.maomao365.com/?p=6567 摘要: 下文講述sql腳本模擬for迴圈的寫法,如下所示: ...
  • 轉自:http://www.maomao365.com/?p=6410 摘要: 下文主要分享從指定字元串或列中獲取數字信息,如下所示: 實驗環境:sql server 2000 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 本文介紹一款使用 C# 與 WPF 開發的音頻播放器,其界面簡潔大方,操作體驗流暢。該播放器支持多種音頻格式(如 MP4、WMA、OGG、FLAC 等),並具備標記、實時歌詞顯示等功能。 另外,還支持換膚及多語言(中英文)切換。核心音頻處理採用 FFmpeg 組件,獲得了廣泛認可,目前 Git ...
  • OAuth2.0授權驗證-gitee授權碼模式 本文主要介紹如何筆者自己是如何使用gitee提供的OAuth2.0協議完成授權驗證並登錄到自己的系統,完整模式如圖 1、創建應用 打開gitee個人中心->第三方應用->創建應用 創建應用後在我的應用界面,查看已創建應用的Client ID和Clien ...
  • 解決了這個問題:《winForm下,fastReport.net 從.net framework 升級到.net5遇到的錯誤“Operation is not supported on this platform.”》 本文內容轉載自:https://www.fcnsoft.com/Home/Sho ...
  • 國內文章 WPF 從裸 Win 32 的 WM_Pointer 消息獲取觸摸點繪製筆跡 https://www.cnblogs.com/lindexi/p/18390983 本文將告訴大家如何在 WPF 裡面,接收裸 Win 32 的 WM_Pointer 消息,從消息裡面獲取觸摸點信息,使用觸摸點 ...
  • 前言 給大家推薦一個專為新零售快消行業打造了一套高效的進銷存管理系統。 系統不僅具備強大的庫存管理功能,還集成了高性能的輕量級 POS 解決方案,確保頁面載入速度極快,提供良好的用戶體驗。 項目介紹 Dorisoy.POS 是一款基於 .NET 7 和 Angular 4 開發的新零售快消進銷存管理 ...
  • ABP CLI常用的代碼分享 一、確保環境配置正確 安裝.NET CLI: ABP CLI是基於.NET Core或.NET 5/6/7等更高版本構建的,因此首先需要在你的開發環境中安裝.NET CLI。這可以通過訪問Microsoft官網下載並安裝相應版本的.NET SDK來實現。 安裝ABP ...
  • 問題 問題是這樣的:第三方的webapi,需要先調用登陸介面獲取Cookie,訪問其它介面時攜帶Cookie信息。 但使用HttpClient類調用登陸介面,返回的Headers中沒有找到Cookie信息。 分析 首先,使用Postman測試該登陸介面,正常返回Cookie信息,說明是HttpCli ...
  • 國內文章 關於.NET在中國為什麼工資低的分析 https://www.cnblogs.com/thinkingmore/p/18406244 .NET在中國開發者的薪資偏低,主要因市場需求、技術棧選擇和企業文化等因素所致。歷史上,.NET曾因微軟的閉源策略發展受限,儘管後來推出了跨平臺的.NET ...
  • 在WPF開發應用中,動畫不僅可以引起用戶的註意與興趣,而且還使軟體更加便於使用。前面幾篇文章講解了畫筆(Brush),形狀(Shape),幾何圖形(Geometry),變換(Transform)等相關內容,今天繼續講解動畫相關內容和知識點,僅供學習分享使用,如有不足之處,還請指正。 ...
  • 什麼是委托? 委托可以說是把一個方法代入另一個方法執行,相當於指向函數的指針;事件就相當於保存委托的數組; 1.實例化委托的方式: 方式1:通過new創建實例: public delegate void ShowDelegate(); 或者 public delegate string ShowDe ...