Alluxio原理和應用場景隨筆

来源:https://www.cnblogs.com/cccchhhh/archive/2018/10/31/9886610.html
-Advertisement-
Play Games

Alluxio的基本特性:透明數據緩存機制;抽象數據訪問API;和適用應用場景分析,主要包括複雜系統設計解耦和計算存儲分離應用場景的性能加速。 ...


    上周末有幸參加了Alluxio(之前也叫Tachyon),七牛雲和示說網舉辦的Alluxio上海Meetup,之前我並沒有在真實應用場景中使用過Alluxio,對其適用的應用場景一直報懷疑態度。自信聆聽其創始人的演講之後,感覺這個項目還挺有意思,對Alluxio簡單總結一下:

  • DAL(數據訪問層)

Alluxio DAL

    Alluxio提供了各種文件訪問API,包括相容HDFS的API,Alluxio特有的數據訪問API,Rest API和FUSE API,特別是FUSE API,支持POSIX標準的文件訪問介面,讓很多單機版的程式(如TensorFlow),可以享受大數據和雲端的數據存取。不過它並不支持隨機的文件寫訪問,想想也合理,畢竟底層文件存儲系統可能是HDFS或者S3;

  • 統一數據訪問

    依然如上圖,Alluxio底層的存儲系統可以是亞馬遜的S3,Google的存儲,阿裡雲OSS,也可以是HDFS,甚至是單機的SAS,NFS。讓這些文件系統都可以無縫與現有的大數據平臺(通過HDFS Compatible API),或者單機版軟體(通過FUSE API)完全相容。

  • 透明的文件緩存抽象

    高效訪問數據的時候,如何做好文件緩存,其實對應應用程式開發者而言,有時候出於性能的考慮是非常重要的,Alluxio提供了透明的緩存方案,讓記憶體(DRAM),本地快速存儲器(SSD),本地慢速存儲器(HDD)以及雲端存儲(HDFS/OSS/S3)等,形成一個層次化的緩存機制,讓熱的數據儘可能接近快速訪問設備,這個對於深度學習和其它反覆迭代訪問數據的模型而言,性能的提升就不言而喻了。

 

那麼Alluxio的主要應用場景有哪些呢?

  1. 基於SAS平臺單機應用,想無縫擴容,可以考慮用Alluxio的FUSE API,底層用HDFS或者其它雲端存儲。
  2. 基於HDFS的分散式應用,想訪問單機或者NFS的設備上的文件,可以考慮用HDFS Compatiable API。
  3. 反覆迭代讀取遠端(比如雲端,跨數據中心,跨集群,也可以是超大HDFS集群中加速某個應用的數據訪問)數據,可以部署Alluxio

Alluxio應用場景在傳統的小型集群中可能碰不太到,但是越來越多的應用都是混合雲的情況,特別是數據和計算分離的場景,異構的數據存儲帶來的系統耦合,都可以通過Alluxio來解耦,不過目前Alluxio也有自身的一些問題,多個副本可能同時存在多個Alluxio個節點上,造成了事實上的數據緩存浪費,2.0版本中可能會有所更新。

不過最有意思的,來自與Alluxio初創成員講分散式系統設計中的坑,不完全是針對Alluxio的,而是開發Alluxio類似這種大型分散式系統,肯能碰到的經驗和收穫,包括netty的資源泄露問題,jvm的問題等等,更多細節可以看看示說網Alluxio 2.0 Overview分享。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、ftp安裝 1、安裝vsftpd 命令:yum -y install vsftpd 2、修改ftp配置文件 命令:vim /etc/vsftpd/vsftpd.conf 3、按i進入insert模式後,按以下要求修改 anonymous_enable=YES 改為anonymous_enable ...
  • 一、自述 最近剛剛接觸linux,因為我設置密碼比較隨性,把自己做系統的時候設置的root密碼給forget,每當系統崩潰,重新把虛擬機備份還原後,就面臨無法登陸的尷尬情況,只得重置root密碼,好了,開始記錄我的linux學習歷程—— 二、過程 首先,我們開機,出現如下引導界面,按e,進入內核編輯 ...
  • 雖然我對路由器沒什麼興趣,但是緊跟潮流還是有必要的,現在因為網路閉關鎖國政策,很多人都想自己搭配一臺私人的伺服器,不想被商業公司左右數據安全。我感覺這個是一個商機,建議大家可以朝這個方向發展。這裡最關鍵的一步,其實就是私人智能路由器,俗稱軟路由的搭建。這裡我記錄個人學習LEDE軟路由的經驗,和大家分... ...
  • 工具/原料 win7旗艦版系統 筆記本一臺 WIN7下怎麼安裝iis教程: 點擊開始→控制面板,然後再點擊程式和功能,勿點擊卸載程式,否則到不了目標系統界面。 然後在程式和功能下麵,點擊打開和關閉windows功能。 進入Windows功能視窗,然後看到internet信息服務選項,然後按照圖中設置 ...
  • 1. 首先去官方網站下載壓縮文件:https://dev.mysql.com/downloads/mysql/ 2. 解壓下載的文件。 3. 將解壓的所有文件放在一個文件夾里(最好是C:\Program Files\MySQL\里(Mysql文件夾是自己創建的),其他位置也可以,我安裝在D盤上,下為... ...
  • 實驗機器: Kali虛擬機一臺(192.168.163.133) Windows XP虛擬機一臺(192.168.163.130) 如何用Kali虛擬機一步一步“黑掉”這個windowsXP虛擬機呢? 用到的軟體: SLmail程式(存在緩衝區溢出漏洞) ImmunityDebugger(調試工具) ...
  • linux的資料比較零散,經常是好不容易查到了,然後幾秒鐘就忘了,然後就怎麼都找不到了。看來學這個不能偷懶,必須要隨時隨地把資料給記錄下來。這就是這篇博文的意義。Xfce 一個圖形桌面環境。debian 一個linux發行版。引導提示符,按tab編輯命令行:desktop=xfceX Window ... ...
  • 下麵是我們在使用AlwaysOn過程中遇到的一個切換案例。這個案例發生在2014年8月,雖然時間相對久遠了,但是對我們學習理解AlwaysOn的FailOver原理和過程還是很有幫助的。本次FailOver的觸發原因是系統I/O問題。大家需要理解,操作系統I/O出現了問題不一定立即觸發SQL Ser ...
一周排行
    -Advertisement-
    Play Games
  • 前言 本文介紹一款使用 C# 與 WPF 開發的音頻播放器,其界面簡潔大方,操作體驗流暢。該播放器支持多種音頻格式(如 MP4、WMA、OGG、FLAC 等),並具備標記、實時歌詞顯示等功能。 另外,還支持換膚及多語言(中英文)切換。核心音頻處理採用 FFmpeg 組件,獲得了廣泛認可,目前 Git ...
  • OAuth2.0授權驗證-gitee授權碼模式 本文主要介紹如何筆者自己是如何使用gitee提供的OAuth2.0協議完成授權驗證並登錄到自己的系統,完整模式如圖 1、創建應用 打開gitee個人中心->第三方應用->創建應用 創建應用後在我的應用界面,查看已創建應用的Client ID和Clien ...
  • 解決了這個問題:《winForm下,fastReport.net 從.net framework 升級到.net5遇到的錯誤“Operation is not supported on this platform.”》 本文內容轉載自:https://www.fcnsoft.com/Home/Sho ...
  • 國內文章 WPF 從裸 Win 32 的 WM_Pointer 消息獲取觸摸點繪製筆跡 https://www.cnblogs.com/lindexi/p/18390983 本文將告訴大家如何在 WPF 裡面,接收裸 Win 32 的 WM_Pointer 消息,從消息裡面獲取觸摸點信息,使用觸摸點 ...
  • 前言 給大家推薦一個專為新零售快消行業打造了一套高效的進銷存管理系統。 系統不僅具備強大的庫存管理功能,還集成了高性能的輕量級 POS 解決方案,確保頁面載入速度極快,提供良好的用戶體驗。 項目介紹 Dorisoy.POS 是一款基於 .NET 7 和 Angular 4 開發的新零售快消進銷存管理 ...
  • ABP CLI常用的代碼分享 一、確保環境配置正確 安裝.NET CLI: ABP CLI是基於.NET Core或.NET 5/6/7等更高版本構建的,因此首先需要在你的開發環境中安裝.NET CLI。這可以通過訪問Microsoft官網下載並安裝相應版本的.NET SDK來實現。 安裝ABP ...
  • 問題 問題是這樣的:第三方的webapi,需要先調用登陸介面獲取Cookie,訪問其它介面時攜帶Cookie信息。 但使用HttpClient類調用登陸介面,返回的Headers中沒有找到Cookie信息。 分析 首先,使用Postman測試該登陸介面,正常返回Cookie信息,說明是HttpCli ...
  • 國內文章 關於.NET在中國為什麼工資低的分析 https://www.cnblogs.com/thinkingmore/p/18406244 .NET在中國開發者的薪資偏低,主要因市場需求、技術棧選擇和企業文化等因素所致。歷史上,.NET曾因微軟的閉源策略發展受限,儘管後來推出了跨平臺的.NET ...
  • 在WPF開發應用中,動畫不僅可以引起用戶的註意與興趣,而且還使軟體更加便於使用。前面幾篇文章講解了畫筆(Brush),形狀(Shape),幾何圖形(Geometry),變換(Transform)等相關內容,今天繼續講解動畫相關內容和知識點,僅供學習分享使用,如有不足之處,還請指正。 ...
  • 什麼是委托? 委托可以說是把一個方法代入另一個方法執行,相當於指向函數的指針;事件就相當於保存委托的數組; 1.實例化委托的方式: 方式1:通過new創建實例: public delegate void ShowDelegate(); 或者 public delegate string ShowDe ...