GFS(Google File System,谷歌文件系統)----(1)文件系統簡介

来源:https://www.cnblogs.com/zhulovegou/archive/2019/09/02/11448730.html
-Advertisement-
Play Games

分散式文件系統 系統是構建在普通的、廉價的機器上,因此故障是常態而不是意外 系統希望存儲的是大量的大型文件(單個文件size很大) 系統支持兩種類型讀操作:大量的順序讀取以及小規模的隨機讀取(large streaming reads and small random reads.) 系統的寫操作主 ...


分散式文件系統

  • 系統是構建在普通的、廉價的機器上,因此故障是常態而不是意外

  • 系統希望存儲的是大量的大型文件(單個文件size很大)

  • 系統支持兩種類型讀操作:大量的順序讀取以及小規模的隨機讀取(large streaming reads and small random reads.)

  • 系統的寫操作主要是順序的追加寫,而不是覆蓋寫

  • 系統對於大量客戶端併發的追加寫有大量的優化,以保證寫入的高效性與一致性,主要歸功於原子操作record append

  • 系統更看重的是持續穩定的帶寬而不是單次讀寫的延遲GFS架構

 

GFS架構:

由三部分組成:GFS master、GFS Client、GFS chunkserver。其中,GFS master任意時刻只有一個,而chunkserver和gfs client可能有多個。

一份文件被分為多個固定大小的chunk(預設64M),每個chunk有全局唯一的文件句柄 (一個64位的chunk ID),每一份chunk會被覆制到多個chunkserver(預設值是3),以此保證可用性與可靠性。chunkserver將chunk當做普通的Linux文件存儲在本地磁碟上。

GFS master是系統的元數據伺服器,維護的元數據包括:命令空間(GFS按層級目錄管理文件)、文件到chunk的映射,chunk的位置。其中,前兩者是會持久化的,而chunk的位置信息來自於Chunkserver的彙報。

GFS master還負責分散式系統的集中調度:chunk lease管理,垃圾回收,chunk遷移等重要的系統控制。master與chunkserver保持常規的心跳,以確定chunkserver的狀態。

GFS client是給應用使用的API。GFS Client會緩存從GFS master讀取的chunk信息(即元數據),儘量減少與GFS master的交互。

 

讀取數據的流程:

  • 應用程式調用GFS client提供的介面,表明要讀取的文件名、偏移、長度。

  • GFS Client將偏移按照規則翻譯成chunk序號,發送給master

  • master將chunk id與chunk的副本位置告訴GFS client

  • GFS client向最近的持有副本的Chunkserver發出讀請求,請求中包含chunk id與範圍

  • ChunkServer讀取相應的文件,然後將文件內容發給GFS client。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Nginx之HTTPS 1. HTTPS安全證書基本概述 為什麼需要使用HTTPS,因為HTTP不安全,當我們使用http網站時,會遭到劫持和篡改,如果採用https協議,那麼數據在傳輸過程中是加密的,所以黑客無法竊取或者篡改數據報文信息,同時也避免網站傳輸時信息泄露。 那麼我們在實現https時, ...
  • https://developer.aliyun.com/ask/97921?spm=a2c6h.13159736 ...
  • 熊孩子,是一種神奇的生物 他們天不怕,地不怕 破壞力巨大,續航能力又十足 還有《未成年人保護法》為他們保駕護航…… 在家裡受到這些熊孩子的破壞也就算了, 但在公司里,有些同事的破壞力不亞於那些熊孩子 看到伺服器在跑, 他們會這邊戳戳,那邊動動 就倆字——手賤!! 如果不小心, 你熬夜做的工作, 可能 ...
  • 變數: 定義變數的規則: 1)變數名可以由字母、數字和下劃線組成,但不能以數字開頭 2)等號兩側不能有空格 3)變數名一般習慣大寫 將命令的返回值賦值給變數: 1)使用``將命令括起來 2)使用$()來執行 設置環境變數: 基本語法: 1)export 變數名=變數值 將shell變數輸出未環境變數 ...
  • Vim 常用的命令 游標定位; hjkl 上下左右移動 0 $ 跳到行首或行尾 gg shift+G 跳到整個文件的開頭行或者結尾行 1G ,2G,3G........NG ,跳到第1.2.3 N 行開頭 /String(n N 可以迴圈的 上一個下一個切換) 快速定位到某個有String 的 行, ...
  • 1. 操作資料庫 C(Create 創建) R(Retrieve 查詢) U(Update 更新) D(Delete 刪除) (1) 查詢資料庫 1) 查詢所有資料庫名稱 這裡有一個註意的東西,一個Database對應數據目錄中的一個實體文件夾,但是 information_schema 這個資料庫 ...
  • Rewrite基本概述 什麼是rewrite Rewrite主要實現url地址重寫,以及重定向,就是把傳入 的請求重定向到其他 的過程。 rewrite使用場景 1、地址跳轉,用戶訪問www.drz.com這個URL是,將其定向至一個新的功能變數名稱mobile.drz.com 2、協議跳轉,用戶通過htt ...
  • Redis簡介 Redis安裝 Redis配置文件 Redis常用命令 ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...