Hadoop 新生報道(三) hadoop基礎概念

来源:http://www.cnblogs.com/alexfly/archive/2017/07/31/7263202.html
-Advertisement-
Play Games

一.NameNode,SeconderyNamenode,DataNode NameNode,DataNode,SeconderyNamenode都是進程,運行在節點上。 1.NameNode:hadoop的主節點, 保存HDFS的元數據信息 1.fsimage - 它是在NameNode啟動時對整 ...


  一.NameNode,SeconderyNamenode,DataNode

 

  NameNode,DataNode,SeconderyNamenode都是進程,運行在節點上。

  1.NameNode:hadoop的主節點, 保存HDFS的元數據信息

     1.fsimage - 它是在NameNode啟動時對整個文件系統的快照      2.edit logs - 它是在NameNode啟動後,對文件系統的改動序列      2.SeconderyNamenode:  職責是合併NameNode的edit logs到fsimage文件中,幫助NameNode    

  3.DataNode : 響應來自 HDFS 客戶機的讀寫請求。它們還響應來自 NameNode 的創建、刪除和複製塊的命令。NameNode 依賴來自每個 DataNode 的定期心跳(heartbeat)消息。每條消息都包含一個塊報告,NameNode 可以根據這個報告驗證塊映射和其他文件系統元數據。如果 DataNode 不能發送心跳消息,NameNode 將採取修複措施,重新複製在該節點上丟失的塊。

 

  一.HDFS相關概念  

 

  1.HDFS : Hadoop分散式文件系統(Hadoop Distributed File System)   2.數據塊:存儲時為了方便傳輸和提高容錯率,把文件分為多個數據塊,hadoop1.x 是64M,hadoop2.x 是128M   3.複製因數:hdfs文件會在多個節點進行備份,預設數量為3(現在配置的是偽分散式,只有一個)         在hdfs-site.xml 中配置   <property>           <name>dfs.replication</name>         <value>1</value>     </property>   4.fsimage文件: FSImage文件是HDFS中名位元組點NameNode上文件/目錄元數據在特定某一時刻的持久化存儲文件。   5.edits文件: 操作日誌文件,由NameNode或者SeconderyNamenode讀取對fsimage文件進行更改   6.安全模式: 安全模式是hadoop的一種保護機制,用於保證集群中的數據塊的安全性。   當集群啟動的時候,會首先進入安全模式。當系統處於安全模式時會檢查數據塊的完整性。   這時,不允許客戶端進行任何修改文件的操作,包括上傳文件,刪除文件,重命名,創建文件夾等操作。   正常情況下,安全模式會運行一段時間自動退出的,只需要我們稍等一會就行了,到底等多長時間呢,我們可以通過50070埠查看安全模式退出的剩餘時間

  

  三.常見HDFS shell命令

 

  1.查看目錄 hadoop fs -ls hdfs目錄(根目錄為 /)   2.創建目錄 hadoop fs -mkdir -p hdfs路徑 (-p是可以創建多級目錄)   3.刪除目錄 hadoop fs -rmdir hdfs目錄 (只能刪除空目錄)   4.刪除文件 hadoop fs -rm -r hdfs路徑 (加-r可迴圈刪除非空目錄)   5.上傳文件 hadoop fs -put 文件在本機的路徑  hdfs路徑   6.下載文件 hadoop fs -get 文件在hdfs路徑  文件在本機要放置的路徑   7.查看文件 hadoop fs -cat 文件在hdfs的路徑   8.查看健康模式 hdfs dfsadmin -safemode get

  

  


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 事務概述事務指的是邏輯上的一組操作(多條sql語句),組成這組操作的各個單元要麼全都成功,要麼全都失敗. 事務的作用保證在一個事務中多次操作要麼全都成功,要麼全都失敗. mysql事務操作Connection介面中有和事務有關的方法: void setAutoCommit(boolean autoC ...
  • 1、關於spring配置文件中對於redis的配置 2、配置自定義的RedisAPI,對redis資料庫的管理 3、redis相關依賴 ...
  • OpenCV是一個跨平臺的電腦視覺庫,可以運行在Windows、Linux、MacOS等操作系統上。OpenCV提供了眾多語言的介面,其中就包含了Python,Python是一門上手容易、使用起來十分讓人愉悅的語言,利用Python學習OpenCV,相信能更快的獲得效果。 OpenCV的官方下載網 ...
  • phpMyAdmin 是一個用PHP編寫的軟體工具,可以通過web方式控制和操作MySQL資料庫。通過phpMyAdmin 可以完全對資料庫進行操作,例如建立、複製和刪除數據等等。如果使用合適的工具,MySQL資料庫的管理就會變得相當簡單。應用 MySQL 命令行方式需要對 MySQL 知識非常熟悉 ...
  • 轉:http://blog.csdn.net/songyang516/article/details/6758256 1重定向 1.1 重定向符號> 輸出重定向到一個文件或設備 覆蓋原來的文件>! 輸出重定向到一個文件或設備 強制覆蓋原來的文件>> 輸出重定向到一個文件或設備 追加原來的文件< 輸入 ...
  • 功能: 複製文件或目錄說明: cp指令用於複製文件或目錄,如同時指定兩個以上的文件或目錄,且最後的目的地是一個已經存在的目錄,則它會把前面指定的所有文件或目錄複製到此目錄中。若同時指定多個文件或目錄,而最後的目的地並非一個已存在的目錄,則會出現錯誤信息參數: -a 或 --archive 此參數的效 ...
  • Jenkins安裝 為了相容生產環境的jdk1.7版本,從官網得知,Jenkins必須是1.6之前的版本,因此下載jenkins-1.596.3-1.1.noarch.rpm到本地進行安裝: #移動到rpm包所在目錄 rpm -ivh jenkins-1.596.3-1.1.noarch.rpm 安... ...
  • Flume + Solr + log4j搭建web日誌採集系統 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...