hadoop集群namenode同時掛datanode

来源:https://www.cnblogs.com/pu20065226/archive/2018/03/20/8608128.html
-Advertisement-
Play Games

背景:(測試環境)只有兩台機器一臺namenode一臺namenode,但集群只有一個結點感覺不出來效果,在namenode上掛一個datanode就有兩個節點,弊端見最後 操作非常簡單(添加獨立節點參照:http://www.cnblogs.com/pu20065226/p/8493316.htm ...


背景:(測試環境)只有兩台機器一臺namenode一臺namenode,但集群只有一個結點感覺不出來效果,在namenode上掛一個datanode就有兩個節點,弊端見最後

操作非常簡單(添加獨立節點參照:http://www.cnblogs.com/pu20065226/p/8493316.html)

1.修改namenode節點的slave文件,增加新節點信息

 

[hadoop@hadoop-master hadoop]$ pwd
/usr/hadoop/hadoop-2.7.5/etc/hadoop
[hadoop@hadoop-master hadoop]$ cat slaves
slave1
hadoop-master
[hadoop@hadoop-master hadoop]$ 

 

 

 

2.啟動新datanodedatanodenodemanger進程

先確認namenode和當前的datanode中,etc/hoadoop/excludes文件中無待加入的主機,再進行下麵操作

[hadoop@slave2 hadoop-2.7.5]$ sbin/hadoop-daemon.sh start datanode
starting datanode, logging to /usr/hadoop/hadoop-2.7.5/logs/hadoop-hadoop-datanode-slave2.out
[hadoop@slave2 hadoop-2.7.5]$ sbin/yarn-daemon.sh start nodemanager
starting datanode, logging to /usr/hadoop/hadoop-2.7.5/logs/yarn-hadoop-datanode-slave2.out
[hadoop@slave2 hadoop-2.7.5]$
91284 SecondaryNameNode
90979 NameNode
91519 ResourceManager
41768 DataNode
41899 NodeManager
41999 Jps
[hadoop@slave2
~]$


3.在NameNode上刷新節點

 

[hadoop@hadoop-master ~]$ hdfs dfsadmin -refreshNodes
Refresh nodes successful
[hadoop@hadoop-master ~]$sbin/start-balancer.sh

4.在namenode查看當前集群情況,

確認節點已經正常加入

 

[hadoop@hadoop-master hadoop-2.7.5]$ hdfs dfsadmin -report
Configured Capacity: 58663657472 (54.63 GB)
Present Capacity: 35990061540 (33.52 GB)
DFS Remaining: 35989540864 (33.52 GB)
DFS Used: 520676 (508.47 KB)
DFS Used%: 0.00%
Under replicated blocks: 12
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0

-------------------------------------------------
Live datanodes (2):

Name: 192.168.48.129:50010 (hadoop-master)
Hostname: hadoop-master
Decommission Status : Normal
Configured Capacity: 38588669952 (35.94 GB)
DFS Used: 213476 (208.47 KB)
Non DFS Used: 16331292188 (15.21 GB)
DFS Remaining: 22257164288 (20.73 GB)
DFS Used%: 0.00%
DFS Remaining%: 57.68%
Configured Cache Capacity: 0 (0 B)
Cache Used: 0 (0 B)
Cache Remaining: 0 (0 B)
Cache Used%: 100.00%
Cache Remaining%: 0.00%
Xceivers: 1
Last contact: Mon Mar 19 19:54:45 PDT 2018


Name: 192.168.48.132:50010 (slave1)
Hostname: slave1
Decommission Status : Normal
Configured Capacity: 20074987520 (18.70 GB)
DFS Used: 307200 (300 KB)
Non DFS Used: 6342303744 (5.91 GB)
DFS Remaining: 13732376576 (12.79 GB)
DFS Used%: 0.00%
DFS Remaining%: 68.41%
Configured Cache Capacity: 0 (0 B)
Cache Used: 0 (0 B)
Cache Remaining: 0 (0 B)
Cache Used%: 100.00%
Cache Remaining%: 0.00%
Xceivers: 1
Last contact: Mon Mar 19 19:54:46 PDT 2018

網頁查看

 

 

 

 

 

 

 

弊端(來源網路):首先NameNode將文件命名空間的狀態保存在狀態中,比如哪個文件塊在哪個datanode上,由於在較大的hadoop集群中,會存在很多文件塊,這樣就會占用NameNode很大的記憶體,所以不會浪費NameNode的計算資源 其次,對於長時間運行的集群來說,NameNode一致將命名空間的狀態變化寫入edits日誌文件,時間久了該文件也會很大,只要將NameNode的存儲規劃的合理,是不會浪費存儲的

hadoop集群重要的是保證namdenode的長期穩定運行,把datanode放在namenode上,增加了namenode的負擔,datanode占用大量的磁碟io,網路流量可能導致hdfs響應慢,錯誤率增加,要進行大量錯誤恢復,這影響集群的穩定性。

至於namenode是否浪費資源,namenode要維護整個集群的(一,二級關係)一、目錄樹,文件元信息,二、塊到數據節點的映射。對於一定規模的集群要消耗大量的記憶體,cpu資源。namenode還會把一級關係持久化到鏡像文件中,並且用編輯日誌保證數據被持久化。這也會占用大量的存儲資源,同事,有大量的datanode節點,可能還有大量的客戶端同namenode進行網路通信。綜上,namenode資源並沒浪費!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • MySQL常見錯誤代碼及代碼說明 1005:創建表失敗 1006:創建資料庫失敗 1007:資料庫已存在,創建資料庫失敗 1008:資料庫不存在,刪除資料庫失敗 1009:不能刪除資料庫文件導致刪除資料庫失敗 1010:不能刪除數據目錄導致刪除資料庫失敗 1011:刪除資料庫文件失敗 1012:不能 ...
  • 本文為mariadb官方手冊:XtraDB/InnoDB File Format的譯文。 原文:https://mariadb.com/kb/en/library/xtradbinnodb-file-format/我提交到MariaDB官方手冊的譯文:https://mariadb.com/kb/z ...
  • 有這樣的一個場景需求:有上億的用戶,要統計這批用戶的登陸情況,例如一周連續登陸,連續三天是是否登陸,一周活躍天數等用戶 存在的挑戰 如果使用文件保存 會有如下問題: 文件分割變得十分麻煩 數據檢索非常不方便 用戶關聯操作複雜 如果使用資料庫表 會有如下問題: 使用redis點陣圖進行存儲(setbit ...
  • NoSQL(NoSQL = Not Only SQL ):非關係型的資料庫。NoSQL有時也稱作Not Only SQL的縮寫,是對不同於傳統的關係型資料庫的資料庫管理系統的統稱。 今天我們可以通過第三方平臺(如:Google,Facebook等)可以很容易的訪問和抓取數據。用戶的個人信息,社交網路 ...
  • 一、安裝環境 MySQL在5.6之前和之後的安裝方式是不一樣的。 自己整理的mysql安裝,主從配置基於這篇安裝:http://www.cnblogs.com/cypress/p/8608496.html 首先保證3306埠的可用,或者關閉防火牆,兩台機子可以互相ping 二、Master的配置 ...
  • 本文為mariadb官方手冊:SET PASSWORD的譯文。 原文:https://mariadb.com/kb/en/library/set-password/我提交到MariaDB官方手冊的譯文:https://mariadb.com/kb/zh-cn/set-password/ 語法 描述 ...
  • 需求:開發要求導入某天某個表的數據,而我們的數據是全庫備份 例如: 從newbei_2017-08-31_402793782.tar.bz2中恢復表:bei_table 的數據 一、備份策略 備份全庫的數據:newbei 二、解壓 tar xvf newbei_2017-08-31_40279378 ...
  • 在安裝MySQL時總會出現一些小問題,導致安裝進度過慢,在百度搜加上自己實際操作,總結的安裝方式,共同進步 一、安裝mysql 1、下載安裝包使用wget命令安裝 2、卸載自帶的Mariadb 3、刪除etc目錄下的my.cnf 4、執行以下命令來創建mysql用戶組 5、執行以下命令來創建一個用戶 ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...