在 Ubuntu 22 的基礎上進行 Hadoop 偽分散式（HDFS）的搭建

来源:https://www.cnblogs.com/liubaili/archive/2023/03/02/16884942.html
-Advertisement-
Play Games

一、使用VMware安裝Ubuntu虛擬機 在Linux系統各個發行版中，Ubuntu系統在服務端和桌面端使用占比最高，網路上資料最是齊全，所以這裡使用Ubuntu LTS。 整體的系統安裝文件較大(>1G)，這裡採用了迅雷加速下載。迅雷下載地址：下載迅雷工具 下載地址：Download Ubunt ...


一、使用VMware安裝Ubuntu虛擬機

在Linux系統各個發行版中，Ubuntu系統在服務端和桌面端使用占比最高，網路上資料最是齊全，所以這裡使用Ubuntu LTS。

整體的系統安裝文件較大(>1G)，這裡採用了迅雷加速下載。迅雷下載地址：下載迅雷工具

下載地址：Download Ubuntu Desktop。

 

對於虛擬機，這裡採用VMware，因為在諸多免費軟體裡面VMware是最好用的。

VMware 官網鏈接 https://www.vmware.com/

使用版本：VMware Workstation 16 Pro

百度一個秘鑰就好了，有很多可以查得到的。

 

推薦可以再下個Xshell用於操作終端。

Xshell免費版官網下載地址：https://www.xshell.com/zh/free-for-home-school/

 

這裡採用的是來自CSDN博客的流程，圖文相當詳細所以就不再繼續贅述。

唯一需要強調一下的是在“13. 設置磁碟容量，並選擇 "將虛擬磁碟拆分成多個文件" 。（這裡的磁碟大小看個人需求，大於等於推薦的大小）”時，可以將磁碟大小調大一點，像我這裡選擇的是80GB，這並不是意味著會馬上占用你電腦80GB，而是一個類似上限的意思，這東西初始設置好改，後面不夠用了就很麻煩，所以初始給多一點。

二、偽分散式平臺搭建

Part1: 準備工作

首先按 ctrl+alt+t 打開終端視窗，輸入如下命令創建新用戶 。這條命令創建了可以登陸的 hadoop 用戶，並使用 /bin/bash 作為 shell。

sudo useradd -m hadoop -s /bin/bash
  • sudo命令: 本文中會大量使用到sudo命令。sudo是ubuntu中一種許可權管理機制，管理員可以授權給一些普通用戶去執行一些需要root許可權執行的操作。當使用sudo命令時，就需要輸入您當前用戶的密碼。

接著使用如下命令設置密碼，如果提示密碼過於簡單可以無視，只要兩次相同即可：

sudo passwd hadoop

可為 hadoop 用戶增加管理員許可權，方便部署：

sudo adduser hadoop sudo

然後切換到新建的hadoop用戶下：

su hadoop

更新 apt，在 Ubuntu 中使用 apt 來下載安裝軟體，如果沒更新可能有一些軟體安裝不了。

sudo apt-get update

按照下圖依次點擊 ① ②：

 選擇“其他”然後選擇阿裡雲鏡像伺服器。這等效於我們平時在 Windows 系統下安裝 python 包時使用清華鏡像站。

 選擇關閉後會提醒你信息過時

 後續操作將不再需要圖形化界面，故建議使用 xshell 軟體，下麵演示一下，如不需要可以直接跳轉至Part2。

  • step1：查詢本機的ip地址：
  • step2：建立Windows與虛擬機的連接。
  • step3：連接建議勾選“記住用戶名”“記住密碼”

Part2: SSH無密碼登錄配置

安裝vim，提示時按y即可：

sudo apt-get install vim

  安裝SSH，配置無密碼登錄：

sudo apt-get install openssh-server

 SSH首次登陸提示)，輸入 yes 。然後按提示輸入密碼，利用 ssh-keygen 生成密鑰，並將密鑰加入到授權中：

ssh localhost
exit
cd ~/.ssh/                     # 若沒有該目錄，再執行一次ssh localhost
ssh-keygen -t rsa              # 會有提示，都按回車就可以
cat ./id_rsa.pub >> ./authorized_keys  # 加入授權

此時再用 ssh localhost 命令，無需輸入密碼就可以直接登錄了。

Part3: JDK的安裝與配置

我們需要先將 JDK1.8 （目前企業中主流的 java 版本仍然是 jdk1.8）下載到電腦。

然後將文件上傳到 Ubuntu 中，這裡我採用的是 rz 的上傳方式，需要借用 xshell 工具。

cd ~
sudo mkdir Downloads # 創建 ~/Downloads 目錄用來存放下載的文件
cd Downloads     # 進入目標目錄
rz            # 上傳文件到 Ubuntu 系統中

解壓 JDK 文件：

cd /usr/lib
sudo mkdir jvm # 創建/usr/lib/jvm目錄用來存放JDK文件
cd ~ # 進入hadoop用戶的主目錄
cd Downloads  
sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm  # 把JDK文件解壓到 /usr/lib/jvm 目錄下

配置環境變數：

cd ~
vim ~/.bashrc

在文件中輸入以下內容後，按 Esc 鍵，輸入“:wq”保存並退出

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

執行如下命令讓.bashrc文件的配置立即生效：

source ~/.bashrc

驗證環境變數是否生效：

java -version

如果能夠在屏幕上返回如下信息，則說明安裝成功：

Part4: Hadoop的安裝與配置

首先，你需要下載一個 hadoop-3.3.4.tar.gz（這是一個官網鏈接），當然你也可以下載 3.1.3 的版本，這並沒有很大的改變。

然後使用同樣的方法將文件上傳到 Ubuntu 中。

cd ~/Downloads     # 進入目標目錄
rz            # 上傳文件到 Ubuntu 系統中

將 Hadoop 安裝至 /usr/local/ 中：

sudo tar -zxvf ~/Downloads/hadoop-3.3.4.tar.gz -C /usr/local    # 解壓到/usr/local中
cd /usr/local/
sudo mv ./hadoop-3.3.4/ ./hadoop            # 將文件夾名改為hadoop
sudo chown -R hadoop ./hadoop       # 修改文件許可權

驗證 hadoop 是否安裝成功：

cd /usr/local/hadoop
bin/hadoop version

如果能夠在屏幕上返回如下信息，則說明安裝成功：

Part5: Hadoop偽分散式的搭建

Hadoop 的配置文件位於 /usr/local/hadoop/etc/hadoop/ 中，偽分散式需要修改2個配置文件 core-site.xml 和 hdfs-site.xml 。Hadoop的配置文件是 xml 格式，每個配置以聲明 property 的 name 和 value 的方式來實現。

修改配置文件 core-site.xml

vim etc/hadoop/core-site.xml

將原先的<configuration></configuration>改為下麵的內容：

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

修改配置文件 hdfs-site.xml：

vim etc/hadoop/hdfs-site.xml

將原先的<configuration></configuration>改為下麵的內容：

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/data</value>
    </property>
</configuration>

配置完成後，執行 NameNode 的格式化:

cd /usr/local/hadoop
bin/hdfs namenode -format

成功格式化返回樣例（部分）：

STARTUP_MSG: Starting NameNode
STARTUP_MSG:   host = hadoop/127.0.1.1
STARTUP_MSG:   args = [-format]
STARTUP_MSG:  version = 3.3.4

如果在這一步時提示 Error: JAVA_HOME is not set and could not be found. 的錯誤，首先你要確定前面關於JDK的環境變數配置文件中沒有出現問題。然後，到hadoop的安裝目錄修改配置文件“/usr/local/hadoop/etc/hadoop/hadoop-env.sh”，在裡面找到“export JAVA_HOME=${JAVA_HOME}”這行，然後，把它修改成JAVA安裝路徑的具體地址，比如，“export JAVA_HOME=/usr/lib/jvm/default-java”，再次啟動Hadoop。

接著開啟 NameNode 和 DataNode 守護進程：

cd /usr/local/hadoop
sbin/start-all.sh  #start-all.sh是個可執行文件，中間沒有空格

對於偽分散式可以用 start-dfs.sh 啟動hadoop，等效於前面的 start-all.sh。

如果啟動 Hadoop 時遇到輸出非常多“ssh: Could not resolve hostname xxx”的異常情況，可通過設置 Hadoop 環境變數來解決。首先按鍵盤的 ctrl + c 中斷啟動，然後在 ~/.bashrc 中，增加如下兩行內容（設置過程與 JAVA_HOME 變數一樣，其中 HADOOP_HOME 為 Hadoop 的安裝目錄）：

export HADOOP_HOME=/usr/local/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native

啟動完成後，可以通過命令 jps 來判斷是否成功啟動，若成功啟動則會列出如下進程: "NameNode"、"DataNode" 和 "SecondaryNameNode"（如果 SecondaryNameNode 沒有啟動，請運行 sbin/stop-all.sh 關閉進程，然後再次嘗試啟動嘗試）。如果沒有 NameNode 或 DataNode ，那就是配置不成功，請仔細檢查之前步驟。由於我前面執行的命令為 start-all.sh，所以是下麵這個樣子。

 

成功啟動後，可以訪問 Web 界面 http://localhost:9870 （由於hadoop版本不同，可能你需要訪問的埠號是50070）以及  http://localhost:8088 查看 NameNode 和 Datanode 信息，還可以線上查看 HDFS 中的文件。

 

 

偽分散式到此就搭建完成啦！

下麵會再補充一些報錯以及解決方案

 

 （1）若是 DataNode 沒有啟動，可嘗試如下的方法（註意這會刪除 HDFS 中原有的所有數據，如果原有的數據很重要請不要這樣做）

cd /usr/local/hadoop
sbin/stop-all.sh   # 關閉
rm -r ./tmp     # 刪除 tmp 文件，註意這會刪除 HDFS 中原有的所有數據
./bin/hdfs namenode -format   # 重新格式化 NameNode
sbin/start-all.sh  # 啟動

 

（2）解決 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable警告問題 

vim ~/.bashrc
# 添加以下內容
export JAVA_LIBRARY_PATH=/usr/local/hadoop/lib/native

然後重新應用環境變數

source ~/.bashrc

 

（3）當遇到9870埠被占用的問題時，可以通過更改啟動時的埠號來實現啟動，記得先通過 sbin/stop-dfs.sh 關閉服務，然後更改前面的 core-site.xml 文件，往裡面添加以下內容到<configuration></configuration>中間

<property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>localhost:50090</value>
</property>

 

（4）無法訪問網站，這可能是Linux中的防火牆未關閉的問題：

sudo ufw status    # 查看防火牆狀態
sudo ufw disable    # 關閉防火牆

 

 

 

 

啊，好累，這篇寫了巨久

整理：BDT20040


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Python寫一個自動發送直播彈幕的工具，非常好用！
    昨晚回家，表弟在看LOL直播，看得我氣不打一處來，差點就想錘他。 身為程式員的表弟，看直播發彈幕居然還在手動發，當時我就用Python寫了一個自動發送彈幕的腳本送給他用。 好了話不多說，我們直接開搞！ 先看看效果 名字我就打碼了，當然名字不是關鍵，我直接截圖展示算了，GIF的話，太麻煩了。 接下來我 ...
  • Adobe Lightroom 鍵盤快捷鍵_開發速查表分享
    Adobe Lightroom 鍵盤快捷鍵 Adobe Lightroom CC 中 251 個鍵盤快捷鍵的可視化備忘單鍵盤快捷鍵，為開發人員分享快速參考備忘單。 開發速查表大綱 鍵盤快捷鍵 使用面板 導航模塊 使用輔助視窗 在開發模塊中工作 更改視圖和屏幕模式 管理照片和目錄 比較圖庫模塊中的照片 ...
  • 【驗證碼逆向專欄】某驗三代、四代一鍵通過模式逆向分析
    聲明 本文章中所有內容僅供學習交流，抓包內容、敏感網址、數據介面均已做脫敏處理，嚴禁用於商業用途和非法用途，否則由此產生的一切後果均與作者無關，若有侵權，請聯繫我立即刪除！ 本文章未經許可禁止轉載，禁止任何修改後二次傳播，擅自使用本文講解的技術而導致的任何意外，作者均不負責，若有侵權，請在公眾號【K ...
  • Integer使用==比較的問題
    Integer使用==比較的問題 new一個對象 public Integer(int value) { this.value = value; } 自動裝箱 public static Integer valueOf(int i) { if (i >= IntegerCache.low && i ...
  • Fireasy3 揭秘 -- 萬物伊始（依賴註入與服務發現）
    最近在忙於 Fireasy 的重構，3.x 拋棄了 .Net Framework 時代的一些思想和模式，緊密擁抱 .Net Core，但它的思想仍然是開放性和靈活性。今天我主要來說說依賴註入與服務發現。 .Net Core 有自己的一套依賴註入，它的容器暴露給 IServiceCollection， ...
  • WPF學習筆記02-XAML語法
    上一章我們對XAML有個初步的認識了，知道XAML是用來設計UI的，那麼說怎麼設計，基本用法和語法分別是什麼呢？接下來我們就系統的簡單學習一下XAML的一些基本語法吧。 1 - XAML的結構 如果學習過Winform或者其他桌面設計的應該知道我們最終設計的是與人員交互的圖形界面。比如在Winfor ...
  • ASP.NET Core - 依賴註入(四)
    4. ASP.NET Core預設服務 之前講了中間件，實際上一個中間件要正常進行工作，通常需要許多的服務配合進行，而中間件中的服務自然也是通過 Ioc 容器進行註冊和註入的。前面也講到，按照約定中間件的封裝一般會提供一個 User{Middleware} 的擴展方法給用戶使用，而服務註冊中也有一個 ...
  • 搭建兩台web伺服器基於HAProxy實現負載均衡
    環境： DNS伺服器：192.168.10.200 僅主機模式 internet伺服器：192.168.10.123 僅主機模式 web1：10.0.0.100 （安裝apache2）NAT模式 web2：10.0.0.18 （安裝httpd） NAT模式 HAProxy伺服器：10.0.0.8（配 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類