Hadoop在啟動時的坑——start-all.sh報錯

来源:https://www.cnblogs.com/dongxiucai/archive/2018/08/13/9469820.html
-Advertisement-
Play Games

1、若你用的Linux系統是CentOS的話,這是一個坑: 它會提示你JAVA_HOME找不到,現在去修改文件: 這是CentOS的一個大坑,手動配置JAVA_HOME環境變數。 2、啟動後無NameNode進程 如果在啟動Hadoop,start-all.sh之後一切正常。但是Jps查看進程時發現 ...


1、若你用的Linux系統是CentOS的話,這是一個坑:

  它會提示你JAVA_HOME找不到,現在去修改文件:

.修改hadoop配置文件,手動指定JAVA_HOME環境變數
    [${hadoop_home}/etc/hadoop/hadoop-env.sh]
    ...
    export JAVA_HOME=/soft/jdk
    ...

  這是CentOS的一個大坑,手動配置JAVA_HOME環境變數。

 

2、啟動後無NameNode進程

如果在啟動Hadoop,start-all.sh之後一切正常。但是Jps查看進程時發現進程中少了一個NameNode進程,不要慌張。看看你現在的用戶是否是root用戶,因為種種原因用root用戶啟動時會出現這種情況。現在去建立hadoop專用的用戶。不要直接用root用戶了。特煩。

 

3、一定要設置ssh免密登陸,切記

配置SSH
        1)檢查是否安裝了ssh相關軟體包(openssh-server + openssh-clients + openssh)
            $yum list installed | grep ssh

        2)檢查是否啟動了sshd進程
            $>ps -Af | grep sshd
        
        3)在client側生成公私秘鑰對。
            $>ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
        
        4)生成~/.ssh文件夾,裡面有id_rsa(私鑰) + id_rsa.pub(公鑰)

        5)追加公鑰到~/.ssh/authorized_keys文件中(文件名、位置固定)
            $>cd ~/.ssh
            $>cat id_rsa.pub >> authorized_keys
        
        6)修改authorized_keys的許可權為644.
            $>chmod 644 authorized_keys
        
        7)測試
            $>ssh localhost

4、報以下錯誤:

This script is Deprecated. Instead use start-dfs.sh and start-yarn.sh
15/01/23 20:23:41 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Starting namenodes on [Java HotSpot(TM) Client VM warning: You have loaded library /hadoop/hadoop-2.6.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.
It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'.
hd-m1]
sed: -e expression #1, char 6: unknown option to `s'
-c: Unknown cipher type 'cd'

  不要慌張,看解決方案:

 

主要是環境變數設置好:
    在 /etc/profile  中加入

export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"

然後重新編譯   source  /etc/profile  

並把相同配置添加到hadoop-env.sh文件末尾

  一般情況都能解決。

 

5、報以下錯誤:

  mkdir: cannot create directory ‘/soft/hadoop-2.7.3/logs’: Permission denied

  這是在創建logs時無許可權,原因是/soft目錄的用戶許可權為root,需要修改為hadoop用戶許可權

  註意:hadoop為用戶名,/soft為安裝目錄,因人而異

  解決方案:

1、先切換到root用戶
    su root
2、修改/soft目錄的用戶許可權,記住要遞歸
    chown -R hadoop:hadoop /soft   // -R是遞歸修改
3、查看修改結果
    drwxr-xr-x. 3 hadoop hadoop 4096 8月  11 06:13 hadoop
    drwxr-xr-x. 3 hadoop hadoop 4096 8月  11 06:20 jdk
    修改成功

 

  有幫助的話,點個推薦讓更多人看到


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一.概述 前面介紹了簡單恢復模式和大容量恢復模式,這篇繼續寫完整恢復模式下的備份與還原。在完整恢復模式里最大的優點是只要能成功備份尾日誌,就可以還原到日誌備份內包含的任何時點("時點恢復")。當然對比前二種模式它是犧牲了磁碟I/O性能。 恢復模式 備份策略 數據安全性 I/O性能 簡單恢復 完整備份 ...
  • 1、首先新建用戶,adduser命令 sudo adduser hadoop passwd hadoop 輸入密碼之後,一路 y 確定。 2、添加用戶組 在創建hadoop用戶的同時也創建了hadoop用戶組,下麵我們把hadoop用戶加入到hadoop用戶組下麵 sudo usermod -a - ...
  • 為什麼要有索引?就像為什麼書要有目錄一樣。 索引是什麼東西?和目錄一樣成為書的一部分。 索引是由什麼組成的?原文中具有代表性的一部分。 索引有三種添加方式: 1. 在創建表的時候,直接在列名後面添加 或在後面單獨定義 2. 在表外為其創建 3. 外界進行修改時添加 索引有五種分類: 普通索引, 關鍵 ...
  • 占座 ...
  • Oracle Concepts 11gr2是介紹oracle資料庫的基礎概念的入門書籍,學習這些概念方便於學習其他更深層次的知識。 ...
  • 使用SSMS資料庫管理工具修改數據 修改任意一條或者多條都可以 1:打開資料庫,選擇數據表,右鍵點擊-》編輯所有行(如未配置,點擊編輯前200行)。 2、編輯需要修改的數據-》編輯完成後,右鍵點擊空白處-》選擇執行SQL即可編輯成功。 使用T-SQL腳本修改數據 修改單表中一行單列或者多列數據 語法 ...
  • Flume – 初識flume、source和sink 目錄基本概念常用源 Source常用sink 基本概念  什麼叫flume? 分散式,可靠的大量日誌收集、聚合和移動工具。  events 事件,是一行數據的位元組數據,是flume發送文件的基本單位。  flume配置文件 重命名flum ...
  • 1. innodb_lock_wait_timeout mysql 可以自動監測行鎖導致的死鎖併進行相應的處理,但是對於表鎖導致的死鎖不能自動監測,所以該參數主要用於,出現類似情況的時候等待指定的時間後回滾。系統預設值是50秒。用戶可以根據業務自行設置。生產環境不推薦使用過大的 innodb_loc ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...