hadoop-2.7.1偽分佈環境搭建

来源:http://www.cnblogs.com/thfeng/archive/2016/04/20/5413392.html
-Advertisement-
Play Games

1.準備Linux環境 1.0 點擊VMware快捷方式,右鍵打開文件所在位置 -> 雙擊vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 設置網段:192.168.8.0 子網掩碼:255.255.255.0 -> apply -> ok 回到windo ...


1.準備Linux環境
   1.0 點擊VMware快捷方式,右鍵打開文件所在位置 -> 雙擊vmnetcfg.exe -> VMnet1 host-only ->修改subnet ip 設置網段:192.168.8.0 子網掩碼:255.255.255.0 -> apply -> ok
    回到windows --> 打開網路和共用中心 -> 更改適配器設置 -> 右鍵VMnet1 -> 屬性 -> 雙擊IPv4 -> 設置windows的IP:192.168.8.100 子網掩碼:255.255.255.0 -> 點擊確定
    在虛擬軟體上 --My Computer -> 選中虛擬機 -> 右鍵 -> settings -> network adapter -> host only -> ok 
   1.1 修改主機名
    vim /etc/sysconfig/network
  
    NETWORKING=yes
    HOSTNAME=FTH01  
 
   1.2 修改IP
    兩種方式:
    第一種:通過Linux圖形界面進行修改(強烈推薦)
     進入Linux圖形界面 -> 右鍵點擊右上方的兩個小電腦 -> 點擊Edit connections -> 選中當前網路System eth0 -> 點擊edit按鈕 -> 選擇IPv4 -> method選擇為manual -> 點擊add按鈕 -> 添加                IP:192.168.8.118 子網掩碼:255.255.255.0 網關:192.168.1.1 -> apply
 
    第二種:修改配置文件方式(屌絲程式猿專用)
     vim /etc/sysconfig/network-scripts/ifcfg-eth0
     
     DEVICE="eth0"
     BOOTPROTO="static"              
     HWADDR="00:0C:29:3C:BF:E7"
     IPV6INIT="yeED="yes"
     ONBOOT="yes"
     TYPE="Ethernet"
     UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"
     IPADDR="192.168.8.11"           
     NETMASK="255.255.255.0"         
     GATEWAY="192.168.8.1"        
  

    執行service network restart 命令使設置生效   


   1.3 修改主機名和IP的映射關係
    vim /etc/hosts
   
    192.168.8.11 FTH01
 
   1.4 關閉防火牆
    #查看防火牆狀態
    service iptables status
    #關閉防火牆
    service iptables stop
    #查看防火牆開機啟動狀態
    chkconfig iptables --list
    #關閉防火牆開機啟動
    chkconfig iptables off
 
   1.5 重啟Linux
    reboot

  註意!!!!!!
    centos的位數要與hadoop jdk的位數一致

 

2. 安裝JDK
   2.1 上傳
     通過filezilla軟體上傳文件,或者通過secureCRT
   2.2 解壓jdk
      #創建文件夾
      mkdir /usr/java
      #解壓
      tar -zxvf jdk-7u55-linux-i586.tar.gz -C /usr/java/
  
   2.3 將java添加到環境變數中
      vim /etc/profile
      #在文件最後添加
      export JAVA_HOME=/usr/java/jdk1.7.0_55
      export PATH=$PATH:$JAVA_HOME/bin
 
      #刷新配置
      source /etc/profile
  
3. 安裝hadoop2.7.1

    解壓hadoop安裝文件到/fth/下

    tar -zxvf hadoop文件 -C /fth/
     註意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop
     偽分散式需要修改5個配置文件 /fth/hadoop-2.7.1/conf/
   3.1 配置hadoop
      第一個:hadoop-env.sh
      vim hadoop-env.sh
      #第27行
      export JAVA_HOME=/usr/java/jdk1.7.0_65
  
     第二個:core-site.xml
      <!-- 制定HDFS的老大(NameNode)的地址 -->
      <property>
         <name>fs.defaultFS</name>
         <value>hdfs://FTH01:9000</value>
      </property>
      <!-- 指定hadoop運行時產生文件的存儲目錄 -->
      <property>
         <name>hadoop.tmp.dir</name>
         <value>/itcast/hadoop-2.7.1/tmp</value>
            </property>
  
   第三個:hdfs-site.xml
      <!-- 指定HDFS副本的數量 -->
      <property>
         <name>dfs.replication</name>
         <value>1</value>
           </property>
  
   第四個:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)
    mv mapred-site.xml.template mapred-site.xml
    vim mapred-site.xml
      <!-- 指定mr運行在yarn上 -->
      <property>
         <name>mapreduce.framework.name</name>
         <value>yarn</value>
          </property>
  
    第五個:yarn-site.xml
      <!-- 指定YARN的老大(ResourceManager)的地址 -->
      <property>
         <name>yarn.resourcemanager.hostname</name>
         <value>itcast01</value>
          </property>
      <!-- reducer獲取數據的方式 -->
          <property>
         <name>yarn.nodemanager.aux-services</name>
         <value>mapreduce_shuffle</value>
          </property>
 
   3.2 將hadoop添加到環境變數
 
   vim /etc/proflie
    export JAVA_HOME=/usr/java/jdk1.7.0_65
    export HADOOP_HOME=/itcast/hadoop-2.7.1
    export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

   source /etc/profile
  
   3.3 格式化namenode(是對namenode進行初始化)
    hdfs namenode -format (hadoop namenode -format)
  
   3.4 啟動hadoop
    先啟動HDFS
    sbin/start-dfs.sh
  
    再啟動YARN
    sbin/start-yarn.sh
  
    3.5 驗證是否啟動成功
    使用jps命令驗證
    27408 NameNode
    28218 Jps
    27643 SecondaryNameNode
    28066 NodeManager
    27803 ResourceManager
    27512 DataNode
 
    http://192.168.8.118:50070 (HDFS管理界面)
    http://192.168.8.118:8088 (MR管理界面)
  
4. 配置ssh免登陸
   #生成ssh免登陸密鑰
   #進入到我的home目錄
   cd ~/.ssh

   ssh-keygen -t rsa (四個回車)
   執行完這個命令後,會生成兩個文件id_rsa(私鑰)、id_rsa.pub(公鑰)
   將公鑰拷貝到要免登陸的機器上  cp id_rsa.pub authorized_keys
   ssh-copy-id localhost
   例如 ssh-copy-id 192.168.8.99     將192.168.8.88的公鑰拷給192.168.8.99  以後就可以不用輸入密碼,直接連上192.168.8.99

 

5. 錯誤信息

  查看linux系統的位數  uname -a

 

    1.  Q:Java HotSpot(TM) ClientVM warning: You have loaded library/usr/local/hadoop2.5/lib/native/libhadoop.so.1.0.0which might have disabled stack guard. The VM will try to   fix the stack guardnow.

     A:這個問題的錯誤原因會發生在64位的操作系統上,原因是從官方下載的hadoop使用的本地庫文件都是基於32位編譯的,運行在64位系統上就會出現上述錯誤。

     方案一:在64位系統上重新編譯hadoop;

     方案二:在hadoop-env.sh,yarn-env.sh中添加下兩行: 

      export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_HOME}/lib/native

      export  HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1:iOS 使用NJKWebViewProgress做webview進度條 2:解決輸入框UITextField關於拼音或部首被當作內容響應 這裡主要使用了兩個知識: 輸入法輸入時,拼音字母或者筆畫處於選中狀態,可以使用 markedTextRange 獲取到 普通輸入,以及將輸入法的待選字填入輸入 ...
  • 先把字元串轉換成時間NSDate 然後再把時間轉換成我們需要的時間格式的字元串 其中需要註意的是 EEE 和 MMM 所代表的含義 會隨著 NSDateForMatter 的 Locale 屬性的不同 而改變 當Locale 屬性為 ...
  • 最近在使用iOS的可變數組時出現了一個錯誤,報錯信息為: reason: '-[__NSCFArray removeObjectAtIndex:]: mutating method sent to immutable object' 字面的意思就是可變數組的方法發送給了一個不可變的對象。 聲明和初始 ...
  • 樣式和主題(Styles and Themes) 一個樣式(Style)是一個包含了指定樣子和格式的作用於視圖控制項(View)或者窗體(Window)屬性集合。一個style可以指定很多屬性,比如 高度,填充,字體顏色,字體尺寸,背景色等。一個Style在xml資源文件中定義,並且和在xml中指定的 ...
  • 源文件這裡有http://pan.baidu.com/s/1pLlDm6f UITableView與UISearchController搜索及上拉載入,下拉刷新 ...
  • Swift提供了類似C語言的流程式控制制結構,包括可以多次執行任務的for和while迴圈,基於特定條件選擇執行不同代碼分支的if和switch語句,還有控制流程跳轉到其他代碼的break和continue語句。 除了C裡面傳統的 for 條件遞增迴圈,Swift 還增加了 for-in 迴圈,用來更簡 ...
  • 需求一:將字典轉換成自己需的對象,對象的屬性是字典的key值,直接使用key值獲取數據存在兩個缺點,一是key值難以記憶,二是直接使用key值Xcode不會有智能提示,很容易導致未知的錯誤。使用模型時,可以直接通過點語法將需要的數據點出,保證數據準確無誤。使用模型的優點還在於存儲、傳值都比較方便,不 ...
  • Objective C RunTime System (一、基本結構) === 寫OC也有一段時間了~之前一直在研究Objective C的RunTime,應該稱為Runtime系統,國內博客對Runtime的文章甚少,翻牆查閱文獻大量英文,書籍也翻閱甚多,因為近段時間家裡親人生病,一時很忙,文章斷 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...