VMware虛擬機下安裝hadoop1.x

来源:http://www.cnblogs.com/W-Yentl/archive/2017/09/18/7545892.html
-Advertisement-
Play Games

這是Hadoop學習全程記錄第1篇,在這篇里我將介紹一下如何在Linux下安裝Hadoop1.x。 先說明一下我的開發環境: 虛擬機:VMware8.0; 操作系統:CentOS6.4; 版本:jdk1.8;hadoop1.2.1 ①下載hadoop1.2.1,網盤:鏈接:http://pan.ba ...


這是Hadoop學習全程記錄第1篇,在這篇里我將介紹一下如何在Linux下安裝Hadoop1.x。 

先說明一下我的開發環境: 

虛擬機:VMware8.0;

操作系統:CentOS6.4;

版本:jdk1.8;hadoop1.2.1


①下載hadoop1.2.1,網盤:鏈接:http://pan.baidu.com/s/1pKGWVG3 密碼:cbvh
下載jdk1.8,網盤:鏈接:http://pan.baidu.com/s/1o8brEh8 密碼:d64e

將 jdk-8u144-linux-x64.tar.gz 解壓至 /home/wyt/jdk8 文件夾下,將 hadoop-1.2.1.tar.gz 解壓至 /home/wyt/hadoop 文件夾下。


②配置jdk及hadoop環境變數:修改/etc/profile文件

vim /etc/profile
//輸入I,進入編輯模式
export JAVA_HOME=/home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib
export HADOOP_HOME=/home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
//按Esc,按Shift,輸入:wq
source /etc/profile //保存並退出

③測試

java,javac,java -version
hadoop

④修改hadoop配置文件


<!-- hadoop-env.sh -->

export JAVA_HOME
=/usr/java/jdk8 <!-- core-site.xml --> <property> <name>hadoop.tmp.dir</name> <value>/hadoop</value> </property> <property> <name>dfs.name.dir</name> <value>/hadoop/name</value> </property> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property> <!-- hdfs-site.xml --> <property> <name>dfs.data.dir</name> <value>/hadoop/data</value> </property> <!-- mapred-site.xml --> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property>

併在hadoop安裝目錄下新建data、name、tmp文件夾。

⑤名稱節點格式化,並查看運行狀態

hadoop namenode -format
//cd 命令切換至 hadoop/bin/文件夾下,輸入 ls 命令查看
start-all.sh
jps //查看運行狀態,運行正常的話需要多次輸入密碼
//最後結果為:
// Jps
// JobTracker
// NameNode
// DataNode
// SecondaryNameNode
// NodeManager 


⑥測試hdfs

//常用hdfs命令:
hadoop fs -ls /查看目錄
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看內容
hadoop fs -rmr /output:刪除文件/文件夾

附:linux常用命令:

cd ..          //返回上級目錄
cd ~         //返回Home目錄
cd /          //返回根目錄
cd var/     //進入var/文件夾下(使用tab)

su -         //超級管理員模式
ifconfig    //查看ip

附:其他常用linux操作軟體:

//windows與虛擬機centos文件傳輸:
filezilla;Xftp 5;或者安裝VMware Tools(可便捷使用剪切板及文件複製功能)
//脫離虛擬機centos輸入命令行:
Xshell 5

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 摘要: ——致開源多模型資料庫ArangoDB 在中國市場的“山寨友” 今天在簡書讀到一篇文章,說的是關於 abuse 開源項目的協議開放性,突然之間產生了好大的共鳴。因為最近一直在負責德國開源多模型資料庫——ArangoDB 在中國市場的溝通交流工作,就在兩周前,在中國突然出現了一個 Arango ...
  • MySQL ODBC 3.51 Driver - Access Denied 同事反饋在應用伺服器上配置MySQL ODBC 3.51 Drive時,測試連接MySQL資料庫時報下麵錯誤: ERROR [HYT00] [MySQL][ODBC 3.51 Driver]Access denied fo... ...
  • 某天訪問某個資料庫的時候,系統報錯。連上去看了一下,伺服器是SQL2008R2。由於有上次修複的經驗,先使用DBCC查看資料庫情況。 DBCC的返回: XXXXXXXXXXX發生異常資料庫 ID 7,頁 (1:1350625) 已標記為 RestorePending,可能表明磁碟已損壞。要從此狀態恢 ...
  • 指定列之後添加: ALTER TABLE 表名 ADD 添加的新列名 INT AFTER 指定列之後 第一個位置: ALTER TABLE 表名 ADD 添加的新列名 varchar(20) AFTER FIRST 查詢所有: select * from 表 指定列: select 列名 from ...
  • --set_account_data 重新生成用戶編號 BEGIN DECLARE temp_id INT(8); /*用戶id*/ DECLARE temp_manager INT(8); /*上級id*/ DECLARE temp_accounter_no VARCHAR(64); /*上級編碼 ...
  • 1. cast()的用法 MySQL中大多數類型轉化可以使用cast(值 as 目標類型)的語法來完成。 cast後面必須緊接著左括弧: mysql> select cast(123 as char); + + | cast(123 as char) | + + | 123 | + + 1 row ...
  • 本文主要講述數據挖掘分析領域中,最常用的四種大數據分析方法:描述型分析、診斷型分析、預測型分析和指令型分析。 ...
  • MongoDB: jar包 下載地址: https://oss.sonatype.org/content/repositories/releases/org/mongodb/ mongodb的基本安裝使用: 參考地址: http://www.cnblogs.com/sxdcgaq8080/p/614 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...