CM (Cloudera Manager) 的安裝,便於CDH的離線部署

来源:http://www.cnblogs.com/one--way/archive/2016/07/18/5681723.html
-Advertisement-
Play Games

一、準備工作 主機個數:n台 操作系統:CentOS 6.5 安裝所需軟體包: CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel CDH-5.4.0-1.c ...


一、準備工作

主機個數:n台

操作系統:CentOS 6.5

 

安裝所需軟體包:

CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz              

CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel                            

                  CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha    #將下載的 CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha1重命名為CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha

                  manifest.json

JDK: jdk-7u67-linux-x64.rpm                   

MySql driver: mysql-connector-java-5.1.26-bin.jar

 

軟體下載地址:

CDH下載地址: http://archive.cloudera.com/cdh5/

               其中parcels地址:http://archive.cloudera.com/cdh5/parcels/5.4.0

CM下載地址:http://www.cloudera.com/downloads/manager/5-4-3.html

 

CM安裝官方文檔說明:

http://www.cloudera.com/documentation/enterprise/5-4-x/topics/installation_installation.html

二、系統環境配置

1、配置網路環境

  • 將主機修改為靜態IP
  • 修改主機名及對應的IP

2、SHH設置免密碼登錄

               ssh-keygen -t rsa        #生成密鑰文件

               ssh-copy-id  主機名   #將生成的公鑰文件copy到指定主機

3、關閉防火牆

               service iptables stop         #關閉防火牆

               chkconfig iptables off       #關閉開機啟動

4、關閉SELinux

               setenforce 0  #臨時關閉

               vi /etc/selinux/config  修改SELINUX=disabled      #永久生效

5、配置時間同步

               yun install ntp    

               chkconfig ntp on

               ntpdate -u ntp.sjtu.edu.cn  #如果此時間伺服器無效,可網上找尋其他時間伺服器

6、安裝JDK

Jdk版本官網要求:1.7.0_67  1.7.0_75  1.8.0_60 

安裝準備好的rpm包:rpm –ivh jdk-7u67-linux-x64.rpm

配置環境變數

vi ~/.bash_profile

#JAVA

export JAVA_HOME=/usr/java/jdk1.7.0_67

export PATH=$PATH:$JAVA_HOME/bin

source ~/.bash_profile

7、安裝mysql

官網推薦 5.1、5.5、5.6版本

安裝:yum install mysql-server

修改許可權:

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION;

flush privileges;

8、下載第三方依賴包

yum install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb –y

 

三、安裝CM 

1、安裝CM Agent和Server

    在agent和server主機上創建目錄

    mkdir /opt/cloudera-manager

    將安裝包解壓到指定目錄

    tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager

2、創建用戶 cloudera-scm

在所有節點上執行

useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

3、配置CM Agent

修改配置文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中的server_host和server_port。server_port預設為7182。

4、配置CM Server資料庫

拷貝mysql驅動

cp mysql-connector-java-5.1.26-bin.jar /usr/share/java/mysql-connector-java.jar

執行mysql命令

grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;

配置庫

cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/

./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm

其中node1為server主機名

5、創建parcel目錄

Server節點

  mkdir -p /opt/cloudera/parcel-repo

  chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo

Agent節點

  mkdir -p /opt/cloudera/parcels

  chown cloudera-scm:cloudera-scm /opt/cloudera/parcels

6、上傳CDH本地源

上傳CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel

          CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha

          manifest.json

文件到/opt/cloudera/parcel-repo

7、啟動CM Server和Agent

 cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/

./cloudera-scm-server start

運行很慢,可通過log跟蹤啟動過程。

./cloudera-scm-agent start

在所有agent節點上,都要啟動

 

8、訪問CM

地址:http://node1:7180

用戶名、密碼:admin


接下來就可以安裝想要的CDH服務了。

 

CM安裝服務的配置文件存放位置: /etc/

CM安裝服務的運行日誌位置:     /var/log/

CM安裝服務的包文件存放位置:  /opt/cloudera/parcels/CDH-5.4.0-1.cdh5.4.0.p0.27/


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • user_tab_columns來源於user_tab_cols,user_tab_cols where hidden_column='NO',引自:http://blog.csdn.net/gumengkai/article/details/50823140 user_all_tables 是 u ...
  • 我執行下邊的sql語句 得到下麵結果 誰能告訴我那一步沒有去重嗎? ...
  • 工作中的問題總結: 問題一:scala 之向下轉型 引言:假如在複雜的業務邏輯中,變數的類型不能確認,只能給個介面類型,這樣數據類型推導不會錯誤,但是後面要使用實現類的類型時,你卻發現轉不過來了? 對於這樣的一個問題,scala可以這樣解決: 首先建造一個介面,People: 這樣定義了一個介面,接 ...
  • sql語言進階 典型操作 order by - select * from play_list order by createtime; - select * from play_list order by bookedcount desc,createtime asc; order by 語句用於 ...
  • 目標與目的 學習目標: 掌握日常資料庫建表操作 瞭解表設計的規範 何為表結構設計: 表結構設計需要在正式進行開發之前完成 根據產品需求將複雜的業務模型抽象出來 項目分析 實踐課程模型: 類似電商類的網站 用戶: 核心業務 非核心業務 核心業務: 交易相關 訂單詳情,訂單 商品相關 商品類別,商品 非 ...
  • memcatch 做單純的日活數據,或者靜態數據緩存 redis 做日活數據? mongodb 不建索引,用以插入數據? mongodb 建立索引,用以緩存用於讀取的歷史不活躍數據? mysql 數據持久化存儲 應該建立一個資料庫CRUD框架,然後對外是封裝好的? 總覺得已經有搭配好的框架了。 ...
  • 原因: 之前已經寫過一篇關於列存儲索引的簡介http://www.cnblogs.com/wenBlog/p/4970493.html,很粗糙但是基本闡明瞭列存儲索引的好處。為了更好的理解列存儲索引,接下來我們一起通過列存儲索引與傳統的行存儲索引地對比2014中的列存儲索引帶來了哪些改善。由於已經很 ...
  • 在一次生成AWR報告中,發現在“Instances in this Workload Repository schema”部分,出現了多個實例記錄信息(host敏感信息被用host1,host2,host3替換)。具體信息如下截圖所示: SQL> @?/rdbms/admin/awrrpt Curr... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...