一、準備工作 主機個數:n台 操作系統:CentOS 6.5 安裝所需軟體包: CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel CDH-5.4.0-1.c ...
一、準備工作
主機個數:n台
操作系統:CentOS 6.5
安裝所需軟體包:
CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz
CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel
CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha #將下載的 CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha1重命名為CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha
manifest.json
JDK: jdk-7u67-linux-x64.rpm
MySql driver: mysql-connector-java-5.1.26-bin.jar
軟體下載地址:
CDH下載地址: http://archive.cloudera.com/cdh5/
其中parcels地址:http://archive.cloudera.com/cdh5/parcels/5.4.0
CM下載地址:http://www.cloudera.com/downloads/manager/5-4-3.html
CM安裝官方文檔說明:
http://www.cloudera.com/documentation/enterprise/5-4-x/topics/installation_installation.html
二、系統環境配置
1、配置網路環境
- 將主機修改為靜態IP
- 修改主機名及對應的IP
2、SHH設置免密碼登錄
ssh-keygen -t rsa #生成密鑰文件
ssh-copy-id 主機名 #將生成的公鑰文件copy到指定主機
3、關閉防火牆
service iptables stop #關閉防火牆
chkconfig iptables off #關閉開機啟動
4、關閉SELinux
setenforce 0 #臨時關閉
vi /etc/selinux/config 修改SELINUX=disabled #永久生效
5、配置時間同步
yun install ntp
chkconfig ntp on
ntpdate -u ntp.sjtu.edu.cn #如果此時間伺服器無效,可網上找尋其他時間伺服器
6、安裝JDK
Jdk版本官網要求:1.7.0_67 1.7.0_75 1.8.0_60
安裝準備好的rpm包:rpm –ivh jdk-7u67-linux-x64.rpm
配置環境變數
vi ~/.bash_profile
#JAVA export JAVA_HOME=/usr/java/jdk1.7.0_67 export PATH=$PATH:$JAVA_HOME/bin
source ~/.bash_profile
7、安裝mysql
官網推薦 5.1、5.5、5.6版本
安裝:yum install mysql-server
修改許可權:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION;
flush privileges;
8、下載第三方依賴包
yum install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb –y
三、安裝CM
1、安裝CM Agent和Server
在agent和server主機上創建目錄
mkdir /opt/cloudera-manager
將安裝包解壓到指定目錄
tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager
2、創建用戶 cloudera-scm
在所有節點上執行
useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
3、配置CM Agent
修改配置文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中的server_host和server_port。server_port預設為7182。
4、配置CM Server資料庫
拷貝mysql驅動
cp mysql-connector-java-5.1.26-bin.jar /usr/share/java/mysql-connector-java.jar
執行mysql命令
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
配置庫
cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm
其中node1為server主機名
5、創建parcel目錄
Server節點
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
Agent節點
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
6、上傳CDH本地源
上傳CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel
CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha
manifest.json
文件到/opt/cloudera/parcel-repo
7、啟動CM Server和Agent
cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/
./cloudera-scm-server start
運行很慢,可通過log跟蹤啟動過程。
./cloudera-scm-agent start
在所有agent節點上,都要啟動
8、訪問CM
用戶名、密碼:admin
接下來就可以安裝想要的CDH服務了。
CM安裝服務的配置文件存放位置: /etc/
CM安裝服務的運行日誌位置: /var/log/
CM安裝服務的包文件存放位置: /opt/cloudera/parcels/CDH-5.4.0-1.cdh5.4.0.p0.27/