大數據學習系列之五 ----- Hive整合HBase圖文詳解

来源:http://www.cnblogs.com/xuwujing/archive/2017/12/18/8059079.html
-Advertisement-
Play Games

引言 在上一篇 "大數據學習系列之四 Hadoop+Hive環境搭建圖文詳解(單機)" 和之前的 "大數據學習系列之二 HBase環境搭建(單機)" 中成功搭建了Hive和HBase的環境,併進行了相應的測試。本文主要講的是如何將Hive和HBase進行整合。 Hive和HBase的通信意圖 Hiv ...


引言

在上一篇 大數據學習系列之四 ----- Hadoop+Hive環境搭建圖文詳解(單機) 和之前的大數據學習系列之二 ----- HBase環境搭建(單機) 中成功搭建了Hive和HBase的環境,併進行了相應的測試。本文主要講的是如何將Hive和HBase進行整合。

Hive和HBase的通信意圖

Hive與HBase整合的實現是利用兩者本身對外的API介面互相通信來完成的,其具體工作交由Hive的lib目錄中的hive-hbase-handler-*.jar工具類來實現,通信原理如下圖所示。
這裡寫圖片描述

Hive整合HBase後的使用場景:

(一)通過Hive把數據載入到HBase中,數據源可以是文件也可以是Hive中的表。
(二)通過整合,讓HBase支持JOIN、GROUP等SQL查詢語法。
(三)通過整合,不僅可完成HBase的數據實時查詢,也可以使用Hive查詢HBase中的數據完成複雜的數據分析。

一、環境選擇

1,伺服器選擇

本地虛擬機
操作系統:linux CentOS 7
Cpu:2核
記憶體:2G
硬碟:40G

2,配置選擇

JDK:1.8 (jdk-8u144-linux-x64.tar.gz)
Hadoop:2.8.2 (hadoop-2.8.2.tar.gz)
Hive: 2.1 (apache-hive-2.1.1-bin.tar.gz)
HBase:1.6.2 (hbase-1.2.6-bin.tar.gz)

3,下載地址

官網地址
JDK:
http://www.oracle.com/technetwork/java/javase/downloads
Hadopp:
http://www.apache.org/dyn/closer.cgi/hadoop/common
Hive
http://mirror.bit.edu.cn/apache/hive/
HBase:
http://mirror.bit.edu.cn/apache/hbase/

百度雲盤
鏈接:https://pan.baidu.com/s/1jIemIDC 密碼:uycu

二、伺服器的相關配置

在配置Hadoop+Hive+HBase之前,應該先做一下配置。
做這些配置為了方便,使用root許可權。

1,更改主機名

首先更改主機名,目的是為了方便管理。
輸入:

hostname 

查看本機的名稱
然後更改主機名為master
輸入:

hostnamectl set-hostname master

註:主機名稱更改之後,要重啟(reboot)才會生效。

2,做IP和主機名的映射

修改hosts文件,做關係映射
輸入

vim /etc/hosts

添加
主機的ip 和 主機名稱

192.168.238.128 master

3,關閉防火牆

關閉防火牆,方便訪問。
CentOS 7版本以下輸入:
關閉防火牆

service   iptables stop

CentOS 7 以上的版本輸入:

systemctl stop firewalld.service

4,時間設置

查看當前時間
輸入:

date

查看伺服器時間是否一致,若不一致則更改
更改時間命令

date -s ‘MMDDhhmmYYYY.ss’

5,整體的環境配置

/etc/profile 的整體配置

#Java Config
export JAVA_HOME=/opt/java/jdk1.8
export JRE_HOME=/opt/java/jdk1.8/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib

# Scala Config
export SCALA_HOME=/opt/scala/scala-2.12.2


# Spark Config
export  SPARK_HOME=/opt/spark/spark1.6-hadoop2.4-hive

# Zookeeper Config
export ZK_HOME=/opt/zookeeper/zookeeper3.4

# HBase Config
export HBASE_HOME=/opt/hbase/hbase1.2

# Hadoop Config 
export HADOOP_HOME=/opt/hadoop/hadoop2.8
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"

# Hive Config
export HIVE_HOME=/opt/hive/hive2.1
export HIVE_CONF_DIR=${HIVE_HOME}/conf

export PATH=.:${JAVA_HOME}/bin:${SCALA_HOME}/bin:${SPARK_HOME}/bin:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:${ZK_HOME}/bin:${HBASE_HOME}/bin:${HIVE_HOME}/bin:$PATH

這裡寫圖片描述

註:具體的配置以自己的為準,沒有的不用配置。

三、Hadoop的環境配置

Hadoop的具體配置在大數據學習系列之一 ----- Hadoop環境搭建(單機) 中介紹得很詳細了。所以本文就大體介紹一下。
註:具體配置以自己的為準。

1,環境變數設置

編輯 /etc/profile 文件 :

vim /etc/profile

配置文件:

export HADOOP_HOME=/opt/hadoop/hadoop2.8
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
export PATH=.:${JAVA_HOME}/bin:${HADOOP_HOME}/bin:$PATH

2,配置文件更改

先切換到 /home/hadoop/hadoop2.8/etc/hadoop/ 目錄下

3.2.1 修改 core-site.xml

輸入:

vim core-site.xml

<configuration>
<property>
        <name>hadoop.tmp.dir</name>
        <value>/root/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
   </property>
   <property>
        <name>fs.default.name</name>
        <value>hdfs://master:9000</value>
   </property>
</configuration>

3.2.2修改 hadoop-env.sh

輸入:

vim hadoop-env.sh

將${JAVA_HOME} 修改為自己的JDK路徑

export   JAVA_HOME=${JAVA_HOME}

修改為:

export   JAVA_HOME=/home/java/jdk1.8

3.2.3修改 hdfs-site.xml

輸入:

vim hdfs-site.xml

<property>
   <name>dfs.name.dir</name>
   <value>/root/hadoop/dfs/name</value>
   <description>Path on the local filesystem where theNameNode stores the namespace and transactions logs persistently.</description>
</property>
<property>
   <name>dfs.data.dir</name>
   <value>/root/hadoop/dfs/data</value>
   <description>Comma separated list of paths on the localfilesystem of a DataNode where it should store its blocks.</description>
</property>
<property>
   <name>dfs.replication</name>
   <value>2</value>
</property>
<property>
      <name>dfs.permissions</name>
      <value>false</value>
      <description>need not permissions</description>
</property>

3.2.4 修改mapred-site.xml

如果沒有 mapred-site.xml 該文件,就複製mapred-site.xml.template文件並重命名為mapred-site.xml。
輸入:

vim mapred-site.xml

修改這個新建的mapred-site.xml文件,在

<property>
    <name>mapred.job.tracker</name>
    <value>master:9001</value>
</property>
<property>
      <name>mapred.local.dir</name>
       <value>/root/hadoop/var</value>
</property>
<property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
</property>

3,Hadoop啟動

啟動之前需要先格式化
切換到/home/hadoop/hadoop2.8/bin目錄下
輸入:

./hadoop  namenode  -format

格式化成功後,再切換到/home/hadoop/hadoop2.8/sbin目錄下
啟動hdfs和yarn
輸入:

start-dfs.sh
start-yarn.sh

啟動成功後,輸入jsp查看是否啟動成功
在瀏覽器輸入 ip+8088 和ip +50070 界面查看是否能訪問
能正確訪問則啟動成功

四、Hive的環境配置

Hive環境的具體配置在我的這篇大數據學習系列之四 ----- Hadoop+Hive環境搭建圖文詳解(單機) 以及介紹得很詳細了。本篇就大概介紹下。

修改hive-site.xml

切換到 /opt/hive/hive2.1/conf 目錄下
將hive-default.xml.template 拷貝一份,並重命名為hive-site.xml
然後編輯hive-site.xml文件

cp hive-default.xml.template hive-site.xml
vim hive-site.xml

編輯hive-site.xml文件,在

<!-- 指定HDFS中的hive倉庫地址 -->  
  <property>  
    <name>hive.metastore.warehouse.dir</name>  
    <value>/root/hive/warehouse</value>  
  </property>  

<property>
    <name>hive.exec.scratchdir</name>
    <value>/root/hive</value>
  </property>

  <!-- 該屬性為空表示嵌入模式或本地模式,否則為遠程模式 -->  
  <property>  
    <name>hive.metastore.uris</name>  
    <value></value>  
  </property>  

<!-- 指定mysql的連接 -->
 <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://master:3306/hive?createDatabaseIfNotExist=true</value>
    </property>
<!-- 指定驅動類 -->
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
   <!-- 指定用戶名 -->
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>
    <!-- 指定密碼 -->
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>123456</value>
    </property>
    <property>
   <name>hive.metastore.schema.verification</name>
   <value>false</value>
    <description>
    </description>
 </property>

然後將配置文件中所有的

${system:java.io.tmpdir}

更改為 /opt/hive/tmp (如果沒有該文件則創建),
並將此文件夾賦予讀寫許可權,將
${system:user.name}
更改為 root

例如:
更改之前的:
這裡寫圖片描述
更改之後:
這裡寫圖片描述

配置圖:
這裡寫圖片描述

註: 由於hive-site.xml 文件中的配置過多,可以通過FTP將它下載下來進行編輯。也可以直接配置自己所需的,其他的可以刪除。 MySQL的連接地址中的master是主機的別名,可以換成ip。

修改 hive-env.sh

修改hive-env.sh 文件,沒有就複製 hive-env.sh.template ,並重命名為hive-env.sh

在這個配置文件中添加

export  HADOOP_HOME=/opt/hadoop/hadoop2.8
export  HIVE_CONF_DIR=/opt/hive/hive2.1/conf
export  HIVE_AUX_JARS_PATH=/opt/hive/hive2.1/lib

添加 數據驅動包

由於Hive 預設自帶的資料庫是使用mysql,所以這塊就是用mysql
將mysql 的驅動包 上傳到 /opt/hive/hive2.1/lib

五、HBase的環境配置

HBase環境的具體配置在我的這篇大數據學習系列之二 ----- HBase環境搭建(單機) 以及介紹得很詳細了。本篇就大概介紹下。

修改 hbase-env.sh

編輯 hbase-env.sh 文件,添加以下配置

export JAVA_HOME=/opt/java/jdk1.8
export HADOOP_HOME=/opt/hadoop/hadoop2.8
export HBASE_HOME=/opt/hbase/hbase1.2
export HBASE_CLASSPATH=/opt/hadoop/hadoop2.8/etc/hadoop
export HBASE_PID_DIR=/root/hbase/pids
export HBASE_MANAGES_ZK=false

說明:配置的路徑以自己的為準。HBASE_MANAGES_ZK=false 是不啟用HBase自帶的Zookeeper集群。

修改 hbase-site.xml

編輯hbase-site.xml 文件,在

<!-- 存儲目錄 -->
<property>  
 <name>hbase.rootdir</name>  
 <value>hdfs://test1:9000/hbase</value>  
 <description>The directory shared byregion servers.</description>  
</property>  
<!-- hbase的埠 -->
<property>  
 <name>hbase.zookeeper.property.clientPort</name>  
 <value>2181</value>  
 <description>Property from ZooKeeper'sconfig zoo.cfg. The port at which the clients will connect.  
 </description>  
</property>  
<!--  超時時間 -->
<property>  
 <name>zookeeper.session.timeout</name>  
 <value>120000</value>  
</property>  
<!--  zookeeper 集群配置。如果是集群,則添加其它的主機地址 -->
<property>  
 <name>hbase.zookeeper.quorum</name>  
 <value>test1</value>  
</property>  
<property>  
 <name>hbase.tmp.dir</name>  
 <value>/root/hbase/tmp</value>  
</property>  
<!-- false是單機模式,true是分散式模式  -->
<property>  
 <name>hbase.cluster.distributed</name>  
 <value>false</value>  
</property>

說明:hbase.rootdir:這個目錄是region server的共用目錄,用來持久化Hbase 。hbase.cluster.distributed :Hbase的運行模式。false是單機模式,true是分散式模式。若為false,Hbase和Zookeeper會運行在同一個JVM裡面。

六、Hive整合HBase的環境配置以及測試

1,環境配置

因為Hive與HBase整合的實現是利用兩者本身對外的API介面互相通信來完成的,其具體工作交由Hive的lib目錄中的hive-hbase-handler-.jar工具類來實現。所以只需要將hive的 hive-hbase-handler-.jar 複製到hbase/lib中就可以了。
切換到hive/lib目錄下
輸入:

cp hive-hbase-handler-*.jar /opt/hbase/hbase1.2/lib

這裡寫圖片描述
註: 如果在hive整合hbase中,出現版本之類的問題,那麼以hbase的版本為主,將hbase中的jar包覆蓋hive的jar包。

2,hive和hbase測試

在進行測試的時候,確保hadoop、hbase、hive環境已經成功搭建好,並且都成功啟動了。
打開xshell的兩個命令視窗
一個進入hive,一個進入hbase

6.2.1在hive中創建映射hbase的表

在hive中創建一個映射hbase的表,為了方便,設置兩邊的表名都為t_student,存儲的表也是這個。
在hive中輸入:

create table t_student(id int,name string) stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' with serdeproperties("hbase.columns.mapping"=":key,st1:name") tblproperties("hbase.table.name"="t_student","hbase.mapred.output.outputtable" = "t_student");

說明:第一個t_student 是hive表中的名稱,第二個t_student是定義在hbase的table名稱 ,第三個t_student 是存儲數據表的名稱("hbase.mapred.output.outputtable" = "t_student"這個可以不要,表數據就存儲在第二個表中了) 。
(id int,name string) 這個是hive表結構。如果要增加欄位,就以這種格式增加。如果要增加欄位的註釋,那麼在欄位後面添加comment ‘你要描述的’。
例如:
create table t_student(id int comment ‘StudentId’,name string comment ‘StudentName’)
org.apache.hadoop.hive.hbase.HBaseStorageHandler 這個是指定的存儲器。
hbase.columns.mapping 是定義在hbase的列族。
例如:st1就是列族,name就是列。在hive中創建表t_student,這個表包括兩個欄位(int型的id和string型的name)。 映射為hbase中的表t_student,key對應hbase的rowkey,value對應hbase的st1:name列。

表成功創建之後
在hive、hbase分別中查看表和表結構
hive中輸入

show tables;
describe t_student;

hbase輸入:

list
describe ‘t_student’

這裡寫圖片描述

這裡寫圖片描述
可以看到表已經成功的創建了

6.2.2數據同步測試

進入hbase之後
在t_student中添加兩條數據 然後查詢該表

put 't_student','1001','st1:name','zhangsan'
put 't_student','1002','st1:name','lisi'
scan 't_student'

這裡寫圖片描述

然後切換到hive中
查詢該表
輸入:

select * from t_student;

這裡寫圖片描述

然後在hive中刪除該表
註:因為做測試要看結果,所以將表刪除了。如果同學們要做測試的話,是沒有必要刪除該表的,因為在後面還會使用該表。

然後查看hive和hbase中的表是否刪除了
輸入:

drop table t_student;

這裡寫圖片描述

這裡寫圖片描述
通過這些可以看到hive和hbase之間的數據成功同步!

6.2.3關聯查詢測試

hive外部表測試

先在hbase中建一張t_student_info表,添加兩個列族
然後查看表結構
輸入:

create 't_student_info','st1','st2'
describe 't_student_info'

這裡寫圖片描述

然後在hive中創建外部表
說明:創建外部表要使用EXTERNAL 關鍵字
輸入:

create external table t_student_info(id int,age int,sex string) stored by 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' with serdeproperties("hbase.columns.mapping"=":key,st1:age,st2:sex") tblproperties("hbase.table.name"="t_student_info");

這裡寫圖片描述

然後在t_student_info 中添加數據

put 't_student_info','1001','st2:sex','man'
put 't_student_info','1001','st1:age','20'
put 't_student_info','1002','st1:age','18'
put 't_student_info','1002','st2:sex','woman'

這裡寫圖片描述

然後在hive中查詢該表
輸入:

select * from t_student_info;

這裡寫圖片描述

查詢到數據之後,然後將t_student 和t_student_info進行關聯查詢。
輸入:

select * from t_student t join t_student ti where t.id=ti.id ;

這裡寫圖片描述
說明:通過關聯查詢,可以得出表之間是可以關聯查詢的。但是明顯看到hive 使用預設的mapreduce 作為引擎是多麼的慢。。。

其他說明:
由於自己的虛擬機配置實在太渣,即使調大reduce記憶體,限制每個reduce處理的數據量,還是不行,最後沒辦法使用公司的測試服務進行測試。
在查詢一張表的時候,hive沒有使用引擎,因此相對比較快,如果是進行了關聯查詢之類的,就會使用引擎,由於hive預設的引擎是mr,所以會很慢,也和配置有一定關係,hive2.x以後官方就不建議使用mr了。

本文到此結束,謝謝閱讀!
版權聲明:
作者:虛無境
博客園出處:http://www.cnblogs.com/xuwujing
CSDN出處:http://blog.csdn.net/qazwsxpcm    
個人博客出處:http://www.panchengming.com
原創不易,轉載請標明出處,謝謝!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 電腦最重要的功能單元之一是Memory。Memory是眾多存儲單元的集合,為了使CPU準確地找到存儲有某個信息的存儲單元,必須為這些單元分配一個相互區別的“身份證號”,這個“身份證號”就是地址編碼。在嵌入式處理器內,集成了多種類型的Memory,通常,我們稱同一類型的Memory為一個Memory ...
  • 一、軟鏈接 相當於windows的快捷方式,當源文件不存在時,軟鏈接失效。 創建軟鏈接: 刪除源文件,軟鏈接失效: 二、硬鏈接 創建硬鏈接: 刪除源文件,硬鏈接仍然可用: 三、總結 鏈接是指向文件名,當指向的文件名字刪除的時候,就找不到源文件了。硬鏈接是指向文件本身,刪除一個文件名字,還是可以找到源 ...
  • 一、yum安裝 1.1 修改yum源 1.2 添加內核參數 預設配置下,在 CentOS 使用 Docker 可能會碰到下麵的這些警告信息: 1.3 添加內核配置參數以啟用這些功能 然後重新載入 sysctl.conf 即可 1.4 建立docker用戶 1.5 鏡像加速 對於使用 systemd  ...
  • 一、pwd命令 顯示整個路徑名: 二、cd命令 切換到其他路徑(相對路徑方式): 切換到其他路徑(絕對路徑方式): 三、根目錄 在linux中,'/'斜杠代表根目錄: 四、家目錄 在linux中,'~'波浪線代表家目錄: 五、上一次所在目錄: 在linux中,'-'橫杠快捷切換到上次所在的路徑: 六 ...
  • 一、ls命令 用於查看目錄下的文件信息。 ls 當前目錄下都有哪些文件: -l選項,顯示當前目錄下文件的詳細信息: -a選項,顯示當前目錄下所有文件,包括隱藏文件(名字以'.'開頭): -al選項,顯示當前目錄下所有文件的詳細信息: -alh,顯示當前目錄下所有文件的詳細信息,文件的大小易讀: 指定 ...
  • 前一篇博客關於SQL Server on Linux的安裝,地址:http://www.cnblogs.com/fishparadise/p/8057650.html,現在測試把Windows平臺下的一個資料庫遷移到Linux平臺下。 1. 環境 Windows: Microsoft SQL Ser ...
  • 1. 原始單據與實體之間的關係 === 可以是一對一、一對多、多對多的關係。在一般情況下,它們是一對一的關係:即一張原始單據對應且只對應一個實體。 在特殊情況下,它們可能是一對多或多對一的關係,即一張原始單證對應多個實體,或多張原始單證對應一個實體。 這裡的實體可以理解為基本表。明確這種對應關係後, ...
  • 由於工作需要,從本地Sqlite資料庫轉為MySql資料庫。遇到了一些坑,隨後又埋了。記錄下過程: 一、安裝MySql 首先上官網下載windows版的MySql.解壓。詳情是參考了幾位同鞋的文章: https://www.cnblogs.com/LxyXY/p/7708016.html MySql ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...