Java採用JDBC的方式連接Hive(SparkSQL)

来源:http://www.cnblogs.com/yangyang8848/archive/2017/10/14/7667529.html
-Advertisement-
Play Games

前兩天,由於系統的架構設計的原因,想通過Java直接訪問Hive資料庫,對於我這個Java以及Hadoop平臺的菜鳥來說,的確是困難重重,不過,還好是搞定了。感覺也不是很麻煩。這篇文章,作為一個感想記錄下來。( 作者:yangyang8848) 一、Hive的訪問方式 一般情況下,Hive是不能直接 ...


前兩天,由於系統的架構設計的原因,想通過Java直接訪問Hive資料庫,對於我這個Java以及Hadoop平臺的菜鳥來說,的確是困難重重,不過,還好是搞定了。感覺也不是很麻煩。這篇文章,作為一個感想記錄下來。( 作者:yangyang8848)

一、Hive的訪問方式

一般情況下,Hive是不能直接Java連接並訪問的,後來出現來一個SparkSQL的東東,變得可以通過JDBC的方式訪問連接。首先,我先介紹一些從Linux下訪問的方法:

1、遠程登錄到Linux平臺:

2、進入到hive資料庫中,我們執行一條查詢語句:

通過上圖可以看到,系統執行了Map/Reduce操作,並最後顯示相關的結果。

這裡有一個乾貨哦:Hive查詢語句不支持類似於Mysql中的分頁查詢的,因此,這裡採用了另外一種辦法進行分頁,自己看圖片學習啦~!

3、下邊我們採用Beeline遠程連接SqarkSQL然後訪問Hive數據。

 

通過上邊頁面可以看到,系統可以正確將數據查詢出來。

二、使用Java代碼進行連接訪問。

如果想要通過Java進行訪問,首先要在引用一下三個Jar包:

 <dependency>  
        <groupId>org.apache.hive</groupId>  
        <artifactId>hive-jdbc</artifactId>  
        <version>1.2.1</version>  
</dependency>  
   
<dependency>  
        <groupId>org.apache.hadoop</groupId>  
        <artifactId>hadoop-common</artifactId>  
       <version>2.4.1</version>  
</dependency>  
  
<dependency>  
       <groupId>jdk.tools</groupId>  
       <artifactId>jdk.tools</artifactId>  
       <version>1.6</version>  
       <scope>system</scope>  
       <systemPath>${JAVA_HOME}/lib/tools.jar</systemPath>  
   </dependency>  

 需要註意的是,包的版本一定要確認好,切勿版本過高

如果發生以下錯誤:

 org.apache.thrift.TApplicationException: Required field 'client_protocol' is unset!   Struct:TOpenSessionReq(client_protocol:null)

則極可能的原因是你項目的hive-jdbc版本和伺服器不一致的原因造成的,替換成和伺服器一致的版本就可以了,

以下訪問代碼都已經經過了測試,拿走直接用,哈哈:

	public static int hiveJDBC_RowCount(String sql,Map<Integer,String> params){
		try {
			ResourceBundle rb = ResourceBundle.getBundle("config");
		    Class.forName(rb.getString("hivedriverClassName")).newInstance();

			Connection conn = DriverManager.getConnection(rb.getString("hiveurl"),rb.getString("hiveusername"),rb.getString("hivepassword"));
			java.sql.PreparedStatement pstsm = conn.prepareStatement(sql);
			for(Integer key : params.keySet()){
				pstsm.setString(key, params.get(key));
			}
			ResultSet resultSet = pstsm.executeQuery();
			int rowNum = 0;
			if(resultSet.next()){
				rowNum = resultSet.getInt(1);
			}
			return rowNum; 
		} catch (Exception e) {
			System.out.println(e);
			return 0;
		}
	}

 

hivedriverClassName=org.apache.hive.jdbc.HiveDriver
hiveurl=jdbc:hive2://192.168.31.243:10000/default
hiveusername=root
hivepassword=

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、視圖 什麼是視圖【View】 (1)視圖是一種虛表 (2)視圖建立在已有表的基礎上, 視圖賴以建立的這些表稱為基表(3)向視圖提供數據內容的語句為 SELECT 語句,可以將視圖理解為存儲起來的 SELECT 語句(4)視圖向用戶提供基表數據的另一種表現形式(5)視圖沒有存儲真正的數據,真正的數 ...
  • 一、事務 回顧什麼是事務?一個不可分割的子操作形成一個整體,該整體要麼全部執行成功,要麼全部執行失敗。例如:轉帳回顧為什麼要用事務?如果不用事務的話,為轉帳為例,可能出現一個用戶錢增加了,另一個用戶錢不變回顧編程中,事務可用於哪一層?事務放在業務層回顧jdbc編程中,如何使用事務?connectio ...
  • 昨天整理了關於Oracle的查詢的相關知識,今天將之前的學習筆記整理了一下,準備介紹一下關於Oracle增刪改的相關知識。之後博主也會將之前學習的一些學習的基礎的筆記作為博文發出來,希望讀者能夠多多指正,畢竟之前的學習肯定存在了些許的不足之處。整理筆記已經按照分類分類完成了。 一、回顧SQL92/9 ...
  • ORA-12170: TNS:Connect timeout occurred ORA-12514: TNS: 監聽程式當前無法識別連接描述符中請求的服務 ORA-12705: Cannot access NLS data files or invalid environment s... ...
  • 本文版權歸博客園和作者吳雙本人共同所有 轉載和爬蟲請註明原文地址 www.cnblogs.com/tdws。 本文參考和學習資料 《ES權威指南》 一.基本概念 存儲數據到ES中的行為叫做索引,每個索引可以包含多個類型,這些不同的類型存儲著多個文檔,每個文檔有多個屬性。 索引 index/index ...
  • 前言:Mysql資料庫,知識非常的多,要想學精學通這塊知識,估計也要花費和學linux一樣的精力和時間。小編也是只會些毛皮,給大家分享一下~ 一、MySQL安裝 (1)安裝方式: 1 、程式包yum安裝,下實驗一 優點:安裝快,簡單 缺點:定死了各個文件的地方,太死板 2 、二進位格式的程式包:展開 ...
  • 1.查看表空間對應關係 d: cd D:\app\administrator\product\11.2.0\dbhome_1\BIN sqlplus sys/infinitt@spectra as sysdba select * from v$tablespace; 2.關閉資料庫 shutdown ...
  • 1、創建資料庫 use hqj 不會真正的創建db,只有insert之後才會創建2、查看資料庫show dbs3、插入文檔db.hqj.insert({name:'111'})4、查看所有的文檔show tables / show collections.查詢文件中的集合db.hqj.find()/ ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...