HBase Filter 過濾器之RowFilter詳解

来源:https://www.cnblogs.com/zpb2016/archive/2020/05/04/12825300.html
-Advertisement-
Play Games

前言: 本文詳細介紹了HBase RowFilter過濾器Java&Shell API的使用,並貼出了相關示例代碼以供參考。RowFilter 基於行鍵進行過濾,在工作中涉及到需要通過HBase Rowkey進行數據過濾時可以考慮使用它。比較器細節及原理請參照之前的更文: "HBase Filter ...


前言:本文詳細介紹了HBase RowFilter過濾器Java&Shell API的使用,並貼出了相關示例代碼以供參考。RowFilter 基於行鍵進行過濾,在工作中涉及到需要通過HBase Rowkey進行數據過濾時可以考慮使用它。比較器細節及原理請參照之前的更文:HBase Filter 過濾器之比較器 Comparator 原理及源碼學習

一。Java Api

頭部代碼

public class RowFilterDemo {

    private static boolean isok = false;
    private static String tableName = "test";
    private static String[] cfs = new String[]{"f"};
    private static String[] data = new String[]{"row-ac:f:c1:v1", "row-ab:f:c2:v2", "row-bc:f:c3:v3", "row-abc:f:c4:v4"};

    public static void main(String[] args) throws IOException {

        MyBase myBase = new MyBase();
        Connection connection = myBase.createConnection();
        if (isok) {
            myBase.deleteTable(connection, tableName);
            myBase.createTable(connection, tableName, cfs);
            myBase.putRows(connection, tableName, data); // 造數據
        }
        Table table = connection.getTable(TableName.valueOf(tableName));
        Scan scan = new Scan();

中部代碼
向右滑動滾動條可查看輸出結果。

1. BinaryComparator 構造過濾器

        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-ac]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.NOT_EQUAL, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-ab, row-abc, row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER_OR_EQUAL, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-ac, row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.LESS, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-ab, row-abc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.LESS_OR_EQUAL, new BinaryComparator(Bytes.toBytes("row-ac"))); // [row-ab, row-abc, row-ac]

2. BinaryPrefixComparator 構造過濾器

        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // [row-ab, row-abc, row-ac]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.NOT_EQUAL, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // [row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // [row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.GREATER_OR_EQUAL, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // [row-ab, row-abc, row-ac, row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.LESS, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // []
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.LESS_OR_EQUAL, new BinaryPrefixComparator(Bytes.toBytes("row-a"))); // [row-ab, row-abc, row-ac]

3. SubstringComparator 構造過濾器

        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new SubstringComparator("ab")); // [row-ab, row-abc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.NOT_EQUAL, new SubstringComparator("ab")); // [row-ac, row-bc]

4. RegexStringComparator 構造過濾器

        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.NOT_EQUAL, new RegexStringComparator("abc")); // [row-ab, row-ac, row-bc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new RegexStringComparator("abc")); // [row-abc]
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new RegexStringComparator("a")); // [row-ab, row-abc, row-ac]

5. NullComparator 構造過濾器

        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.EQUAL, new NullComparator()); // []
        RowFilter rowFilter = new RowFilter(CompareFilter.CompareOp.NOT_EQUAL, new NullComparator()); // [row-ab, row-abc, row-ac, row-bc]

尾部代碼

        scan.setFilter(rowFilter);
        ResultScanner scanner = table.getScanner(scan);
        Iterator<Result> iterator = scanner.iterator();
        LinkedList<String> rowkeys = new LinkedList<>();
        while (iterator.hasNext()) {
            Result result = iterator.next();
            String rowkey = Bytes.toString(result.getRow());
            rowkeys.add(rowkey);
        }
        System.out.println(rowkeys);
        scanner.close();
        table.close();
        connection.close();
    }
}

二。Shell Api

1. BinaryComparator 構造過濾器

方式一:

hbase(main):006:0> scan 'test',{FILTER=>"RowFilter(=,'binary:row-ab')"}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
1 row(s) in 0.0140 seconds

支持的比較運算符:= != > >= < <=,不再一一舉例。

方式二:

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.BinaryComparator
import org.apache.hadoop.hbase.filter.RowFilter

hbase(main):016:0> scan 'test',{FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf('EQUAL'), BinaryComparator.new(Bytes.toBytes('row-ab')))}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
1 row(s) in 0.0310 seconds

支持的比較運算符:LESS、LESS_OR_EQUAL、EQUAL、NOT_EQUAL、GREATER、GREATER_OR_EQUAL,不再一一舉例。

推薦使用方式一,更簡潔方便。

2. BinaryPrefixComparator 構造過濾器

方式一:

hbase(main):023:0> scan 'test',{FILTER=>"RowFilter(=,'binaryprefix:row-ab')"}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
 row-abc                                         column=f:c4, timestamp=1588156704669, value=v4                                                                                                
2 row(s) in 0.0360 seconds

方式二:

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.BinaryPrefixComparator
import org.apache.hadoop.hbase.filter.RowFilter

hbase(main):027:0> scan 'test',{FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf('EQUAL'), BinaryPrefixComparator.new(Bytes.toBytes('row-ab')))}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
 row-abc                                         column=f:c4, timestamp=1588156704669, value=v4                                                                                                
2 row(s) in 0.0110 seconds

其它同上。

3. SubstringComparator 構造過濾器

方式一:

hbase(main):001:0> scan 'test',{FILTER=>"RowFilter(=,'substring:row-ab')"}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
 row-abc                                         column=f:c4, timestamp=1588156704669, value=v4                                                                                                
2 row(s) in 0.3200 seconds

方式二:

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.SubstringComparator
import org.apache.hadoop.hbase.filter.RowFilter

hbase(main):007:0> scan 'test',{FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf('EQUAL'), SubstringComparator.new('row-ab'))}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
 row-abc                                         column=f:c4, timestamp=1588156704669, value=v4                                                                                                
2 row(s) in 0.0230 seconds

區別於上的是這裡直接傳入字元串進行比較,且只支持EQUAL和NOT_EQUAL兩種比較符。

4. RegexStringComparator 構造過濾器

import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.RegexStringComparator
import org.apache.hadoop.hbase.filter.RowFilter

hbase(main):007:0> scan 'test',{FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf('EQUAL'), RegexStringComparator.new('row-ab'))}
ROW                                              COLUMN+CELL                                                                                                                                   
 row-ab                                          column=f:c2, timestamp=1588156704669, value=v2                                                                                                
 row-abc                                         column=f:c4, timestamp=1588156704669, value=v4                                                                                                
2 row(s) in 0.0230 seconds

該比較器直接傳入字元串進行比較,且只支持EQUAL和NOT_EQUAL兩種比較符。若想使用第一種方式可以傳入regexstring試一下,我的版本有點低暫時不支持,不再演示了。

註意這裡的正則匹配指包含關係,對應底層find()方法。

此外,RowFilter 不支持使用LongComparator比較器,且BitComparator、NullComparator 比較器用之甚少,也不再介紹。

查看文章全部源代碼請訪以下GitHub地址:

https://github.com/zhoupengbo/demos-bigdata/blob/master/hbase/hbase-filters-demos/src/main/java/com/zpb/demos/RowFilterDemo.java

掃描二維碼關註博主公眾號

轉載請註明出處!歡迎關註本人微信公眾號【HBase工作筆記】


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 多年開發實踐中遇到的DB相關的話題研究和整理,不介紹DB的基本概念,也不過於深入DB原理,以滿足日常應用、知其然知其所以然為準。 包含十幾個子話題,含事務傳播性、索引優化、拆分、FailOver等。 ...
  • MySQL學習筆記 2020/5/4 一、 資料庫的相關概念 資料庫的好處 1.1 能夠永久性的保存數據,實現數據持久化 1.2 可以實現結構化查詢,方便管理 2.資料庫相關概念 2.1資料庫(DB->database):存儲一組有組織的數據的容器 2.2 資料庫管理系統(DBMS->databas ...
  • 二、mysql安裝及啟動 1、mysql安裝方式介紹 2、mysql安裝 3、客戶端程式連接到MySQL方式 4、mysql 的SQL層處理: 5、mysql常用命令 6、清理不常用的資料庫 ...
  • 一、資料庫介紹 1、關係型資料庫的特點 ​ 二維表 典型產品Oracle傳統企業,MySQL是互聯網企業 數據存取是通過SQL 最大特點,數據安全性方面強(ACID) 2、NoSQL:非關係型資料庫(Not only SQL) ​ 不是否定關係型資料庫,做關係型資料庫的的補充。 3、web1.0時代 ...
  • 最近的工作是利用Hive做數據倉庫的ETL轉換,大致方式是將ETL轉換邏輯寫在一個hsql文件中,腳本當中都是簡單的SQL語句,不包含判斷、迴圈等存儲過程中才有的寫法,僅僅支持一些簡單的變數替換,比如當前賬期等。然後通過一個通用的shell腳本來執行hsql文件。該腳本是主要是調用了hive -f ...
  • [TOC] 基本介紹 MySQL是一種關係型資料庫管理系統,關係資料庫將數據保存在不同的表中,而不是將所有數據放在一個大倉庫內,這樣就增加了速度並提高了靈活性 mysql就是一個基於socket編寫的C/S架構的軟體。 Mysql5.7安裝 MySQL資料庫的線上環境安裝,建議採取編譯安裝的方式,這 ...
  • 問題:生產環境的操作系統和資料庫可能是英文版的,而我們的母語是中文,如果英語能力差點,可能有時對英語環境下的資料庫腳本報錯的英文提示看不懂,如果直接拿英語錯誤提示通過翻譯工具去翻譯,也不一定就是完全翻譯得100%準確。 解決方案:通過set language指定語種語言,使sql server的報錯 ...
  • 升級步驟: 1、對mysql5.6進行全庫備份( )用於失敗倒回 2、關閉mysql5.6版本資料庫 3、將mysql5.7軟體部署 4、修改配置信息 5、修改啟動腳本 6、啟動mysql5.7資料庫 7、mysql_upgrade升級資料庫相關參數 8、重啟資料庫,測試升級結果 首先對資料庫進行物 ...
一周排行
    -Advertisement-
    Play Games
  • GoF之工廠模式 @目錄GoF之工廠模式每博一文案1. 簡單說明“23種設計模式”1.2 介紹工廠模式的三種形態1.3 簡單工廠模式(靜態工廠模式)1.3.1 簡單工廠模式的優缺點:1.4 工廠方法模式1.4.1 工廠方法模式的優缺點:1.5 抽象工廠模式1.6 抽象工廠模式的優缺點:2. 總結:3 ...
  • 新改進提供的Taurus Rpc 功能,可以簡化微服務間的調用,同時可以不用再手動輸出模塊名稱,或調用路徑,包括負載均衡,這一切,由框架實現並提供了。新的Taurus Rpc 功能,將使得服務間的調用,更加輕鬆、簡約、高效。 ...
  • 本章將和大家分享ES的數據同步方案和ES集群相關知識。廢話不多說,下麵我們直接進入主題。 一、ES數據同步 1、數據同步問題 Elasticsearch中的酒店數據來自於mysql資料庫,因此mysql數據發生改變時,Elasticsearch也必須跟著改變,這個就是Elasticsearch與my ...
  • 引言 在我們之前的文章中介紹過使用Bogus生成模擬測試數據,今天來講解一下功能更加強大自動生成測試數據的工具的庫"AutoFixture"。 什麼是AutoFixture? AutoFixture 是一個針對 .NET 的開源庫,旨在最大程度地減少單元測試中的“安排(Arrange)”階段,以提高 ...
  • 經過前面幾個部分學習,相信學過的同學已經能夠掌握 .NET Emit 這種中間語言,並能使得它來編寫一些應用,以提高程式的性能。隨著 IL 指令篇的結束,本系列也已經接近尾聲,在這接近結束的最後,會提供幾個可供直接使用的示例,以供大伙分析或使用在項目中。 ...
  • 當從不同來源導入Excel數據時,可能存在重覆的記錄。為了確保數據的準確性,通常需要刪除這些重覆的行。手動查找並刪除可能會非常耗費時間,而通過編程腳本則可以實現在短時間內處理大量數據。本文將提供一個使用C# 快速查找並刪除Excel重覆項的免費解決方案。 以下是實現步驟: 1. 首先安裝免費.NET ...
  • C++ 異常處理 C++ 異常處理機制允許程式在運行時處理錯誤或意外情況。它提供了捕獲和處理錯誤的一種結構化方式,使程式更加健壯和可靠。 異常處理的基本概念: 異常: 程式在運行時發生的錯誤或意外情況。 拋出異常: 使用 throw 關鍵字將異常傳遞給調用堆棧。 捕獲異常: 使用 try-catch ...
  • 優秀且經驗豐富的Java開發人員的特征之一是對API的廣泛瞭解,包括JDK和第三方庫。 我花了很多時間來學習API,尤其是在閱讀了Effective Java 3rd Edition之後 ,Joshua Bloch建議在Java 3rd Edition中使用現有的API進行開發,而不是為常見的東西編 ...
  • 框架 · 使用laravel框架,原因:tp的框架路由和orm沒有laravel好用 · 使用強制路由,方便介面多時,分多版本,分文件夾等操作 介面 · 介面開發註意欄位類型,欄位是int,查詢成功失敗都要返回int(對接java等強類型語言方便) · 查詢介面用GET、其他用POST 代碼 · 所 ...
  • 正文 下午找企業的人去鎮上做貸後。 車上聽同事跟那個司機對罵,火星子都快出來了。司機跟那同事更熟一些,連我在內一共就三個人,同事那一手指桑罵槐給我都聽愣了。司機也是老社會人了,馬上聽出來了,為那個無辜的企業經辦人辯護,實際上是為自己辯護。 “這個事情你不能怪企業。”“但他們總不能讓銀行的人全權負責, ...