Hbase入門(一)——初識Hbase

来源:https://www.cnblogs.com/tree1123/archive/2019/09/24/11576372.html
-Advertisement-
Play Games

本文將介紹大數據的知識和Hbase的基本概念,作為大數據體系中重要的一員,Hbase彌補了Hadoop只能離線批處理的不足,支持存儲小文件,隨機檢索。而這種特性使得Hbase對於實時計算體系的事件存儲有天然的較好的支持。這使得Hbase在實時流式計算中也扮演者重要的角色。 1、大數據與Hbase 大 ...


file

本文將介紹大數據的知識和Hbase的基本概念,作為大數據體系中重要的一員,Hbase彌補了Hadoop只能離線批處理的不足,支持存儲小文件,隨機檢索。而這種特性使得Hbase對於實時計算體系的事件存儲有天然的較好的支持。這使得Hbase在實時流式計算中也扮演者重要的角色。

file

1、大數據與Hbase

大數據在近幾年發展迅速,而實時計算也是一個重要的發展趨勢。不管是企業中的日誌數據,還是感測器、智能設備等等產生的數據,不計其數。

而這些數據中結構化的數據只占一小部分,大部分是非結構化的數據。這個時候,比如圖片視頻等就不能輕鬆的存儲在關係型資料庫中,而大數據是可以對各種類型的數據都可以進行處理的。

file

但關係型資料庫有幾點缺陷:

無法應對高併發的考驗,沒有辦法橫向擴展,事務一致性對性能的影響。

而Nosql資料庫,也就是Not Only Sql的縮寫。擴展性強,併發性能好,數據模型靈活。

Hbase,也就是Hadoop Database是一個高可靠、高性能、可伸縮的分散式資料庫。Hbase參考了谷歌的BigTable建模,使用HDFS作為底層存儲。使用Zookeeper作為協同服務組件。

Hbase使用Java編寫,還是一種NoSQL資料庫,這些特性決定了Hbase獨特的應用場景。

2、概念特性

HBASE是一個資料庫----可以提供數據的實時隨機讀寫

HBASE與mysql、oralce、db2、sqlserver等關係型資料庫不同,它是一個NoSQL資料庫(非關係型資料庫)

Hbase的表模型與關係型資料庫的表模型不同:

​  Hbase的表沒有固定的欄位定義;

​  Hbase的表中每行存儲的都是一些key-value對;

​  Hbase的表中有列族的劃分,用戶可以指定將哪些kv插入哪個列族;

​  Hbase的表在物理存儲上,是按照列族來分割的,不同列族的數據一定存儲在不同的文件中;

​  Hbase的表中的每一行都固定有一個行鍵,而且每一行的行鍵在表中不能重覆;

​  Hbase中的數據,包含行鍵,包含key,包含value,都是byte[ ]類型,hbase不負責為用戶維護數據類型;

​  HBASE對事務的支持很差;

HBASE相比於其他nosql資料庫(mongodb、redis、cassendra、hazelcast)的特點:

Hbase的表數據存儲在HDFS文件系統中

從而,hbase具備如下特性:存儲容量可以線性擴展; 數據存儲的安全性可靠性極高!

3、核心模塊

file

客戶端Client

整個Hbase的入口,使用者通過客戶端操作Hbase。通過客戶端與HMaster和RegionServer進行通訊。管理類操作與HMaster通信,讀寫類操作與RegionServer通訊。

協調服務zookeeper

zookeeper負責管理Hbase中多個HMaster的選舉,伺服器間狀態同步。

主節點HMaster

HMaster可以啟動多個,由zookeeper保證總有一個正常運行,其他作為備選。

HMaster主要負責Table和Region的管理工作。

節點HRegionServer

HRegionServer主要負責響應用戶IO請求,向HDFS中讀寫數據。HRegionServer管理了一系列的HRegion對象。HRegion對應了Table中的一個Region。HRegion由多個HStore組成,HStore對用了Table中一個Column Family。

而且每個HRegionServer都有一個HLog對象,用於數據恢復。

4、使用場景

搜索引擎

生成索引,在查詢時通過對條件的拼接,迅速的查找到要查詢的數據。

實時流式計算

不管是實時的推薦系統,還是日誌的增量存儲,都是實時流式計算的一個應用。

通過將數據增量的存入Hbase,併在流式處理中實時查詢Hbase,結合歷史得到最終的分析結果。

更多Hbase,Flink,Kafka等實時流式計算相關博文,歡迎關註實時流式計算:

file


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一直以為很瞭解sqlserver的加鎖過程,在分析一些特殊情況下的死鎖之後,尤其是併發單表操作發生的死鎖,對於加解鎖的過程,有了一些重新的認識,之前的知識還是有一些盲區在裡面的。delete加鎖與解鎖步驟是怎麼樣的?什麼時候對那些對象,加什麼類型的瑣,加鎖與索引的關係是怎麼樣的,什麼時候釋放鎖?整個 ...
  • 分片,唯一索引和upsert,錶面上看似沒有直接聯繫的幾個東西,到底存在怎樣的瓜葛呢? ...
  • 三層架構 嚴格分層架構模式的特點是上層只能訪問相鄰的下層,其他層次間的調用都不允許。三層架構就是一種嚴格分層模式,它把職責劃分為界面展示、業務邏輯、數據訪問三層,還有一個業務實體,前面三層都要依賴它,所以它並不構成一個層。 三層架構的特點是一種面向過程的編程思想,特點如下: a. 業務實體類中基本上 ...
  • 概述 NodeManager是運行在單個節點上的代理,它需要與應用程式的的ApplicationMaster和集群管理者ResourceManager交互: 從ApplicationMaster上接收有關Container的命令並執行之(比如啟動,停止Container); 向ResourceMan ...
  • Apache 是一個高可用、高可靠的,分散式的海量日誌採集、聚合、傳輸系統,基於流式架構,靈活簡單。 Flume 最主要的作用就是實時讀取伺服器本地磁碟的數據,將數據寫入HDFS中。 Flume組成架構詳解: Source輸入端常用的類型有:spooling directory、exec、avro、 ...
  • 需求 例如一張A表(id, userid, info);其中id為自增長主鍵。存在userid重覆記錄;並一直有新數據增加,現需要根據userid去重並實時插入表B。 用SQL語法來解釋: 其中需要改寫的語句是 -- 在表B插入百萬條記錄insert into B select level, dbm ...
  • 預設安裝SQL Server資料庫後,SQL Server通過工具SQL Server Management Studio(SSMS)採用“Windows身份驗證”方式登錄,需要設置相應用戶才能以“SQL Server身份驗證”方式登錄。 ...
  • 現象 下麵的語句, 能查到deviceid 為DEV005M0的記錄, 但是加上deviceid = 'DEV005M0'這個條件後, 查詢語句查不出結果了。 語句如下: 當註釋掉deviceid = 'DEV005M0', 查詢結果如下: 當增加deviceid = 'DEV005M0',查詢結果 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...