帶你快速上手HetuEngine

来源:https://www.cnblogs.com/huaweiyun/archive/2023/08/17/17637437.html
-Advertisement-
Play Games

本文分享自華為雲社區《【手把手帶你玩轉HetuEngine】(一)HetuEngine快速上手》,作者:HetuEngine九級代言。 HetuEngine是什麼 HetuEngine是華為推出的高性能互動式SQL分析及數據虛擬化引擎。與大數據生態無縫融合,實現海量數據秒級互動式查詢;支持跨源跨域統 ...


本文分享自華為雲社區《【手把手帶你玩轉HetuEngine】(一)HetuEngine快速上手》,作者:HetuEngine九級代言。

HetuEngine是什麼

HetuEngine是華為推出的高性能互動式SQL分析及數據虛擬化引擎。與大數據生態無縫融合,實現海量數據秒級互動式查詢;支持跨源跨域統一訪問,使能數據湖內、湖間、湖倉一站式SQL融合分析。

HetuEngine適合做什麼

  1. 適用於Hadoop集群(FusionInsight MRS)的Hive、Hudi數據源的互動式快速查詢場景;
  2. 適用於跨源(多種數據源,如Hive,Hudi,HBase,GaussDB(DWS),Elasticsearch,ClickHouse等)查詢;
  3. 適用於跨域(多個地域或數據中心)的快速聯合查詢;
  4. 不擅長大批量、複雜邏輯的跑批處理、創建事務、數據入庫操作等。

HetuEngine特點

HetuEngine基本架構

HetuEngine面向企業級能力方面,構建了極致穩定、高性能的企業級互動式分析引擎。

  1. 雲服務層:提供了企業級的運維管理監控能力,認證與業務接入統一訪問入口,友好的可視化界面操作,一鍵式參數調優和配置,協助用戶輕鬆簡單的管理集群平臺;
  2. 引擎層:純計算引擎部署,與數據解耦;自容錯,節點故障級別重啟,記憶體溢出保護等;計算實例基於任務負載自動彈性伸縮,可水平橫向擴展;
  3. 數據層:支持多種常見的數據源間的聯合查詢,同時計算和數據解耦,天然的存算分離架構。

HetuEngine服務角色

HeuEngine引擎架構

HetuEngine引擎執行流程簡單介紹:

Coordinator

負責管理Worker節點,以及接受客戶端查詢請求,併進行SQL的語法解析(Parser)、執行計劃生成與優化(Plannner)和查詢任務的調度(Scheduler)

Worker

負責具體的查詢計算和數據讀寫

Discovery Server

負責發現集群的各個節點,用於節點間心跳監控

快速上手指南

工欲善其事必先利其器,在使用HetuEngine之前,首先需要瞭解基本的架構,並與業務場景相結合,然後進行集群相關的規劃和配置,最後進行業務對接和驗證上線。本系列將從以下幾方面內容手把手帶你玩轉HetuEngine。

  1. 瞭解HetuEngine的基本架構:瞭解HetuEngine是什麼
  2. 瞭解HetuEngine常見的應用場景,與業務場景相結合:判斷HetuEngine是否適應於業務場景
  3. 集群部署和資源規劃:前期的資源規劃必不可少
  4. 數據源添加和管理:對接業務需要的數據源
  5. 許可權管控和配置:保障不同業務用戶之間的許可權管控
  6. 業務對接:業務對接和驗證
  7. 性能調優:不同的調優手段
  8. 運行過程中常見問題排查:常見問題的處理方式

點擊關註,第一時間瞭解華為雲新鮮技術~

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Windows服務是在Windows操作系統上,以後臺形式運行的應用程式。最近在公司要求使用Windows服務作為消息隊列的消費端,所以自行研究了一下C#中Windows服務如何創建以及如何使用,以及部署的方式。 ...
  • 哈嘍大家好,我是鹹魚 之前鹹魚在《[Linux 網路收包流程](https://mp.weixin.qq.com/s?__biz=MzkzNzI1MzE2Mw==&mid=2247486122&idx=1&sn=df659a7458028772c9595e98d5cefbc1&chksm=c2930 ...
  • # 一.安裝環境 ## 1.操作系統 **CentOS-7.6-x86_64-DVD-1810.iso** **Root用戶!!!** ## 2.虛擬機設置 ![image](https://img2023.cnblogs.com/blog/2840133/202308/2840133-202308 ...
  • 流量限制模下載和安裝 安裝完成後,可以在IIS管理工具里點擊“Bit Rate Throttling”節點。 根據你的文件及類型配置流量限制規則: 以下白皮書是更多的一些幫助和內容: Bit Rate Throttling Module Setup Bit Rate Throttling Confi ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230816163336851-1607680900.png) # 1. 資料庫 ## 1.1. 一組相關信息 ## 1.2. 電話簿肯定是最為普及且常用的資料庫 # 2. 非 ...
  • # mysql代理、中間件技術 ## 代理簡介 **名詞** DB proxy 資料庫中間件 **功能** 讀寫分離:讀寫分離導致處理速度迅速,一般情況下是主伺服器進行寫操作而從伺服器進行讀操作 負載均衡 支持數據的分片自動路由和聚合 **本文主要圍繞Mycat實現、且在完成MM-SS集群的條件下* ...
  • ![file](https://img2023.cnblogs.com/other/2685289/202308/2685289-20230817174410327-1799604230.png) Apache DolphinScheduler 3.2.0 版本已經呼之欲出,8 月 中下旬,這個大版 ...
  • NineData提供了高效、穩定的MySQL大表遷移能力,解決了傳統遷移方案的問題。通過智能分片、行級併發和動態攢批等核心技術,NineData保證了遷移性能。同時,NineData具備完善的容災能力,提高了大表遷移的成功率。通過數據和結構的對比功能,保障了數據的一致性。使用NineData進行遷移... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...