數據源管理 | 搜索引擎框架,ElasticSearch集群模式

来源:https://www.cnblogs.com/cicada-smile/archive/2020/07/15/13308744.html
-Advertisement-
Play Games

本文源碼:GitHub·點這裡 || GitEE·點這裡 一、集群環境搭建 1、環境概覽 ES版本6.3.2,集群名稱esmaster,虛擬機centos7。 服務群 角色劃分 說明 en-master master 主節點:esnode1 en-node01 slave 從節點:esnode2 e ...


本文源碼:GitHub·點這裡 || GitEE·點這裡

一、集群環境搭建

1、環境概覽

ES版本6.3.2,集群名稱esmaster,虛擬機centos7。

服務群 角色劃分 說明
en-master master 主節點:esnode1
en-node01 slave 從節點:esnode2
en-node02 slave 從節點:esnode3

ElasticSearch基礎功能和用法:

在真正海量數據的業務場景中,ElasticSearch搜索引擎都是需要集群化管理的,實時搜素幾十億的數據十分常見。

2、集群配置

配置文件

vim /opt/elasticsearch-6.3.2/config/elasticsearch.yml

主節點配置

# 集群主節點配置
cluster.name: esmaster
node.master: true

# 節點名稱 
node.name: esnode1

# 開發訪問
network.host: 0.0.0.0

從節點配置

註意這裡兩個從節點配置,node.name分別配置為esnode2和esnode3即可。

# 集群名稱
cluster.name: esmaster

# 節點名稱
node.name: esnode2

# 開發訪問
network.host: 0.0.0.0

# 主節點IP
discovery.zen.ping.unicast.hosts: ["192.168.72.133"]

記憶體許可權

vim /etc/sysctl.conf

# 添加內容
vm.max_map_count=262144

# 執行
sysctl -p

3、集群啟動

添加esroot用戶,並授權。

/opt/elasticsearch-6.3.2/bin/elasticsearch

單服務查看

ps -aux |grep elasticsearch

集群狀態查看

http://localhost:9200/_cluster/health?pretty

{
  "cluster_name" : "esmaster",  # 集群名稱
  "status" : "green",   # 綠:健康,黃:亞健康,紅:病態
  "timed_out" : false,  # 是否超時
  "number_of_nodes" : 3, # 節點個數
}

二、集群模式測試

1、環境配置

dev環境

配置單個節點,選擇任意單節點,進行數據寫入測試。

spring:
  data:
    elasticsearch:
      # 集群名稱
      cluster-name: esmaster
      # 單節點
      # cluster-nodes: en-master:9300
      # cluster-nodes: en-node01:9300
      cluster-nodes: en-node02:9300

test環境

鏈接集群環境,進行數據讀取測試。

spring:
  data:
    elasticsearch:
      # 集群名稱
      cluster-name: esmaster
      # 集群節點
      cluster-nodes: en-master:9300,en-node01:9300,en-node02:9300

當然所有的操作都可以基於單節點或者集群環境測試。

2、實例對象

基於註解管理數據對象實例。

import org.springframework.data.annotation.Id;
import org.springframework.data.elasticsearch.annotations.Document;

@Document(indexName = "usersearchindex",type = "usersearch")
public class UserSearch {

    //Id註解Elasticsearch里相應於該列就是主鍵,查詢時可以使用主鍵查詢
    @Id
    private Long id;
    private String userId;
    private String userName;
    private String sex;
}

3、操作案例

提供一個數據查詢操作和數據寫入操作。

import com.esearch.cluster.entity.UserSearch;
import org.springframework.stereotype.Service;
import javax.annotation.Resource;

@Service
public class UserSearchServiceImpl implements UserSearchService {

    @Resource
    private UserSearchRepository userSearchRepository ;

    @Override
    public String esInsert(Integer num) {
        for (int i = 0 ; i < num ; i++){
            UserSearch userSearch = new UserSearch() ;
            userSearch.setId(System.currentTimeMillis());
            userSearch.setUserId("Name"+i);
            userSearch.setUserName("ZSan"+i);
            userSearch.setSex("Male"+i);
            userSearchRepository.save(userSearch) ;
        }
        return "success" ;
    }

    @Override
    public Iterable<UserSearch> esFindAll (){
        return userSearchRepository.findAll() ;
    }

}

三、集群控制台

這裡是基於Kibana組件做的集群控制台。

1、數據列表

在discover面板中可以查看列表數據,也可以繼續搜索。

列表查詢

列表搜索

2、開發工具

在dev_tools面板中可以執行ElasticSearch相關命令。

查看集群健康狀態

GET /_cat/health?v

查詢全部數據

GET _search
{
  "query": {
    "match_all": {}
  }
}

四、源代碼地址

GitHub·地址
https://github.com/cicadasmile/data-manage-parent
GitEE·地址
https://gitee.com/cicadasmile/data-manage-parent

推薦閱讀:數據源管理系列

序號 標題
01 數據源管理:主從庫動態路由,AOP模式讀寫分離
02 數據源管理:基於JDBC模式,適配和管理動態數據源
03 數據源管理:動態許可權校驗,表結構和數據遷移流程
04 數據源管理:關係型分庫分表,列式庫分散式計算
05 數據源管理:PostGreSQL環境整合,JSON類型應用
06 數據源管理:基於DataX組件,同步數據和源碼分析
07 數據源管理:OLAP查詢引擎,ClickHouse集群化管理
08 數據源管理:Kafka集群環境搭建,消息存儲機制詳解

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 2020 年真的是災禍頻發,但是在各類前端框架上,依舊是在穩步的推進。近日 Vue 團隊更新了關於 Vue 3 的最新狀態,尤大新增了三個語法糖特性,它們將用於優化 SFC 的開發體驗,你會有興趣嘗鮮試試麽~ 登高遠眺 天高地迥,覺宇宙之無窮 前端框架 Vue 3: 2020 年中的狀態更新 近日 ...
  • 橋接模式的概念與實現 為什麼叫橋接模式 橋接模式的適用場景 繼承是面向對象的三大特性之一,但很多時候使用繼承的結果卻不盡如人意。除了人盡皆知的緊耦合問題外,有的時候還會導致子類的快速膨脹。 設想這樣一個場景:最初設計的時候有一個類型Product,但後來隨著新需求的出現,X原因導致了它的變化,X有兩 ...
  • 本專欄內容均引用《大話設計模式》並做適當修改, 起因 有部分電腦專業的學生或有一定經驗的在職開發者,他們都知道類、方法、構造方法、甚至抽象類、介面等概念,並用各種IDE寫過不少的Windows或Web程式,但是當問到為什麼要用面向對象,它的好處在哪裡,卻沒有人能完整的講出來,多數人的反應是,概念知 ...
  • 關於延遲載入 在 Spring 中,預設情況下所有定的 bean 及其依賴項目都是在應用啟動時創建容器上下文是被初始化的。測試代碼如下: @Slf4j @Configuration public class DemoConfig { public DemoConfig() { log.warn(" ...
  • 一、複習一下前面所學的內容 1.寫出下列字元或者數字的類型以及在printf()函數中使用什麼符號轉換 常量類型轉換說明(%轉換符號) 12 int %d 0X3 unsigned int %#x 'C' char(實際上是int) %c 2.34E07 double %e '\040' char( ...
  • 安裝python的mysqlclient==1.4.6報錯 環境:ubuntu18.04python 3.6.8Django 2.0 想要使用Django來操作MySQL,需要安裝一個驅動程式。在Python3中,選擇用mysqlclient做驅動。 安裝mysqlclient出現報錯: ERROR ...
  • 繼Golang學習系列第二天:變數、常量、數據類型和流程語句之後,今天開始學習數據類型之高級類型: 派生類型。 學過java的人都知道,java其實就8種基本類型:byte、short、int、long、float、double、char、boolean,但它有引用數據類型:字元串、數組、集合、類、 ...
  • 今天我們繼續來學習C語言的入門知識點 11. 作用域規則 任何一種編程中,作用域是程式中定義的變數所存在的區域,超過該區域變數就不能被訪問。C 語言中有三個地方可以聲明變數: 在函數或塊內部的局部變數 在所有函數外部的全局變數 在形式參數的函數參數定義中 讓我們來看看什麼是局部變數、全局變數和形式參 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...