ES入門寶典(詳細截圖版)

来源:https://www.cnblogs.com/tree1123/archive/2019/11/11/11833042.html
-Advertisement-
Play Games

本文使用版本基於elasticsearch 6.4.0 1、什麼是ES? 官網: "https://www.elastic.co/products/elasticsearch" 中文官網:https://www.elastic.co/cn/products/elasticsearch ES是一個全文 ...


file

本文使用版本基於elasticsearch-6.4.0

1、什麼是ES?

官網: https://www.elastic.co/products/elasticsearch 

中文官網:https://www.elastic.co/cn/products/elasticsearch

file

ES是一個全文檢索引擎,提到全文檢索,就要說一下以下幾個概念:

搜索:尋找想要的信息,根據關鍵字找到想要的信息。

倒排索引:反向索引,提取關鍵字建立索引,不需要全部遍歷,提高效率,減少掃描次數。

lucene,就是一個jar包 裡面有倒排索引和一些演算法 可以基於lucene api進行全文檢索的開發,api複雜。

瞭解全文檢索,可以關註這篇文章什麼是全文檢索

ES也就是Elasticsearch又是什麼呢?

封裝lucene 提供企業級服務;

基於Apache lucene構建得開源搜索引擎;

java編寫 簡單易用得RESTFul API;

橫向擴展 支持PB級的結構化或非結構化數據處理;

ES的功能:

1)分散式的搜索引擎和數據分析引擎。

2)全文檢索,結構化檢索,數據分析。

3)對海量數據進行近實時的處理。

應用場景:

海量數據的分析引擎;站內搜索引擎;數據倉庫。

國外:維基百科,Stack Overflow,GitHub

國內:站內搜索(電商,招聘,門戶,等等),IT系統搜索(OA,CRM,ERP,等等),數據分析(ES熱門的一個使用場景)

2、主要概念

索引index

邏輯存儲 相當於關係型資料庫的表

每個索引有一或多個分片(shard) 每個分片有多個副本(replica)

分片shard

單台機器無法存儲大量數據,es可以將一個索引中的數據切分為多個shard,分佈在多台伺服器上存儲。有了shard就可以橫向擴展,存儲更多數據,讓搜索和分析等操作分佈到多台伺服器上去執行,提升吞吐量和性能。每個shard都是一個lucene index。

副本replica

任何一個伺服器隨時可能故障或宕機,此時shard可能就會丟失,因此可以為每個shard創建多個replica副本。replica可以在shard故障時提供備用服務,保證數據不丟失,多個replica還可以提升搜索操作的吞吐量和性能。

文檔document

es中的最小數據單元,一個document可以是一條客戶數據,一條商品分類數據,一條訂單數據,通常用JSON數據結構表示,每個index下的type中,都可以去存儲多個document。一個document裡面有多個field,每個field就是一個數據欄位。

面向文檔存儲

(1)應用系統的數據結構都是面向對象的,複雜的
(2)對象數據存儲到資料庫中,只能拆解開來,變為扁平的多張表,每次查詢的時候還得還原回對象格式,相當麻煩
(3)ES是面向文檔的,文檔中存儲的數據結構,與面向對象的數據結構是一樣的,基於這種文檔數據結構,es可以提供複雜的索引,全文檢索,分析聚合等功能
(4)es的document用json數據格式來表達

映射mapping

文檔中的每個欄位根據不同類型做相應分析。

ES核心概念 vs. 資料庫核心概念

索引(indices)-------------Table 數據表

文檔(Document)--------Row 行

欄位(Field)-------Columns 列

3、安裝部署

安裝JDK,至少1.8.0_73以上版本

win下部署ES

下載win版本

解壓 放在d盤

同步命令行啟動

C:\Users\JN>d:

D:>cd

D:\elasticsearch-6.4.0>cd bin

D:\elasticsearch-6.4.0\bin>elasticsearch.bat

kibana也是

C:\Users\JN>d:

D:>cd kibana-6.4.0-windows-x86_64

D:\kibana-6.4.0-windows-x86_64>cd bin

D:\kibana-6.4.0-windows-x86_64\bin>kibana.bat

部署成功: 可以通過localhost:9200訪問es

file

localhost:5601訪問kibana

file

linux下部署ES

下載linux版本ES

 curl -L -O https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.4.0.tar.gz

新建 切換用戶

useradd es
passwd es
su es

解壓

tar -zxvf elasticsearch-6.4.0.tar.gz

修改配置

cd conf
vim elasticsearch.yml  es配置:集群  日誌位置 數據位置  訪問限制等等
vim jvm.options   jvm配置

啟動

./bin/elasticsearch

9300:集群節點間通訊介面

9200:客戶端訪問介面

訪問9200可以看見數據返回

curl localhost:9200

file

4、簡單Restful Api操作

網頁訪問kibana

localhost:5601 選擇 Dev Tools

file

基本操作

集群健康 GET /_cat/health

1556162587 11:23:07 elasticsearch green 1 1 1 1 0 0 0 0 - 100.0%

查看索引 GET /_cat/indices?v

green open .kibana NHt9dbSkRWaom_Df6cyi6w 1 0 1 0 4kb 4kb

創建索引 PUT /test_index?pretty

刪除索引 DELETE /test_index?pretty

CRUD操作

PUT /index/type/id

{

​ ”json數據“

}

例子:

PUT /blog01/article/1
{
    "id": "1",
    "title": "elasticsearch"
    "desc":"elasticsearch"
}

PUT /blog01/article/2
{
    "id": "2,
    "title": "kibana "
    "desc":"kibana "
}

es會自動建立index和type,不需要提前創建,而且es會預設對document的每個field都建立倒排索引,讓其可以被搜索。

查詢 GET /blog01/article/1

修改

(替換方式) 替換必須帶所有信息
 PUT /blog01/article/1
    {
        "id": "1",
        "title": "elasticsearch"
        "desc":"elasticsearch_new"
    }
(更新方式)
POST /blog01/article/2/_update
{
    "doc": {
     "desc":"elasticsearch_new"
   }        
}

刪除 DELETE /blog01/article/1

簡單搜索

query string search

search參數http附帶

took:整個搜索請求花費了多少毫秒

timed_out:是否超時

_shards:切片

hits.total:本次搜索,返回了幾條結果
hits.max_score:本次搜索的所有結果中,最大的相關度分數是多少,每一條document對於search的相關度,越相關,_score分數越大,排位越靠前

GET /blog01/article/_search?q=desc:kibana
{
  "took": 4,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "skipped": 0,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 0.2876821,
    "hits": [
      {
        "_index": "blog01",
        "_type": "article",
        "_id": "2",
        "_score": 0.2876821,
        "_source": {
          "id": "2",
          "title": "kibana ",
          "desc": "kibana "
        }
      }
    ]
  }
}

query DSL

Domain Specified Language

帶json請求體查詢

GET /blog01/article/_search
{
  "query": {
    "match_all": {}
  }
}

query filter

bool可以封裝多個條件 “must”必須匹配 “filter”過濾

GET /blog01/article/_search
{
  "query" : {
        "bool" : {
            "must" : {
               "match" :{
                  "desc" : "kibana"
               }
            }   
        }
    }
}

全文檢索 full text search

會根據兩個詞 去倒排索引查找 匹配上任意一個就會返回 匹配度最高的文檔排在前面

GET /blog01/article/_search
{
  "query" : {
               "match" :{
                  "desc" : "kibana test"
               }
    }
}

短語搜索 phrase search

兩個詞必須都包含

GET /blog01/article/_search
{
  "query" : {
               "match_phrase" :{
                  "desc" : "kibana test"
               }
    }
}

高亮結果 highlight search

GET /blog01/article/_search
{
  "query" : {
               "match" :{
                  "desc" : "kibana"
               }
               
    },
    "highlight":{
                 "fields":{
                   "desc" :{}
                 }
    } 
}

更多ES,Flink,Kafka等實時計算相關博文,歡迎關註實時流式計算:

file

本文由博客一文多發平臺 OpenWrite 發佈!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • [20191108]內核參數tcp_keepalive與sqlnet.ora expire_time的一些總結.txt--//前幾天在做12c DCD SQLNET.EXPIRE_TIME相關測試時,在11g資料庫遇到1個古怪的問題,就是設置sqlnet.expire_time無效.不知道為--// ...
  • http://www2.cs.uregina.ca/~bernatja/crowsfoot.html Crow’s Foot Notation A number of data modeling techniques are being used today. One of the most com ...
  • 這一篇接著記錄一下查詢相關的操作。想象一下,如果想要在一張表格中展示某些車輛的耗損和營收情況,我們該怎麼處理。車輛、耗損、營收各自存儲在一張表中,耗損和營收中冗餘了車輛信息……我們便想到了關聯查詢。mongodb 3.2+中開始支持關聯查詢,下麵介紹一下寫關聯查詢的過程。 測試一、 結合前面筆記的成 ...
  • MySQL中GROUP BY隱式排序是什麼概念呢? 主要是其它RDBMS沒有這樣的概念,如果沒有認真瞭解過概念,對這個概念會感覺有點困惑,我們先來看看官方文檔的介紹: 官方文檔MySQL 5.7 Reference Manual中的“.2.1.14 ORDER BY Optimization”章節有... ...
  • oracle刪除表,如果表不存在,就報錯,在跑大型腳本(腳本長且耗時的時候)比較麻煩,一般希望的是點開始然後腳本運行到結束,不可能一直盯著屏幕等彈出提示手工點掉,mysql就很好有drop table if not exist功能CREATE OR REPLACE PROCEDURE p_drop_... ...
  • 1、將mysql壓縮包解壓至 /usr/local 文件夾下,將其改名為mysql#解壓tar -zxf mysql-5.7.27-el7-x86_64.tar.gz -C /usr/local/#重命名cd /usr/local/mv mysql-5.7.27-el7-x86_64/ mysql2... ...
  • MySQL事務 事務存在的原因 事務存在的目的:保證用戶對數據操作對數據是安全的。(比如說銀行卡餘額) 事務的特性——ACID 原子性:一個事務要麼全部執行,要麼不執行 一致性:事務開始和結束時,數據保持一致 隔離性:事務之間互不影響 持久性:事務操作的結果具有持久性 關於臟讀,不可重覆讀,幻讀 臟 ...
  • 記錄一個清除MySQL里binlog日誌的命令,可用在定時任務腳本里。 只保留1天前的日誌: PURGE MASTER LOGS BEFORE DATE_SUB(CURRENT_DATE, INTERVAL 1 DAY) ...
一周排行
    -Advertisement-
    Play Games
  • 概述:在C#中,++i和i++都是自增運算符,其中++i先增加值再返回,而i++先返回值再增加。應用場景根據需求選擇,首碼適合先增後用,尾碼適合先用後增。詳細示例提供清晰的代碼演示這兩者的操作時機和實際應用。 在C#中,++i 和 i++ 都是自增運算符,但它們在操作上有細微的差異,主要體現在操作的 ...
  • 上次發佈了:Taurus.MVC 性能壓力測試(ap 壓測 和 linux 下wrk 壓測):.NET Core 版本,今天計劃準備壓測一下 .NET 版本,來測試並記錄一下 Taurus.MVC 框架在 .NET 版本的性能,以便後續持續優化改進。 為了方便對比,本文章的電腦環境和測試思路,儘量和... ...
  • .NET WebAPI作為一種構建RESTful服務的強大工具,為開發者提供了便捷的方式來定義、處理HTTP請求並返迴響應。在設計API介面時,正確地接收和解析客戶端發送的數據至關重要。.NET WebAPI提供了一系列特性,如[FromRoute]、[FromQuery]和[FromBody],用 ...
  • 原因:我之所以想做這個項目,是因為在之前查找關於C#/WPF相關資料時,我發現講解圖像濾鏡的資源非常稀缺。此外,我註意到許多現有的開源庫主要基於CPU進行圖像渲染。這種方式在處理大量圖像時,會導致CPU的渲染負擔過重。因此,我將在下文中介紹如何通過GPU渲染來有效實現圖像的各種濾鏡效果。 生成的效果 ...
  • 引言 上一章我們介紹了在xUnit單元測試中用xUnit.DependencyInject來使用依賴註入,上一章我們的Sample.Repository倉儲層有一個批量註入的介面沒有做單元測試,今天用這個示例來演示一下如何用Bogus創建模擬數據 ,和 EFCore 的種子數據生成 Bogus 的優 ...
  • 一、前言 在自己的項目中,涉及到實時心率曲線的繪製,項目上的曲線繪製,一般很難找到能直接用的第三方庫,而且有些還是定製化的功能,所以還是自己繪製比較方便。很多人一聽到自己畫就害怕,感覺很難,今天就分享一個完整的實時心率數據繪製心率曲線圖的例子;之前的博客也分享給DrawingVisual繪製曲線的方 ...
  • 如果你在自定義的 Main 方法中直接使用 App 類並啟動應用程式,但發現 App.xaml 中定義的資源沒有被正確載入,那麼問題可能在於如何正確配置 App.xaml 與你的 App 類的交互。 確保 App.xaml 文件中的 x:Class 屬性正確指向你的 App 類。這樣,當你創建 Ap ...
  • 一:背景 1. 講故事 上個月有個朋友在微信上找到我,說他們的軟體在客戶那邊隔幾天就要崩潰一次,一直都沒有找到原因,讓我幫忙看下怎麼回事,確實工控類的軟體環境複雜難搞,朋友手上有一個崩潰的dump,剛好丟給我來分析一下。 二:WinDbg分析 1. 程式為什麼會崩潰 windbg 有一個厲害之處在於 ...
  • 前言 .NET生態中有許多依賴註入容器。在大多數情況下,微軟提供的內置容器在易用性和性能方面都非常優秀。外加ASP.NET Core預設使用內置容器,使用很方便。 但是筆者在使用中一直有一個頭疼的問題:服務工廠無法提供請求的服務類型相關的信息。這在一般情況下並沒有影響,但是內置容器支持註冊開放泛型服 ...
  • 一、前言 在項目開發過程中,DataGrid是經常使用到的一個數據展示控制項,而通常表格的最後一列是作為操作列存在,比如會有編輯、刪除等功能按鈕。但WPF的原始DataGrid中,預設只支持固定左側列,這跟大家習慣性操作列放最後不符,今天就來介紹一種簡單的方式實現固定右側列。(這裡的實現方式參考的大佬 ...