asp.net core系列 75 Elasticsearch與中文分詞配置

来源:https://www.cnblogs.com/MrHSR/archive/2020/02/18/12258466.html

一. elasticsearch on windows 1.下載地址: https://www.elastic.co/cn/downloads/elasticsearch 如果瀏覽器下載文件慢,建議使用迅雷下載,速度很快。下載版本為7.5.2 2. 修改配置文件 下載後解壓,找到config\jvm ...


一. elasticsearch on windows

  1.下載地址:

    https://www.elastic.co/cn/downloads/elasticsearch

    如果瀏覽器下載文件慢,建議使用迅雷下載,速度很快。下載版本為7.5.2

  2. 修改配置文件

    下載後解壓,找到config\jvm.options,分配JVM堆記憶體大小,原則上是分配總記憶體的50%給 elasticsearch,但不要超過30.5GB,原因是64位定址會導致性能下降。將預設1g改成512m,  個人電腦當預設1g時,windows安裝會出現:HeapDumpOnOutOfMemoryError

    

  3. windows安裝

     打開cmd執行以下命令

     E:\elasticsearch-7.5.2\bin>elasticsearch-service.bat install

 4.啟動服務

    由於elasticsearch比較耗記憶體,預設安裝服務設置啟動方式為手動,除非真的使用windwos作為伺服器, 手動啟動服務後,瀏覽器查看:http://localhost:9200/,出現以下代表成功

     

    name:為集群中的節點名稱,預設值為當前機器名稱。

    cluster_name:集群的名稱,預設為elasticsearch。

      查看健康狀態:http://localhost:9200/_cat/health?v

    查看所有索引:http://localhost:9200/_cat/indices?v

  5. 其它配置

    elasticsearch.yml文件

      transport.port :節點與節點通信的埠,預設為9300

      http.port:elasticsearch 開放的Rest介面的埠,預設為9200

      network.host 預設為192.168.0.1,要設置為0.0.0.0,綁定所有本地地址,或者直接設置一個可供外網訪問的地址

 

二. Kibana on windows

  1.下載地址

    https://www.elastic.co/cn/downloads/kibana

    如果瀏覽器下載文件慢,建議使用迅雷下載,速度很快。下載版本為7.5.2 

  2.修改配置文件

    在config\kibana.yml文件中,預設連接elasticsearch地址是:elasticsearch.hosts: ["http://localhost:9200"], 如果elasticsearch和kibana都在同一臺機器,則不需要修改。

  3. 啟動

    Kibana不同於Elasticsearch,Kibana官方並沒有提供安裝為系統服務的方法。在bin目錄下雙擊kibana.bat文件。暫用控制台作為宿主。在瀏覽器運行http://localhost:5601/

    首頁右下角單擊,左邊的導航欄會展開,如下所示:

    

    可以將sample flight data 飛行記錄數據和sample web logs  web日誌記錄,這二個樣例數據導入,方便學習。

     在左邊的導航欄Dev Tools 中,可以調用 elasticsearch api 來進行操作,如下所示:

  4.kibana其它配置

    4.1 kibana.yml修改為中文

      #i18n.locale: "en"
        i18n.locale: "zh-CN"

 

 三.分析器安裝

  IK 是中文分析器中比較有名的,分詞包括兩種: ik_smart和ik_max_word。二種區別在於提取詞項的粒度,前者提取的粒度最粗,後者最細。elsaticsearch預設並不支持ik,需要安裝。版本與elsaticsearch保持一致,這裡下載v7.5.2。下載 地址:https://github.com/medcl/elasticsearch-analysis-ik/releases    elasticsearch-analysis-ik-7.5.2.zip

  在plugins下,新建一個ik文件夾,解壓放入,重啟ES,如下所示:

 

  (打開kibana的Dev Tools測試)IK中文分析器測試,ik_max_word測試如下:

   IK中文分析器測試,ik_smart測試如下:

 

四.IK擴展詞典

  3.1 本地配置自定義詞典

     如下圖,先建一個txt文件,文本格式為 UTF8 編碼,重命名為mydict.dic文件,添加自定義詞典

    將dic新文件路徑配置到IKAnalyzer.cfg.xml中,如下所示:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
    <comment>IK Analyzer 擴展配置</comment>
    <!--用戶可以在這裡配置自己的擴展字典 -->
    <entry key="ext_dict">custom/mydict.dic</entry>
     <!--用戶可以在這裡配置自己的擴展停止詞字典-->
    <entry key="ext_stopwords"></entry>
    <!--用戶可以在這裡配置遠程擴展字典 -->
    <!-- <entry key="remote_ext_dict">words_location</entry> -->
    <!--用戶可以在這裡配置遠程擴展停止詞字典-->
    <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

    置後,重啟es服務,再使用分詞器測試如下所示:

    

 

五.IK熱更新詞庫

    官方給出建議:可以將需自動更新的熱詞放在一個 UTF-8 編碼的 .txt 文件里,放在 nginx 或其他簡易 http server 下,當 .txt 文件修改時,http server 會在客戶端請求該文件時自動返回相應的 Last-Modified 和 ETag。可以另外做一個工具來從業務系統提取相關辭彙,並更新這個 .txt 文件。

    下麵使用iis作為http伺服器,新建一個站點,站點下有一個hotword.txt 文件,應用池托管為v 4.0經典模式。去掉壓縮不然lk程式監視器讀取不到。 再就是設置http響應頭,因為該 http 請求需要返回兩個頭部(header),一個是 Last-Modified,一個是 ETag,這兩者都是字元串類型,只要有一個發生變化,該插件就會去抓取新的分詞進而更新詞庫。配圖如下所示:

 

 

   將伺服器txt文件路徑配置到IKAnalyzer.cfg.xml中,如下所示:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
    <comment>IK Analyzer 擴展配置</comment>
    <!--用戶可以在這裡配置自己的擴展字典 -->
    <!--<entry key="ext_dict"></entry>-->
     <!--用戶可以在這裡配置自己的擴展停止詞字典-->
  <!--<entry key="ext_stopwords"></entry>-->
    <!--用戶可以在這裡配置遠程擴展字典 -->
     <entry key="remote_ext_dict">http://localhost:8088/hotword.txt</entry> 
    <!--用戶可以在這裡配置遠程擴展停止詞字典-->
  <!--  <entry key="remote_ext_stopwords"></entry>-->
</properties>

  hotword.txt配置如下所示:

 

    重啟es伺服器,在Log/elasticsearch.log中可以看到載入的詞列表,如下所示:

[2020-02-18T10:46:47,129][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] try load config from D:\有啦\elasticsearch-7.5.2\plugins\ik\config\IKAnalyzer.cfg.xml
[2020-02-18T10:46:47,206][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] [Dict Loading] http://localhost:8088/hotword.txt
[2020-02-18T10:46:47,213][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] 新冠
[2020-02-18T10:46:47,213][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] 新冠肺炎
[2020-02-18T10:46:47,213][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] 盛吉芳
[2020-02-18T10:46:47,213][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] 首提
[2020-02-18T10:46:47,214][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] 哈哈
[2020-02-18T10:46:47,214][INFO ][o.w.a.d.Monitor          ] [DESKTOP-D49T1S2] reload ik dict finished.

   測試分詞,如下所示:

 

 

參考文獻

  analysis-ik

 


您的分享是我們最大的動力!

更多相關文章
  • 在 C 中存在一個名叫靜態類型檢查的機制,這個機制可以讓編譯器幫助我們把類型不服的用法找出來,從而使得應用程式在運行期間加少一些類型檢查的操作。但是有時候我們還是需要進行運行期類型檢查,比如我們在設計框架時將方法的參數類型定義為 object ,那麼這時我們就有很大的可能需要將 object 類型的 ...
  • 本筆記摘抄自:https://www.cnblogs.com/PatrickLiu/p/7772184.html,記錄一下學習過程以備後續查用。 一、引言 今天我們要講結構型設計模式的第五個模式--外觀模式。先從名字上來理解一下外觀模式,當看到“外觀”這個詞時,很容易想到“外表”這個詞語,兩者有著 ...
  • 《C# 6.0 本質論》 [作者] (美) Mark Michaelis (美) Eric Lippert[譯者] (中) 周靖 龐燕[出版] 人民郵電出版社[版次] 2017年02月 第5版[印次] 2017年02月 第1次 印刷[定價] 108.00元 【前言】 成功學習 C# 的關鍵在於,要盡 ...
  • 項目gitHub地址 點我跳轉 今天給大家帶來一個C#裡面的時間工具類,具體的直接看下麵代碼 1 using System; 2 3 namespace ToolBox.DateTimeTool 4 { 5 public static class DateTimeExtend 6 { 7 /// < ...
  • 一、前言 Entity Framework(後面簡稱EF)作為微軟家的ORM,自然而然從.NET Framework延續到了.NET Core。 二、程式包管理器控制台 為了能夠在控制臺中使用命令行來操作EF,需要先安裝Microsoft.EntityFrameworkCore.Tools。 安裝 ...
  • 本筆記摘抄自:https://www.cnblogs.com/PatrickLiu/p/7743118.html,記錄一下學習過程以備後續查用。 一、引言 今天我們要講結構型設計模式的第四個模式--組合模式。當我們談到這個模式的時候,有一個物件和這個模式很像,那就是“俄羅斯套娃”。“俄羅斯套娃”是 ...
  • Regex.Replace("<!--(.|[\r\n])*?-->",string.Empty) ...
  • 最近因為” 新冠” 疫情在家辦公,學習了 ASP.NET Core MVC 網站的一些知識,記錄如下。 ...
一周排行
  • 前幾天發佈了 "抄抄《CSS 故障藝術》的動畫" 這篇文章,在這篇文章里介紹瞭如何使用Win2D繪製文字然後配合BlendEffect製作故障藝術的動畫。本來打算就這樣收手不玩這個動畫了,但後來又發現性能不符合理想。明明只是做做Resize動畫和用BlendEffect混合,為什麼性能會這麼差呢? ...
  • 控制條控制項: progressBar 不能按照你程式的進程自動變化,需認為計算,調整變化量 private void progressBar1_Click(object sender, EventArgs e) { this.progressBar1.Maximum = 100;//設置進度條最大長 ...
  • 首先創建一個asp.net core web應用程式 第二步 目前官方預置了7種模板項目供我們選擇。從中我們可以看出,既有我們熟悉的MVC、WebAPI,又新添加了Razor Page,以及結合比較流行的Angular、React前端框架的模板項目。 空項目模板 Program.cs using S ...
  • 對閉包的理解 1.對於成員變數和局部變數:成員變數就是方法外部,類的內部定義的變數;局部變數就是方法或語句塊內部定義的變數。局部變數必須初始化。 形式參數是局部變數,局部變數的數據存在於棧記憶體中。棧記憶體中的局部變數隨著方法的消失而消失。成員變數存儲在堆中的對象裡面,由垃圾回收器負責回收。 成員變數它 ...
  • Xamarin.Forms讀取並展示Android和iOS通訊錄 TerminalMACS客戶端 本文同步更新地址: https://dotnet9.com/11520.html https://terminalmacs.com/861.html 閱讀導航: 一、功能說明 二、代碼實現 三、源碼獲取 ...
  • 做下對文件複製操作相關的筆記: /// <summary> /// 文件幫助類 /// </summary> public class FileHelper { /// <summary> /// 複製一個目錄下所有文件到一個新目錄下 /// </summary> /// <param name=" ...
  • 前言 有一個東西叫做鴨子類型,所謂鴨子類型就是,只要一個東西表現得像鴨子那麼就能推出這玩意就是鴨子。 C 裡面其實也暗藏了很多類似鴨子類型的東西,但是很多開發者並不知道,因此也就沒法好好利用這些東西,那麼今天我細數一下這些藏在編譯器中的細節。 不是只有 和 才能 在 C 中編寫非同步代碼的時候,我們經 ...
  • [toc] 1.應用背景 底端設備有大量網路報文(位元組數組):心跳報文,數據採集報文,告警報文上報。需要有對應的報文結構去解析這些位元組流數據。 2.結構體解析 由此,我第一點就想到了用結構體去解析。原因有以下兩點: 2.1.結構體存在棧中 類屬於引用類型,存在堆中;結構體屬於值類型,存在棧中,在一個 ...
  • 《深入淺出 C#》 (第3版) [作者] (美) Andrew Stellman (美) Jennifer Greene[譯者] (中) 徐陽 丁小峰 等譯[出版] 中國電力出版社[版次] 2016年08月 第1版[印次] 2018年04月 第4次 印刷[定價] 148.00元 【引子】 要學習編程 ...
  • 記錄使用對象初始值設定項初始化對象。 using System; using System.Collections.Generic; namespace ConsoleApp2 { class Program { static void Main(string[] args) { // 使用構造函數 ...
x