ELK搭建與使用詳解

来源:https://www.cnblogs.com/yjssjm/archive/2020/04/05/12639400.html
-Advertisement-
Play Games

1.環境部署 | 安裝軟體 | 主機名 |IP地址|記憶體需求| | | | | | | Elasticsearch | mes |192.168.13.142|至少3G| |Logstash|log|192.168.13.143|至少2G| |head,Kibana|head kib|192.168 ...


1.環境部署

安裝軟體 主機名 IP地址 記憶體需求
Elasticsearch mes 192.168.13.142 至少3G
Logstash log 192.168.13.143 至少2G
head,Kibana head-kib 192.168.13.139 至少2G

地址與版本

Elasticsearch: 6.5.4  #https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.5.4.tar.gz
Logstash: 6.5.4  #https://artifacts.elastic.co/downloads/logstash/logstash-6.5.4.tar.gz
Kibana: 6.5.4  #https://artifacts.elastic.co/downloads/kibana/kibana-6.5.4-linux-x86_64.tar.gz
Kafka: 2.11-2.1  #https://archive.apache.org/dist/kafka/2.1.0/kafka_2.11-2.1.0.tgz
Filebeat: 6.5.4
相應的版本最好下載對應的插件

相關地址:
官網地址

2.Elasticsearch部署

系統類型:Centos7.5
節點IP:172.16.13.142
軟體版本:jdk-8u211-linux-x64.tar.gz、elasticsearch-6.5.4.tar.gz
1.安裝配置jdk

JDK下載地址

[root@mes ~]# tar xzf jdk-8u211-linux-x64.tar.gz -C /usr/local/ #解壓
[root@mes ~]# cd /usr/local/
[root@mes local]# mv jdk1.8.0_211/ java 
[root@mes local]# echo '
JAVA_HOME=/usr/local/java
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME PATH
' >>/etc/profile
[root@mes local]# source /etc/profile
[root@mes local]# java -version   #出現版本號就代表jdk配置成功
java version "1.8.0_211"
Java(TM) SE Runtime Environment (build 1.8.0_211-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.211-b12, mixed mode)
2.安裝配置ES
[root@mes ~]# useradd elsearch #創建運行用戶
[root@mes ~]# echo "123456" | passwd --stdin "elsearch"  #設置密碼
[root@mes ~]# tar xzf elasticsearch-6.5.4.tar.gz -C /usr/local/
[root@mes ~]# cd /usr/local/elasticsearch-6.5.4/config/
[root@mes config]# cp elasticsearch.yml elasticsearch.yml.bak #備份
[root@mes config]# vim elasticsearch.yml    
# 在最後一行添加如下內容
cluster.name: elk
node.name: elkyjssjm
node.master: true
node.data: true
path.data: /data/elasticsearch/data
path.logs: /data/elasticsearch/logs
bootstrap.memory_lock: false
bootstrap.system_call_filter: false
network.host: 0.0.0.0
http.port: 9200
http.cors.enabled: true
http.cors.allow-origin: "*"
#discovery.zen.ping.unicast.hosts: ["192.168.246.234", "192.168.246.231","192.168.246.235"]
#discovery.zen.minimum_master_nodes: 2
#discovery.zen.ping_timeout: 150s
#discovery.zen.fd.ping_retries: 10
#client.transport.ping_timeout: 60s

參數詳解

cluster.name        集群名稱,各節點配成相同的集群名稱。
node.name       節點名稱,各節點配置不同。
node.master     指示某個節點是否符合成為主節點的條件。
node.data       指示節點是否為數據節點。數據節點包含並管理索引的一部分。
path.data       數據存儲目錄。
path.logs       日誌存儲目錄。
bootstrap.memory_lock       記憶體鎖定,是否禁用交換。
bootstrap.system_call_filter    系統調用過濾器。
network.host    綁定節點IP。
http.port       埠。
discovery.zen.ping.unicast.hosts    提供其他 Elasticsearch 服務節點的單點廣播發現功能。
discovery.zen.minimum_master_nodes  集群中可工作的具有Master節點資格的最小數量,官方的推薦值是(N/2)+1,其中N是具有master資格的節點的數量。
discovery.zen.ping_timeout      節點在發現過程中的等待時間。
discovery.zen.fd.ping_retries        節點發現重試次數。
http.cors.enabled               是否允許跨源 REST 請求,表示支持所有功能變數名稱,用於允許head插件訪問ES。
http.cors.allow-origin              允許的源地址。
設置JVM堆大小,一般設置為記憶體的一半,但最少2G
[root@mes ~]# sed -i 's/-Xms1g/-Xms2g/' /usr/local/elasticsearch-6.5.4/config/jvm.options
[root@mes ~]# sed -i 's/-Xmx1g/-Xmx2g/' /usr/local/elasticsearch-6.5.4/config/jvm.options
創建ES數據及日誌存儲目錄並修改屬主和屬組,與上面配置文件中的路徑一一對應
[root@mes ~]# mkdir -p /data/elasticsearch/data       
[root@mes ~]# mkdir -p /data/elasticsearch/logs 
[root@mes ~]# chown -R elsearch:elsearch /data/elasticsearch   #給剛剛創建的目錄修改屬主和屬組
[root@mes ~]# chown -R elsearch:elsearch /usr/local/elasticsearch-6.5.4    
系統優化:
1.增加最大進程數
[root@mes ~]# vim /etc/security/limits.conf    
#在文件最後面添加如下內容
* soft nofile 65536
* hard nofile 131072
* soft nproc 2048
* hard nproc 4096
================================================================
解釋:
soft  xxx  : 代表警告的設定,可以超過這個設定值,但是超過後會有警告。
hard  xxx  : 代表嚴格的設定,不允許超過這個設定的值。
nofile : 是每個進程可以打開的文件數的限制
nproc  : 是操作系統級別對每個用戶創建的進程數的限制
================================================================
2.增加最大記憶體映射數
[root@mes ~]# vim /etc/sysctl.conf   
#添加如下
vm.max_map_count=262144  #elasticsearch用戶擁有的記憶體許可權太小,至少需要262144;
vm.swappiness=0			#表示最大限度使用物理記憶體,在記憶體不足的情況下,然後才是swap空間
[root@mes ~]# su - elsearch
Last login: Sat Aug  3 19:48:59 CST 2019 on pts/0
[root@mes ~]$ cd /usr/local/elasticsearch-6.5.4/
[root@mes elasticsearch-6.5.4]$ ./bin/elasticsearch  #先啟動看看報錯不,需要多等一會
終止之後(等cpu降下來再終止)
[root@mes elasticsearch-6.5.4]$ nohup ./bin/elasticsearch &  #放後臺啟動
[1] 11462
nohup: ignoring input and appending output to ‘nohup.out’
[root@mes elasticsearch-6.5.4]$ tail -f nohup.out   #看一下是否啟動
或者:
su - elsearch -c "cd /usr/local/elasticsearch-6.5.4 && nohup bin/elasticsearch &"

測試:訪問http://192.168.13.142:9200/ 記得加埠9200
在這裡插入圖片描述

3.head,Kibana安裝配置

系統類型:Centos7.5
節點IP:172.16.13.139
軟體版本:node-v4.4.7-linux-x64.tar.gz、elasticsearch-head-master.zip、phantomjs-2.1.1-linux-x86_64.tar.bz2、kibana-6.5.4-linux-x86_64.tar.gz
1.head及其插件的安裝配置
1.安裝node
[root@head-kib ~]# wget https://npm.taobao.org/mirrors/node/latest-v4.x/node-v4.4.7-linux-x64.tar.gz
[root@head-kib ~]# tar -zxf node-v4.4.7-linux-x64.tar.gz –C /usr/local
[root@head-kib ~]# vim /etc/profile   
#在最後添加如下變數
NODE_HOME=/usr/local/node-v4.4.7-linux-x64
PATH=$NODE_HOME/bin:$PATH
export NODE_HOME PATH
[root@head-kib ~]# source /etc/profile
[root@head-kib ~]# node --version  #檢查node版本號
v4.4.7
2.下載head插件grunt
[root@head-kib ~]# wget https://github.com/mobz/elasticsearch-head/archive/master.zip
[root@head-kib ~]# cp elasticsearch-head-master.zip /usr/local/
[root@head-kib ~]# yum -y install unzip
[root@head-kib local]# cd /usr/local
[root@head-kib local]# unzip  elasticsearch-head-master.zip
[root@head-kib local]# cd elasticsearch-head-master/
[root@head-kib elasticsearch-head-master]# npm config set registry https://registry.npm.taobao.org #改源地址,要不然下麵的安裝時間會特別長
[root@head-kib elasticsearch-head-master]# npm install -g grunt-cli  #安裝grunt
[root@head-kib elasticsearch-head-master]# grunt --version  #檢查grunt版本號
grunt-cli v1.3.2
[root@head-kib elasticsearch-head-master]# vim /usr/local/elasticsearch-head-master/Gruntfile.js   
#在95行左右

在這裡插入圖片描述

[root@head-kib elasticsearch-head-master]# vim /usr/local/elasticsearch-head-master/_site/app.js     
#在4374行左右

在這裡插入圖片描述

3.下載head必要的文件
[root@head-kib ~]# wget https://github.com/Medium/phantomjs/releases/download/v2.1.1/phantomjs-2.1.1-linux-x86_64.tar.bz2
[root@head-kib ~]# yum -y install bzip2
[root@head-kib ~]# tar -jxf phantomjs-2.1.1-linux-x86_64.tar.bz2 -C /tmp/  #解壓
4.運行head
[root@head-kib ~]# cd /usr/local/elasticsearch-head-master/
[root@head-kib elasticsearch-head-master]# npm config set registry https://registry.npm.taobao.org
[root@head-kib elasticsearch-head-master]# npm install
...
[email protected] node_modules/grunt-contrib-jasmine
├── [email protected]
├── [email protected]
├── [email protected]
├── [email protected] ([email protected], [email protected], [email protected], [email protected], [email protected])
├── [email protected]
├── [email protected] ([email protected])
└── [email protected] ([email protected], [email protected], [email protected], phan
[root@head-kib elasticsearch-head-master]# nohup grunt server &
[root@head-kib elasticsearch-head-master]# tail -f nohup.out 
Running "connect:server" (connect) task
Waiting forever...
Started connect web server on http://localhost:9100

測試:訪問http://192.168.13.139:9100/
在這裡插入圖片描述

2.Kibana部署
1.安裝和配置
[root@head-kib ~]# tar zvxf kibana-6.5.4-linux-x86_64.tar.gz -C /usr/local/
[root@head-kib ~]# cd /usr/local/kibana-6.5.4-linux-x86_64/config/
[root@head-kib config]# vim kibana.yml
#在末尾添加以下內容
server.port: 5601 
server.host: "192.168.13.139"  #本機
elasticsearch.url: "http://192.168.13.142:9200" #ES節點
kibana.index: ".kibana"
====================================================================================
server.port kibana 服務埠,預設5601
server.host kibana 主機IP地址,預設localhost
elasticsearch.url  用來做查詢的ES節點的URL,預設http://localhost:9200
kibana.index       kibana在Elasticsearch中使用索引來存儲保存的searches, visualizations和dashboards,預設.kibana
=====================================================================================
2.啟動
[root@head-kib config]# cd ..
[root@head-kib kibana-6.5.4-linux-x86_64]# nohup ./bin/kibana & 
[1] 12054
[root@head-kib kibana-6.5.4-linux-x86_64]# nohup: ignoring input and appending output to ‘nohup.out’

我們可以用nginx進行反向代理,不至於顯示出我們真正的IP和埠號
我是在這一臺上面部署了nginx,在任意一臺部署都可以

[root@head-kib ~]# rpm -ivh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm   #下載源
[root@head-kib ~]# yum -y install nginx #安裝
[root@head-kib ~]# cd /etc/nginx/conf.d/
[root@head-kib conf.d]# cp default.conf default.conf.bak #備份
[root@head-kib conf.d]# vim default.conf
#清空並添加以下內容
server {
        listen       80;
        server_name  192.168.13.139;  #你的nginx所在的機器
        #charset koi8-r;
        # access_log  /var/log/nginx/host.access.log  main;
        # access_log off;

         location / {  
             proxy_pass http://192.168.13.139:5601; #kibana所在的機器
             proxy_set_header Host $host:5601;  
             proxy_set_header X-Real-IP $remote_addr;  
             proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;  
             proxy_set_header Via "nginx";
                     }
         location /status { 
             stub_status on; #開啟網站監控狀態 
             access_log /var/log/nginx/kibana_status.log; #監控日誌 
             auth_basic "NginxStatus"; }

         location /head/{
             proxy_pass http://192.168.246.13.139:9100; #head所在的機器
             proxy_set_header Host $host:9100;
             proxy_set_header X-Real-IP $remote_addr;
             proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
             proxy_set_header Via "nginx";
                         }  
}
root@head-kib ~]# systemctl start nginx  #啟動nginx

測試:訪問 http://192.168.13.139/
剛開始沒數據,會提示你創建新的數據
在這裡插入圖片描述
在這裡插入圖片描述

4.Logstash部署

系統類型:Centos7.5
節點IP:192.168.13.143  
軟體版本:jdk-8u121-linux-x64.tar.gz、logstash-6.5.4.tar.gz

Logstash運行同樣依賴jdk,本次為節省資源,故將Logstash安裝在了kafka244.231節點。
你想收集哪台機器上的信息就將Logstash安裝到哪臺上。

1.安裝配置jdk
[root@log ~]# tar xzf jdk-8u211-linux-x64.tar.gz -C /usr/local/ #解壓
[root@log ~]# cd /usr/local/
[root@log local]# mv jdk1.8.0_211/ java 
[root@log local]# echo '
JAVA_HOME=/usr/local/java
PATH=$JAVA_HOME/bin:$PATH
export JAVA_HOME PATH
' >>/etc/profile
[root@log local]# source /etc/profile
[root@log local]# java -version   #出現版本號就代表jdk配置成功
java version "1.8.0_211"
Java(TM) SE Runtime Environment (build 1.8.0_211-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.211-b12, mixed mode)
2.安裝配置Logstash
[root@log ~]# tar xvzf logstash-6.5.4.tar.gz -C /usr/local/ #安裝
創建目錄,將輸入輸出都放在該目錄裡面
[root@log ~]# mkdir -p /usr/local/logstash-6.5.4/etc/conf.d
[root@log ~]# cd /usr/local/logstash-6.5.4/etc/conf.d/       
[root@log conf.d]# vim input.conf       
#在下麵添加
input{                        #讓logstash可以讀取特定的事件源。
   	file{                                       #從文件讀取
   		path => ["/var/log/nginx/access_json.log"]        #要輸入的文件路徑
	#   code => "json"               #定義編碼,用什麼格式輸入和輸出,由於日誌就是json格式,這裡不用再寫
        type => "nginx"                       #定義一個類型,通用選項. 用於激活過濾器
    }
}
output{           #輸出插件,將事件發送到特定目標
    elasticsearch {            #輸出到es
    	hosts => ["192.168.13.142:9200"]       #指定es服務的ip加埠
    	index => ["%{type}-%{+YYYY.MM.dd}"]     #引用input中的type名稱,定義輸出的格式
    }
}
我們這裡以nginx的日誌為例
[root@log ~]# cd
[root@log ~]# rpm -ivh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm
[root@log ~]# yum install -y nginx
將原來的日誌格式註釋掉定義成json格式:
[root@log conf.d]# vim /etc/nginx/nginx.conf
# 在http模塊裡面添加
log_format  json '{"@timestamp":"$time_iso8601",'
                           '"@version":"1",'
                           '"client":"$remote_addr",'
                           '"url":"$uri",'
                           '"status":"$status",'
                           '"domain":"$host",'
                           '"host":"$server_addr",'
                           '"size":$body_bytes_sent,'
                           '"responsetime":$request_time,'
                           '"referer": "$http_referer",'
                           '"ua": "$http_user_agent"'
               '}';
		access_log  /var/log/nginx/access_json.log  json; #引用定義的json格式的日誌:

在這裡插入圖片描述

啟動nginx
[root@log ~]# systemctl start nginx 
[root@log ~]# systemctl enable nginx
啟動logstash
[root@log ~]# cd /usr/local/logstash-6.5.4/
[root@log logstash-6.5.4]# nohup bin/logstash -f etc/conf.d/  --config.reload.automatic &

訪問http://192.168.13.143/ 多刷新幾次效果更明顯
在這裡插入圖片描述
然後去head插件頁面查看是否有nginx索引出現 http://192.168.13.139:9100/
發現之後,去配置kibanna添加索引
在這裡插入圖片描述
在這裡插入圖片描述
在這裡插入圖片描述

然後你就能看見nginx日誌的可視化界面了。

你們的評論和點贊是我寫文章的最大動力,蟹蟹。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 在這篇文章中,我將詳細講解ASP.NET Core Project File.如果你還沒看我這個系列的前面幾篇文章,先去看看,打好基礎,再來看這篇吧。 如果你使用過之前版本的.NET Framework,你就會知道,當你使用C#創建應用程式的時候,.NET Framework框架將會創建尾碼名為”. ...
  • 前言 在上一篇中簡單介紹了Linq的入門級用法,這一篇嘗試講解一些更加深入的使用方法,與前一篇的結構不一樣的地方是,這一篇我會先介紹Linq里的支持方法,然後以實際需求為引導,分別以方法鏈的形式和類SQL的形式寫出來。 前置概念介紹 1. 謂詞、斷言,等價於 即返回bool的表達式 2. 表達式樹, ...
  • 這篇文章中,我將教大家如何從頭到尾創建ASP.NET Core Web應用程式,這個系列,前面我已經寫了三篇文章,大家看這篇文章之前,可以先去熟悉一下前面的3篇文章,打一下基礎。在這篇文章中,我將和大家討論下麵兩個問題:使用Visual Studio 2019創建ASP.NET Core Web應用 ...
  • 在4月2日,發佈了.NET 5.0 Preview2,這次發佈對一些功能和性能做了相關的改進,同時後面也會實施5.0版本更多的功能,其中一些功能設計目前也在 "dotnet/designs" 中顯示,在 ".NET 5 Preview1" 中可以看到.NET 5里程碑中已經完成的建設任務,當然可以查 ...
  • 介紹ASP.NET Core框架 在這篇文章中,我將要向你們簡短介紹一下ASP.NET Core 框架。當今社會,當提到軟體開發,每個人都是討論著開源以及跨平臺開發。總所周知,微軟是以它的基於Windows產品出名的,比如Windows系統,Office辦公套件等。現在我們處在新時代軟體開發的潮流中 ...
  • [TOC] 1.部署kubernetesubernetes的內網資源配置清單 在hdss7 200.host.com上,配置一個NGINX,用以提供kubernetes統一的訪問資源清單入口 2.配置dns解析 3.瀏覽器訪問k8s yaml.od.com 4.下載docker鏡像並打包上傳到har ...
  • 1.資料庫存儲引擎 InnoDB存儲引擎:預設引擎,最常用的。 InnoDB是事務型資料庫的首選引擎,支持事務安全表(ACID),支持行鎖定和外鍵;InnoDB是預設的 MySQL引擎 InnoDB特點: 支持事務處理,支持外鍵,支持崩潰修複和併發控制。如果需要對事務的完整性要求比較高(比如銀行), ...
  • 1.Tomcat 簡介 Tomcat是Apache軟體基金會(Apache Software Foundation)的Jakarta 項目中的一個核心項目,由Apache、Sun和其他一些公司及個人共同開發而成。 Tomcat伺服器是一個免費的開放源代碼的Web應用伺服器,屬於輕量級應用伺服器,在中 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...