關於《rsyslog+mysql+loganalyzer搭建日誌伺服器<個人筆記>》的反思--鏈接--http://www.cnblogs.com/drgcaosheng/p/5832697.html 之前使用這個搭建了一個日誌伺服器,但是在mysql中,日誌增加太快,過了些天,已經有幾千萬的數據了 ...
關於《rsyslog+mysql+loganalyzer搭建日誌伺服器<個人筆記>》的反思--鏈接--http://www.cnblogs.com/drgcaosheng/p/5832697.html
之前使用這個搭建了一個日誌伺服器,但是在mysql中,日誌增加太快,過了些天,已經有幾千萬的數據了,而且loganalyzer生成的表並不夠好<個人感覺>,沒有相關的索引,最終在查詢的時候敗下陣來,在此期間,有嘗試將該日誌的表添加索引<小弟對mysql也不熟悉,不熟悉mysql的優化索引,胡亂根據網上的教程,添加了一些索引>如下圖.
這還是比較勤快的刪除了數據,具體的如下數量,並且這數據量才剛剛進行上線:
這實在是一個頭痛的問題,思索再寫,決定自己利用python+<xshell的grep>直接查詢日誌文件,利用django+apache實現前端顯示,自己來實現一個算了。大概思路如下。
先看下rsyslog日誌的目錄結構及rsyslog模板的配置:
$template DynamicFile,"/var/log/ttlogs/%$YEAR%/%$MONTH%/%$DAY%/%fromhost-ip%-test.log" *.* ?DynamicFile
然後相關的思路圖如下: