需要把線上的access日誌發送到另一個程式接收 開始想著用python實現,雖然python也有實現類似tail F的方式,但太麻煩,而且效率也有折扣 偶然發現了shell可以實現網路client,並且只用幾行代碼就可以實現 先上代碼: 超級簡單,實際處理的邏輯的代碼就2行以下是代碼說明: 第一行 ...
需要把線上的access日誌發送到另一個程式接收
開始想著用python實現,雖然python也有實現類似tail -F的方式,但太麻煩,而且效率也有折扣
偶然發現了shell可以實現網路client,並且只用幾行代碼就可以實現
先上代碼:
trap "exec 8<&-;exec 8>&-" 0
file='/data/nginx/llogs/access.log'
exec 8<>/dev/tcp/10.3.0.200/9001
tail -F "$file" | grep --line-buffered "sid">&8
超級簡單,實際處理的邏輯的代碼就2行以下是代碼說明:
第一行主要是捕獲程式退出狀態,退出後關閉連接
第二行定義日誌文件
第三行建立網路連接,linux有個特殊的文件/dev/(udp|tcp)/ip/port
把這個文件綁定到一個文件描述符上即可建立對應的網路連接,文件描述符大於3即可
第四行發送數據到這個建立好的通道中
因為grep會有緩衝區,預設等緩衝區滿了後才會輸出數據,因此必須加上--line-buffered參數,使用行緩衝
不然server端收到的數據會有斷行。
這種agent超級簡單功能性能也不錯但有個弊端
agent和server建立通道後,若server掛了,那麼agent通道斷開就也掛了,程式就會退出(tcp client有這個問題,upd沒有)
或是網路不好也可能導致agent退出(我這次沒有這個問題都是光纖互聯網路)
所以需要有對應的監控程式檢測agent,異常時自動重啟,或者如果網路質量不錯的話考慮使用udp