清除過期日誌的py腳本

来源:https://www.cnblogs.com/wangrudong003/archive/2019/02/16/10389181.html
-Advertisement-
Play Games

本篇和大家分享的是一個清除過期日誌的python腳本,年後第二篇希望對大家有幫助; 該python腳本創建的由來 代碼及分析 crontab定時任務 該python腳本創建的由來 此由來,是在過年假期時突然被反饋告警伺服器磁碟空間占用比例增大,當時通過df等命令定位到,是使用了某個開源任務調度框架日 ...


本篇和大家分享的是一個清除過期日誌的python腳本,年後第二篇希望對大家有幫助;

  • 該python腳本創建的由來
  • 代碼及分析
  • crontab定時任務

該python腳本創建的由來

此由來,是在過年假期時突然被反饋告警伺服器磁碟空間占用比例增大,當時通過df等命令定位到,是使用了某個開源任務調度框架日誌增大並之前很多歷史日誌沒有自動刪除導致的;

因此,查看該框架的文檔是否有自動清除配置,暫時沒有找到自動清除日誌的配置說明,於是乎瀏覽源碼就是log4來記錄的,本來打算擴展重寫下log4讓其具有自動清除日誌的功能,但是想到以後可能還有其他項目的日誌無法自動清除,於是乎有了本篇分享的python產出,僅僅配置下檢測路徑即可刪除自定義n天之前的日誌

代碼及分析

先來上代碼,具體如下:

 1 #!  /usr/bin/python
 2 #coding=utf-8
 3 import os
 4 import datetime
 5 import time
 6 
 7 
 8 class DoFile():
 9     # 獲取某個磁碟路徑里所有文件
10     def getFiles(self, strDir, isLoop, overDay):
11         files = []
12         if len(strDir) <= 0 or not os.path.exists(strDir):
13             return files
14         dirs = os.listdir(strDir)
15         for dir in dirs:
16             path = os.path.join(strDir, dir)
17             if(os.path.isfile(path) and path.find(".log") >= 0):  # 是.log文件
18                 if(self.compareFileTime(path, -overDay)):
19                     files.append(path)
20             elif(os.path.isdir(path) and isLoop):  # 是磁碟
21                files.extend(self.getFiles(path, isLoop, overDay))
22             else:
23                 continue
24         return files
25 
26     # 綜合處理磁碟文件
27     def doFiles(self, clearDirs, isLoop=False, overDay=3):
28         print(datetime.datetime.now().strftime("%Y-%m-%d %H:%M")+":執行中...")
29         for dir in clearDirs:
30            files = self.getFiles(dir, isLoop, overDay)
31            print("{}查詢出{}個文件".format(dir, len(files)))
32            self.clearFiles(files)
33         print("執行完畢...")
34 
35     # 清除文本文件
36     def clearFiles(self, files):
37         for file in files:
38             strcmd = "rm -rf {}".format(file)
39             self.exec_cmd(strcmd)
40 
41     #執行腳本命令
42     def exec_cmd(self, strcmd):
43         os.system(strcmd)
44 
45     #獲取文件創建時間
46     def getCreateFileTime(self, path):
47         return os.path.getctime(path)
48         
49     #時間戳轉datetime
50     def TimeStampToTime(self,timestamp):
51         return datetime.datetime.utcfromtimestamp(timestamp)
52 
53     #比較當前時間與文件創建時間差值(天)
54     def compareFileTime(self, path,overDay):
55         comparTime = self.TimeStampToTime(self.getCreateFileTime(path))
56         now = datetime.datetime.utcnow() + datetime.timedelta(days= overDay)
57         return now > comparTime
58 
59 
60 # 要清除文本的磁碟 61 clearDirs = ["/data1/data/logs/xxl-job-web"]
62 doFile = DoFile()
63 doFile.doFiles(clearDirs, True,3)

其邏輯可以分為下麵幾步:

  • 從doFiles進入,先去獲取配置的clearDirs數組中的日誌所在磁碟路徑下麵的日誌文件
  • 獲取待刪除的文件,這些文件以.log尾碼結尾,並且通過時間限定策略【當前時間+(-n天) > 文本日誌創建時間】來識別哪些到期該刪除了
  • 最後通過執行rm -rf命令直接刪除符合時間策略的日誌文件

crontab定時任務

上面只有了清除日誌的py腳本,但是要定時執行該腳本才能到達自動的目的,不然每次都手動運行py腳本和直接手動刪除日誌文件沒上面太大的區別和省時間,因此這裡用到了crontab任務;編輯cron任務如下命令:

1 crontab -e

編輯cron任務,往裡面添加定時每周或者每天執行上面的python腳本

1 0 0 */1 * * python /abc/python/clearDirLog.py > /abc/python/dolog.log 2>&1

上面cron表達式意思:定時每天執行一次clearDirLog.py腳本,並把clearDirLog.py裡面列印出來的信息記錄到dolog.log文件中;編輯任務保存後,我們可以通過如下命令查看cron的任務列表:

1 crontab -l

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 RabbitMQ是消息隊列中間件(Message Queue Middleware)中一種,工作雖然有用到,但是卻沒有形成很好的整體包括,主要是一些基礎概念的認識,這裡通過閱讀《RabbitMQ實戰指南》整理筆記併進行代碼實踐,更好地理解RabbitMQ! 本文只通過講解RabbitMQ的一些 ...
  • 原 推薦10個Java方向最熱門的開源項目(8月) 2018年08月28日 17:54:32 SnailClimb在CSDN 閱讀數:849 原 推薦10個Java方向最熱門的開源項目(8月) 2018年08月28日 17:54:32 SnailClimb在CSDN 閱讀數:849 原 推薦10個J ...
  • Anaconda的安裝步驟不在本文的討論中,我們主要是學習一下如何配置conda的鏡像,以及一些問題的解決過程 配置鏡像 在conda安裝好之後,預設的鏡像是官方的,由於官網的鏡像在境外,我們使用國內的鏡像能夠加快訪問的速度。這裡我選擇了清華的的鏡像。鏡像的地址如下:點我進入tuna 在命令行中運行 ...
  • 1.概述 jupyter記事本是一個基於Web的前端,被分成單個的代碼塊或單元。根據需要,單元可以單獨運行,也可以一次全部運行。這使得我們可以運行某個場景,看到輸出結果,然後回到代碼,根據輸出結果對代碼做出相應的調整(說白了就是可以直接在瀏覽器中編寫Python程式,然後執行程式並輸出結果,是不是感 ...
  • 開始 Feign在Spring Cloud體系中被整合進來作為web service客戶端,使用HTTP請求遠程服務時能就像調用本地方法,可見在未來一段時間內,大多數Spring Cloud架構的微服務之間調用都會使用Feign來完成。 所以準備完整解讀一遍Feign的源碼,讀源碼,我個人覺得一方面 ...
  • 生產環境中,存在需要等待多個線程都達到某種狀態後,才繼續運行的情景。併發工具CyclicBarrier就能夠完成這種功能。本篇從源碼方面,簡要分析CyclicBarrier的實現原理。 使用示例 執行結果如下: 可以看到線程1,2,3在同一個時間結束。 源碼分析 主要成員: CyclicBarrie ...
  • 使用Python遠程連接並操作InfluxDB資料庫 by:授客 QQ:1033553122 實踐環境 Python 3.4.0 CentOS 6 64位(內核版本2.6.32-642.el6.x86_64) influxdb-1.5.2.x86_64.rpm 網盤下載地址: https://pan ...
  • 先上結論:run只是Thread裡面的一個普通方法,start是啟動線程的方法。何以見得呢?可以執行下麵的代碼看看run和start的區別: 執行結果: 由此可以看到子線程是由start來啟動的,裡面調用了run,所以列印出來的是子線程的name。 另外也可以從start方法的底層代碼看到,首先進入 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...