記一次奇怪的文件句柄泄露問題

来源:https://www.cnblogs.com/gonggy/archive/2023/12/03/17873522.html
-Advertisement-
Play Games

記錄並分享一下最近工作中遇到的 Too many open files 異常的解決過程。 問題背景 產品有個上傳壓縮包並導入配置信息到資料庫中的功能,主要流程如下: 用戶上傳壓縮包; 後端解壓存放在臨時目錄,並返回列表給用戶; 用戶選擇需要導入哪些信息; 後端按需插入資料庫中,完成後刪除臨時目錄。 ...


記錄並分享一下最近工作中遇到的 Too many open files 異常的解決過程。

問題背景

產品有個上傳壓縮包並導入配置信息到資料庫中的功能,主要流程如下:

  1. 用戶上傳壓縮包;
  2. 後端解壓存放在臨時目錄,並返回列表給用戶;
  3. 用戶選擇需要導入哪些信息;
  4. 後端按需插入資料庫中,完成後刪除臨時目錄。

這個功能上線兩三年了,一直沒出現問題,最近測試在功能回歸時,導入的時候出現Too many open files異常。

但是通過lsof -p pid | wc -l查看當前進程打開的句柄數時,又是正常的。

Too many open files是Linux系統中常見的錯誤,字面意思就是說打開了太多的文件,超過了系統的限制。

這裡的文件(file)更準確的意思是文件句柄,或者是文件描述符。可以說,Linux系統里的一切都是文件,包括網路連接、埠等等。

lsof -p pid命令可以查看指定進程當前打開的文件信息。wc -l命令指按行統計。

問題分析

當時的第一反應是該系統的文件句柄數配置的太低了,因為在其他環境都是正常的。

通過ulimit -a命令,可以查看當前系統對各種資源的限制。

[uyong@linuxtest ~]# ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 31767
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 4096
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) 31767
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

open files 那行就是表示打開的文件數限制,即一個進程最多可以同時打開的文件數。

也可以通過ulimit -n直接查看最大打開文件數量。

當時查出來的配置是4096,查看其他沒問題的環境上的配置,數量都是遠遠大於這個數。而且系統重新啟動後,沒做任何操作時,通過lsof -p pid | wc -l查看文件占用,只有100多個。在好的環境上執行導入成功後,再次查看,文件占用數不變。在有問題的環境上導入失敗後,查看文件占用數也是不變。

雖然當時的壓縮包文件很大,但4096按說也夠的。有點奇怪,為了不影響測試進度,只能先臨時修改系統配置,增大文件數限制,ulimit -n 65535命令執行後,再次導入沒問題了。

命令ulimit -n 65536只能臨時臨時調整文件數量,系統重啟後配置就會失效。

如果要永久生效,需要在配置文件/etc/security/limits.conf里增加如下兩行:

* soft nofile 65536
* hard nofile 65535

問題到此就結束了嗎,NO

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 2023 年某一天周末,新手程式員小明因為領導安排的一個活來到公司加班,小明三下五除二,按照領導要求寫了一個跑批的數據落庫任務在測試環境執行 ,突然間公司停電了,小明大驚,“糟了,MySQL 還在跑任務,會不會因為突然斷電,導致資料庫崩了”。 這時候,傍邊的同事雲淡風清的說了一句,“沒事,小明 ...
  • SQL托管 如果您希望您的網站能夠存儲和檢索數據,您的Web伺服器應該能夠訪問使用SQL語言的資料庫系統。以下是一些常見的SQL托管選項: MS SQL Server Microsoft的SQL Server是一個流行的資料庫軟體,適用於具有高流量的資料庫驅動網站。它是一個強大、穩健且功能齊全的SQ ...
  • 最近有個需求需要實現自定義首頁佈局,需要將屏幕按照 6 列 4 行進行等分成多個格子,然後將組件可拖拽對應格子進行渲染展示。 示例 對比一些已有的插件,發現想要實現產品的交互效果,沒有現成可用的。本身功能並不是太過複雜,於是決定自己基於 vue 手擼一個簡易的 Grid 拖拽佈局。 完整源碼在此,在 ...
  • 參考視頻: 黑馬程式員2023新版JavaWeb開發教程,實現javaweb企業開發全流程 【小飛非系列】最新Maven實戰教程-項目實戰構建利器 一.下載Maven安裝包 註意安裝maven前要先安裝jdk環境: JDK11版本安裝包下載地址 1.下載安裝包,存放在沒有中文的路徑中 Maven安裝 ...
  • 人吧,不能糊裡糊塗的瞎忙活,你得規劃,成為體系後,方能事半功倍。 道、法、術、器:出自老子的《道德經》 道,是規則、自然法則,上乘。 法,是方法、法理,中乘。 術,是行為、方式,下乘。“以道御術”即以道義來承載智術,悟道比修煉法術更高一籌。“術”要符合“法”,“法”要基於“道”,道法術三者兼備才能做 ...
  • Go沒有引用傳遞和引用類型!!! 很多人有個誤區,認為涉及Go切片的參數是引用傳遞,或者經常聽到Go切片是引用類型這種說法,今天我們就來說一下方面的問題。 什麼是值傳遞? 將實參的值傳遞給形參,形參是實參的一份拷貝,實參和形參的記憶體地址不同。函數內對形參值內容的修改,是否會影響實參的值內容,取決於參 ...
  • 【博主風格】言簡意賅,清晰透徹,抄作業即可。禁止廢話,上乾貨! 人生一定做規劃,一定! 人生一定做規劃,一定! 人生一定做規劃,一定! 我是混跡北京互聯網行業15年的老炮,大中小的各類互聯網公司也走了一遭,相處過圈內各類人群,號稱這個那個的大咖,所謂“井淘三遍吃好水,師從三人武藝高”,也總結了一套行 ...
  • 各位靚仔: 本人是混跡北京15年大中小公司互聯網行業的老炮,研發10餘款APP,聯合孵化5個百萬級項目,曾任APP研發工程師、項目經理、創新經理、質量品控經理、新浪動漫子公司製片人。現已回歸故里,時間充裕,只因無法接受碌碌無為躺平的日子,故此,與志同道合的兩位大腿“劉丹博士”“林祥纖”,一起開此賬號 ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...