記一次奇怪的文件句柄泄露問題

来源:https://www.cnblogs.com/gonggy/archive/2023/12/03/17873522.html
-Advertisement-
Play Games

記錄並分享一下最近工作中遇到的 Too many open files 異常的解決過程。 問題背景 產品有個上傳壓縮包並導入配置信息到資料庫中的功能,主要流程如下: 用戶上傳壓縮包; 後端解壓存放在臨時目錄,並返回列表給用戶; 用戶選擇需要導入哪些信息; 後端按需插入資料庫中,完成後刪除臨時目錄。 ...


記錄並分享一下最近工作中遇到的 Too many open files 異常的解決過程。

問題背景

產品有個上傳壓縮包並導入配置信息到資料庫中的功能,主要流程如下:

  1. 用戶上傳壓縮包;
  2. 後端解壓存放在臨時目錄,並返回列表給用戶;
  3. 用戶選擇需要導入哪些信息;
  4. 後端按需插入資料庫中,完成後刪除臨時目錄。

這個功能上線兩三年了,一直沒出現問題,最近測試在功能回歸時,導入的時候出現Too many open files異常。

但是通過lsof -p pid | wc -l查看當前進程打開的句柄數時,又是正常的。

Too many open files是Linux系統中常見的錯誤,字面意思就是說打開了太多的文件,超過了系統的限制。

這裡的文件(file)更準確的意思是文件句柄,或者是文件描述符。可以說,Linux系統里的一切都是文件,包括網路連接、埠等等。

lsof -p pid命令可以查看指定進程當前打開的文件信息。wc -l命令指按行統計。

問題分析

當時的第一反應是該系統的文件句柄數配置的太低了,因為在其他環境都是正常的。

通過ulimit -a命令,可以查看當前系統對各種資源的限制。

[uyong@linuxtest ~]# ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 31767
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 4096
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) 31767
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

open files 那行就是表示打開的文件數限制,即一個進程最多可以同時打開的文件數。

也可以通過ulimit -n直接查看最大打開文件數量。

當時查出來的配置是4096,查看其他沒問題的環境上的配置,數量都是遠遠大於這個數。而且系統重新啟動後,沒做任何操作時,通過lsof -p pid | wc -l查看文件占用,只有100多個。在好的環境上執行導入成功後,再次查看,文件占用數不變。在有問題的環境上導入失敗後,查看文件占用數也是不變。

雖然當時的壓縮包文件很大,但4096按說也夠的。有點奇怪,為了不影響測試進度,只能先臨時修改系統配置,增大文件數限制,ulimit -n 65535命令執行後,再次導入沒問題了。

命令ulimit -n 65536只能臨時臨時調整文件數量,系統重啟後配置就會失效。

如果要永久生效,需要在配置文件/etc/security/limits.conf里增加如下兩行:

* soft nofile 65536
* hard nofile 65535

問題到此就結束了嗎,NO

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 2023 年某一天周末,新手程式員小明因為領導安排的一個活來到公司加班,小明三下五除二,按照領導要求寫了一個跑批的數據落庫任務在測試環境執行 ,突然間公司停電了,小明大驚,“糟了,MySQL 還在跑任務,會不會因為突然斷電,導致資料庫崩了”。 這時候,傍邊的同事雲淡風清的說了一句,“沒事,小明 ...
  • SQL托管 如果您希望您的網站能夠存儲和檢索數據,您的Web伺服器應該能夠訪問使用SQL語言的資料庫系統。以下是一些常見的SQL托管選項: MS SQL Server Microsoft的SQL Server是一個流行的資料庫軟體,適用於具有高流量的資料庫驅動網站。它是一個強大、穩健且功能齊全的SQ ...
  • 最近有個需求需要實現自定義首頁佈局,需要將屏幕按照 6 列 4 行進行等分成多個格子,然後將組件可拖拽對應格子進行渲染展示。 示例 對比一些已有的插件,發現想要實現產品的交互效果,沒有現成可用的。本身功能並不是太過複雜,於是決定自己基於 vue 手擼一個簡易的 Grid 拖拽佈局。 完整源碼在此,在 ...
  • 參考視頻: 黑馬程式員2023新版JavaWeb開發教程,實現javaweb企業開發全流程 【小飛非系列】最新Maven實戰教程-項目實戰構建利器 一.下載Maven安裝包 註意安裝maven前要先安裝jdk環境: JDK11版本安裝包下載地址 1.下載安裝包,存放在沒有中文的路徑中 Maven安裝 ...
  • 人吧,不能糊裡糊塗的瞎忙活,你得規劃,成為體系後,方能事半功倍。 道、法、術、器:出自老子的《道德經》 道,是規則、自然法則,上乘。 法,是方法、法理,中乘。 術,是行為、方式,下乘。“以道御術”即以道義來承載智術,悟道比修煉法術更高一籌。“術”要符合“法”,“法”要基於“道”,道法術三者兼備才能做 ...
  • Go沒有引用傳遞和引用類型!!! 很多人有個誤區,認為涉及Go切片的參數是引用傳遞,或者經常聽到Go切片是引用類型這種說法,今天我們就來說一下方面的問題。 什麼是值傳遞? 將實參的值傳遞給形參,形參是實參的一份拷貝,實參和形參的記憶體地址不同。函數內對形參值內容的修改,是否會影響實參的值內容,取決於參 ...
  • 【博主風格】言簡意賅,清晰透徹,抄作業即可。禁止廢話,上乾貨! 人生一定做規劃,一定! 人生一定做規劃,一定! 人生一定做規劃,一定! 我是混跡北京互聯網行業15年的老炮,大中小的各類互聯網公司也走了一遭,相處過圈內各類人群,號稱這個那個的大咖,所謂“井淘三遍吃好水,師從三人武藝高”,也總結了一套行 ...
  • 各位靚仔: 本人是混跡北京15年大中小公司互聯網行業的老炮,研發10餘款APP,聯合孵化5個百萬級項目,曾任APP研發工程師、項目經理、創新經理、質量品控經理、新浪動漫子公司製片人。現已回歸故里,時間充裕,只因無法接受碌碌無為躺平的日子,故此,與志同道合的兩位大腿“劉丹博士”“林祥纖”,一起開此賬號 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...