程式寫日誌文件時該不該加鎖

来源:https://www.cnblogs.com/wudanyang/archive/2019/12/29/12113348.html
-Advertisement-
Play Games

程式寫日誌文件時該不該加鎖 日誌(log) 為了讓自己的思路更加清晰,下麵我都會稱日誌為 log。因為日誌這個詞有兩種含義,詳情見百度百科釋義或者維基百科釋義。 日記的另一種說法。“志”字本身為“記錄”的意思,日誌就為每日的記錄(通常是跟作者有關的)。 伺服器日誌(server log),記錄伺服器 ...


程式寫日誌文件時該不該加鎖

日誌(log)

為了讓自己的思路更加清晰,下麵我都會稱日誌為 log。因為日誌這個詞有兩種含義,詳情見百度百科釋義或者維基百科釋義

  • 日記的另一種說法。“志”字本身為“記錄”的意思,日誌就為每日的記錄(通常是跟作者有關的)。
  • 伺服器日誌server log),記錄伺服器等電腦設備或軟體的運作。

我們這裡說的當然是伺服器日誌,也就是  server log 。

寫入 log

一般寫入 log 都會遵循以下步驟:

int fd = open(path)
write(fd, sign_append) fclose(fd)

 

解釋一下上面的代碼:

1. int fd = open(path) 

會通過系統調用打開一個文件描述符,或者在其他語言中也可以稱作資源描述符,資源類型,或句柄。

 

2. write(fd, append = 1)

write 系統調用,並加上 append 標誌,會執行 seek 和 write 兩個系統調用,但是這種系統調用是原子性的。

原子性意味著 seek 和 write 會同時執行,不會有兩個線程產生交叉,必須 a 線程執行完 seek 和 write ,b 線程才能繼續執行(這裡說線程,是因為線程才是 cpu 調度的基本單位)。

所以在 nginx 中,我們加上 append 標誌,就不用對線程上鎖了。

 

3. fclose(fd)

關閉描述符。

linux 一般對打開的文件描述符有一個最大數量的限制,如果不關閉描述符,很有可能造成大 bug。

查看 linux 中限制的方法如下(其中 open files 代表可以打開的文件數量):

$ ulimit -a

core file size (blocks, -c) 0
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 15732
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) unlimited
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 15732
virtual memory (kbytes, -v) unlimited
file locks (-x) unlimited

 

所以,如果是系統調用,那麼 append 不用加鎖。

 

為什麼 php 語言寫日誌時用了 append 也要加鎖?

如果根據上面的說法,咱們可以設置好 write 的 append 標誌,然後就可以睡大覺去了,文件永遠不會衝突。

但是(一般都有個但是)你去看 php 的框架中都會在 file_put_contents 的 append 之前加鎖。

於是,懷疑是因為 file_put_contents 的底層實現沒有實現原子性。

跟進源碼(非 php 程式員或者對 php 底層源碼無興趣的可以跳過了):

file_put_contents 底層實現: 

// file.c
/* {{{ proto int|false file_put_contents(string file, mixed data [, int flags [, resource context]])
   Write/Create a file with contents data and return the number of bytes written */
PHP_FUNCTION(file_put_contents)
{
...
case IS_STRING:
   if (Z_STRLEN_P(data)) {
      numbytes = php_stream_write(stream, Z_STRVAL_P(data), Z_STRLEN_P(data));
      if (numbytes != Z_STRLEN_P(data)) {
         php_error_docref(NULL, E_WARNING, "Only %zd of %zd bytes written, possibly out of free disk space", numbytes, Z_STRLEN_P(data));
         numbytes = -1;
      }
   }
   break;
...
}

// php_streams.h
PHPAPI ssize_t _php_stream_write(php_stream *stream, const char *buf, size_t count);
#define php_stream_write_string(stream, str)   _php_stream_write(stream, str, strlen(str))
#define php_stream_write(stream, buf, count)   _php_stream_write(stream, (buf), (count))

// streams.c
PHPAPI ssize_t _php_stream_write(php_stream *stream, const char *buf, size_t count)
{
  ...
   if (stream->writefilters.head) {
      bytes = _php_stream_write_filtered(stream, buf, count, PSFS_FLAG_NORMAL);
   } else {
      bytes = _php_stream_write_buffer(stream, buf, count);
   }

   if (bytes) {
      stream->flags |= PHP_STREAM_FLAG_WAS_WRITTEN;
   }

   return bytes;
}

/* Writes a buffer directly to a stream, using multiple of the chunk size */
static ssize_t _php_stream_write_buffer(php_stream *stream, const char *buf, size_t count){
...
while (count > 0) {
   ssize_t justwrote = stream->ops->write(stream, buf, count);
   if (justwrote <= 0) {
      /* If we already successfully wrote some bytes and a write error occurred
       * later, report the successfully written bytes. */
      if (didwrite == 0) {
         return justwrote;
      }
      return didwrite;
   }

   buf += justwrote;
   count -= justwrote;
   didwrite += justwrote;

   /* Only screw with the buffer if we can seek, otherwise we lose data
    * buffered from fifos and sockets */
   if (stream->ops->seek && (stream->flags & PHP_STREAM_FLAG_NO_SEEK) == 0) {
      stream->position += justwrote;
   }
}

}

// php_streams.h
/* operations on streams that are file-handles */
typedef struct _php_stream_ops  {
   /* stdio like functions - these are mandatory! */
   ssize_t (*write)(php_stream *stream, const char *buf, size_t count);
   ssize_t (*read)(php_stream *stream, char *buf, size_t count);
   int    (*close)(php_stream *stream, int close_handle);
   int    (*flush)(php_stream *stream);

   const char *label; /* label for this ops structure */

   /* these are optional */
   int (*seek)(php_stream *stream, zend_off_t offset, int whence, zend_off_t *newoffset);
   int (*cast)(php_stream *stream, int castas, void **ret);
   int (*stat)(php_stream *stream, php_stream_statbuf *ssb);
   int (*set_option)(php_stream *stream, int option, int value, void *ptrparam);
} php_stream_ops;
 
// plain_wrapper.c
static ssize_t php_stdiop_write(php_stream *stream, const char *buf, size_t count)
{
   php_stdio_stream_data *data = (php_stdio_stream_data*)stream->abstract;

   assert(data != NULL);

   if (data->fd >= 0) {
#ifdef PHP_WIN32
      ssize_t bytes_written;
      if (ZEND_SIZE_T_UINT_OVFL(count)) {
         count = UINT_MAX;
      }
      bytes_written = _write(data->fd, buf, (unsigned int)count);
#else
      ssize_t bytes_written = write(data->fd, buf, count);
#endif
      if (bytes_written < 0) {
         if (errno == EWOULDBLOCK || errno == EAGAIN) {
            return 0;
         }
         if (errno == EINTR) {
            /* TODO: Should this be treated as a proper error or not? */
            return bytes_written;
         }
         php_error_docref(NULL, E_NOTICE, "write of %zu bytes failed with errno=%d %s", count, errno, strerror(errno));
      }
      return bytes_written;
   } else {

#if HAVE_FLUSHIO
      if (data->is_seekable && data->last_op == 'r') {
         zend_fseek(data->file, 0, SEEK_CUR);
      }
      data->last_op = 'w';
#endif

      return (ssize_t) fwrite(buf, 1, count, data->file);
   }
}

 

這個函數最終調用的是函數 php_stdiop_write 

函數 _php_stream_write_buffer 中會將字元串分成多個 chunksize ,每個 chunksize 為 8192 (8K) 位元組,分別進行 write。

如果不加鎖,那麼超過 8192 位元組之後,多個進程寫日誌就會出現混亂。

而且,php 文檔也說明瞭:

 

 

 

 所以,最終需要根據不同的語言,具體分析。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 場景 C#中根據文件夾路徑,將文件夾以及文件夾下文件刪除。 註: 博客主頁: https://blog.csdn.net/badao_liumang_qizhi 關註公眾號 霸道的程式猿 獲取編程相關電子書、教程推送與免費下載 實現 新建工具類,工具類中新建方法DeleteFolder /// <s ...
  • 命令模型的主要元素: 1、命令 2、命令綁定:命令連接到相關的應用程式邏輯 3、命令源:命令源觸發命令, 4、命令目標:應用程式邏輯。 ICommand介面 命令模型的核心是System.Windows.Input.ICommand介面。 該介面包含兩個方法和一個事件: void Execute(o ...
  • 上一篇里介紹了Job和Trigger的常用方法,這一節將介紹Calendar,它的作用是排除特定的日期時間。 Calendar的常用類 DailyCalendar 排除每天某個時間段任務的執行 例子: var sche = StdSchedulerFactory.GetDefaultSchedule ...
  • 一、什麼是.NET Core .NET Core是一個開源通用的開發框架,支持跨平臺,即支持在Window,macOS,Linux等系統上的開發和部署,並且可以在硬體設備,雲服務,和嵌入式/物聯網方案中進行使用。 .NET Core的源碼放在GitHub上,由微軟官方和社區共同支持。 由於.NET ...
  • 在實際運行中,好好運行的程式出現了以下問題: 2019-12-27 10:40:00,164 [DefaultQuartzScheduler_Worker-2] ERROR IBeam.BCPool.Objects.CloudPowerIncome [(null)] - AutoSynchroniz ...
  • 在.Net Core 2.x 版本,Microsoft 官方沒有提供 .Net Core 正式版的多語言安裝包。因此,我們在用.Net Core 2.x 版本作為框架目標編寫代碼時,智能提成是英文的。那對於剛轉.Net Core的我,再加上英語不好,真是頭疼。 隨著.Net Core 3.x 版本的 ...
  • 本筆記摘抄自:https://www.cnblogs.com/liqingwen/p/5814204.html,記錄一下學習過程以備後續查用。 一、統計單詞在字元串中出現的次數 請註意,若要執行計數,請先調用Split方法來創建詞數組。Split方法存在性能開銷,如果對字元串執行的唯一操作是計數詞, ...
  • 大家好我又回來了,前幾天講過一個關於Jwt的身份驗證最簡單的案例,但是功能還是不夠強大,不適用於真正的項目,是的,在真正面對複雜而又苛刻的客戶中,我們會不知所措,就現在需要將認證授權這一塊也變的複雜而又實用起來,那在專業術語中就叫做自定義策略的API認證,本次案例運行在.NET Core 3.0中,... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...