理解資料庫中的undo日誌、redo日誌、檢查點

来源:https://www.cnblogs.com/l1pe1/archive/2018/01/22/8327849.html
-Advertisement-
Play Games

資料庫存放數據的文件,本文稱其為data file。 資料庫的內容在記憶體里是有緩存的,這裡命名為db buffer。某次操作,我們取了資料庫某表格中的數據,這個數據會在記憶體中緩存一些時間。對這個數據的修改在開始時候也只是修改在記憶體中的內容。當db buffer已滿或者遇到其他的情況,這些數據會寫入d ...


資料庫存放數據的文件,本文稱其為data file。
資料庫的內容在記憶體里是有緩存的,這裡命名為db buffer。某次操作,我們取了資料庫某表格中的數據,這個數據會在記憶體中緩存一些時間。對這個數據的修改在開始時候也只是修改在記憶體中的內容。當db buffer已滿或者遇到其他的情況,這些數據會寫入data file。

undo,redo

日誌在記憶體里也是有緩存的,這裡將其叫做log buffer。磁碟上的日誌文件稱為log file。log file一般是追加內容,可以認為是順序寫,順序寫的磁碟IO開銷要小於隨機寫。

Undo日誌記錄某數據被修改前的值,可以用來在事務失敗時進行rollback;Redo日誌記錄某數據塊被修改後的值,可以用來恢復未寫入data file的已成功事務更新的數據。下麵的示例來自於楊傳輝《大數據分散式存儲系統 原理解析與架構實踐》,略作改動。

例如某一事務的事務序號為T1,其對數據X進行修改,設X的原值是5,修改後的值為15,那麼Undo日誌為<T1, X, 5>,Redo日誌為<T1, X, 15>

也有把undo和redo結合起來的做法,叫做Undo/Redo日誌,在這個例子中Undo/Redo日誌為<T1, X, 5, 15>

當用戶生成一個資料庫事務時,undo log buffer會記錄被修改的數據的原始值,redo會記錄被修改的數據的更新後的值。

redo日誌應首先持久化在磁碟上,然後事務的操作結果才寫入db buffer,(此時,記憶體中的數據和data file對應的數據不同,我們認為記憶體中的數據是臟數據),db buffer再選擇合適的時機將數據持久化到data file中。這種順序可以保證在需要故障恢復時恢復最後的修改操作。先持久化日誌的策略叫做Write Ahead Log,即預寫日誌。

在很多系統中,undo日誌並非存到日誌文件中,而是存放在資料庫內部的一個特殊段中。本文中就把這些存儲行為都泛化為undo日誌存儲到undo log file中。

對於某事務T,在log file的記錄中必須開始於事務開始標記(比如“start T”),結束於事務結束標記(比如“end T”、”commit T”)。在系統恢復時,如果在log file中某個事務沒有事務結束標記,那麼需要對這個事務進行undo操作,如果有事務結束標記,則redo。

在db buffer中的內容寫入磁碟資料庫文件之前,應當把log buffer的內容寫入磁碟日誌文件。

有一個問題,redo log buffer和undo log buffer存儲的事務數量是多少,是按照什麼規則將日誌寫入log file?如果存儲的事務數量都是1個,也就意味著是將日誌立即刷入磁碟,那麼數據的一致性很好保證。在執行事T時,突然斷電,如果未對磁碟上的redo log file發生追加操作,可以把這個事務T看做未成功。如果redo log file被修改,則認為事務是成功了,重啟資料庫使用redo log恢複數據到db buffer和 data file即可。

如果存儲多個的話,其實也挺好解釋的。就是db buffer寫入data file之前,先把日誌寫入log file。這種方式可以減少磁碟IO,增加吞吐量。不過,這種方式適用於一致性要求不高的場合。因為如果出現斷電等系統故障,log buffer、db buffer中的完成的事務會丟失。以轉賬為例,如果用戶的轉賬事務在這種情況下丟失了,這意味著在系統恢復後用戶需要重新轉賬。

檢查點checkpoint

checkpoint是為了定期將db buffer的內容刷新到data file。當遇到記憶體不足、db buffer已滿等情況時,需要將db buffer中的內容/部分內容(特別是臟數據)轉儲到data file中。在轉儲時,會記錄checkpoint發生的”時刻“。在故障回覆時候,只需要redo/undo最近的一次checkpoint之後的操作。

冪等性問題

在日誌文件中的操作記錄應該具有冪等性。冪等性,就是說同一個操作執行多次和執行一次,結果是一樣的。例如,5*1 = 5*1*1*1,所以對5的乘1操作具有冪等性。日誌文件在故障恢復中,可能會回放多次(比如第一次回放到一半時系統斷電了,不得不再重新回放),如果操作記錄不滿足冪等性,會造成數據錯誤。

轉載:http://blog.csdn.net/kobejayandy/article/details/50885693

(此文章僅用於個人記憶知識所用)

 

 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • mongodb預設是不能遠程連接的,而且在linux安裝完你會發現,它的目錄極其簡單,連個配置文件都沒有. 我的mongodb的版本是3.6,目前最新的.https://www.mongodb.com/mongodb-3.6 百度了一下看是有配置文件: mongodb.conf. 又檢查了下目錄確實 ...
  • MongoDB在互聯網項目中使用越來越多,佈署在雲端Linux伺服器上的mongoDB資料庫,大多存在遠程維護不便的問題,開放27017埠又將導致安全隱患。有個折中的辦法就是使用基於web的客戶端管理軟體進行資料庫的日常維護,TreeDMS資料庫管理系統剛好就可以滿足這些功能要求,實現基於WEB方 ...
  • 一、概述 加密是一種安全措施,有時候甚至是法律要求。作為攻破Windows系統的最後一道防線,通過加密可以保證在沒有密鑰的情況下獲取備份或者物理介質變得毫無意義。 二、概念 加密層次結構 加密層次結構的每一層是如何對它下麵的一層進行加密的,並且顯示了最常用的加密配置。對層次結構的開始進行的訪問通常受 ...
  • 增 #1、沒有指定_id則預設ObjectId,_id不能重覆,且在插入後不可變 #2、插入單條 user0={ "name":"egon", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'c ...
  • 針對Oracle數據遷移,我們可能會用到expdp/impdp的方式,有時候需要大表、lob欄位等可能會消耗過大的臨時表空間和undo表空間,所以一般我們根據導出日誌,在導入前適當調整表空間大小。否則我們可能會遇到以下問題: 1、臨時表空間爆滿,無法擴展 ORA-1652: unable to ex ...
  • 1.Redis簡介 Redis 是一個開源(BSD許可)的,記憶體中的數據結構存儲系統,它可以用作資料庫、緩存和消息中間件。 它支持多種類型的數據結構,如 字元串(strings), 散列(hashes), 列表(lists), 集合(sets), 有序集合(sorted sets) 與範圍查詢, b ...
  • 本文是對自己學習過程的一個記錄和彙總,作為自己的一個總結性的文檔,並隨著進度更新完善。作為一個初學者,文章若有不妥之處還請各位讀者提出來,大家共同交流進步,謝謝! OSM地圖數據下載: osm是一個開放式線上地圖平臺,Open Street Map(簡稱 OSM)是一個存儲海量XML 數據的資料庫( ...
  • 1、關係的集合運算 集合的3個最普通的運算是並、交和差。對於任意集合R和S(當然,這裡的R和S可以是表R和表S),這些運算定義如下。 R並S,R或S或兩者中元素的集合。一個元素在並集中只出現一次,即使它在R和S中都存在。 R交S,R和S中都存在的元素的集合。 R差S,在R中而不在S中的元素的集合。註 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...