再聊一下那 SQLSERVER 行不能跨頁的事

来源:https://www.cnblogs.com/huangxincheng/archive/2023/01/01/17017740.html
-Advertisement-
Play Games

一:背景 1. 講故事 上一篇寫完了之後,馬上就有朋友留言對記錄行的 8060byte 限制的疑惑,因為他的表記錄存儲了大量的文章,存儲文章的欄位類型用的是 nvarchar(max),長度很顯然是超過 8060byte 的,請問這個底層是怎麼破掉 8060byte 的限制的? 說實話這是一個好問題 ...


一:背景

1. 講故事

上一篇寫完了之後,馬上就有朋友留言對記錄行的 8060byte 限制的疑惑,因為他的表記錄存儲了大量的文章,存儲文章的欄位類型用的是 nvarchar(max),長度很顯然是超過 8060byte 的,請問這個底層是怎麼破掉 8060byte 的限制的?

說實話這是一個好問題,本質上來說 8060byte 的限制肯定是不能破掉的,如果讓我處理的話肯定是將文章的數據分攤在多個數據頁上, 那是不是如我所想呢? 我們觀察一下就好。

二:觀察大欄位數據的佈局

1. 對 nvarchar(max) 的理解

玩過 sqlserver 的朋友都知道,新一代的 sqlserver 版本已經用 varchar(max)nvarchar(max) 替代了早期的 textntext,理論上這種類型最大可存儲 2 的 31 次方 - 1, 大概就是 2G,接下來我們像 nvarchar(max) 插入 1w 個字元,大概 20k 的數據,向上取整的話應該會用 3 個數據頁來承載,測試代碼如下:


USE MyTestDB
GO
CREATE TABLE t7 (a INT IDENTITY, b NVARCHAR(MAX))
GO

INSERT INTO t7 VALUES(REPLICATE(CAST( 'x' AS NVARCHAR(max)),10000))

SELECT LEN(b) FROM t7;

DBCC TRACEON(3604)
DBCC IND(MyTestDB,t7,-1)

從圖中看居然有 4 個數據頁,這就很奇怪了,等一會我們再解惑,先來簡單看一下,一個是 In-row data,也叫做行內數據,是一個普通數據頁,三個是 LOB data ,即大值數據( Large Object Data ),這是一種專門的LOB數據頁,看樣子這 1w 個 x 應該是分攤到這 3 個 LOB data 數據頁上,是不是這樣我們用 DBCC PAGE 把四個數據頁的內容導出來看一看便知。


PAGE: (1:464)

Page @0x00000175CBB46000

m_pageId = (1:464)                  m_headerVersion = 1                 m_type = 1
m_typeFlagBits = 0x0                m_level = 0                         m_flagBits = 0x8000
m_objId (AllocUnitId.idObj) = 202   m_indexId (AllocUnitId.idInd) = 256 
Metadata: AllocUnitId = 72057594051166208                                
Metadata: PartitionId = 72057594044022784                                Metadata: IndexId = 0
Metadata: ObjectId = 1637580872     m_prevPage = (0:0)                  m_nextPage = (0:0)
pminlen = 8                         m_slotCnt = 1                       m_freeCnt = 8031
m_freeData = 159                    m_reservedCnt = 0                   m_lsn = (38:2936:61)
m_xactReserved = 0                  m_xdesId = (0:0)                    m_ghostRecCnt = 0
m_tornBits = 0                      DB Frag ID = 1        

DATA:

000000482E3F8000:   01010000 00800001 00000000 00000800 00000000  ....................
000000482E3F8014:   00000100 ca000000 5f1f9f00 d0010000 01000000  ........_...........
...
000000482E3F808C:   01000001 00000020 4e0000c8 01000001 00000000  ....... N...........
000000482E3F80A0:   00007800 78007800 78007800 78007800 78007800  ..x.x.x.x.x.x.x.x.x.
000000482E3F80B4:   78007800 78007800 78007800 78007800 78007800  x.x.x.x.x.x.x.x.x.x.
...
000000482E3F9FCC:   78007800 78007800 78000000 21212121 21212121  x.x.x.x.x...!!!!!!!!
000000482E3F9FE0:   21212121 21212121 21212121 21212121 21212121  !!!!!!!!!!!!!!!!!!!!
000000482E3F9FF4:   21212121 21212121 21216000                    !!!!!!!!!!`.

OFFSET TABLE:

Row - Offset                        
0 (0x0) - 96 (0x60)   


PAGE: (1:456)
DATA:
Memory Dump @0x00000048355F8000

000000483A478000:   01030000 00800001 00000000 00000000 00000000  ....................
000000483A478014:   00000100 cb000000 4010be0f c8010000 01000000  ........@...........
000000483A478028:   26000000 780b0000 24000000 00000000 00000000  &...x...$...........
000000483A47803C:   00000000 01000000 00000000 00000000 00000000  ....................
000000483A478050:   00000000 00000000 00000000 00000000 08005e0f  ..................^.
000000483A478064:   0000f306 00000000 03007800 78007800 78007800  ..........x.x.x.x.x.
...
000000483A479FA4:   00780078 00780078 00780000 00626262 62626262  .x.x.x.x.x...bbbbbbb
000000483A479FB8:   62626262 62626262 62626262 62626262 62626262  bbbbbbbbbbbbbbbbbbbb
000000483A479FCC:   62626262 62626262 62626262 62020000 00002121  bbbbbbbbbbbbb.....!!
000000483A479FE0:   21212121 21212121 21212121 21212121 21212121  !!!!!!!!!!!!!!!!!!!!
000000483A479FF4:   21212121 21212121 21216000                    !!!!!!!!!!`.

PAGE: (1:457)
DATA:
Memory Dump @0x000000483BA78000

000000483BA78000:   01030000 00800001 00000000 00000000 00000000  ....................
000000483BA78014:   00000100 cb000000 2800d61f c9010000 01000000  ........(...........
...
000000482EDF8050:   00000000 00000000 00000000 00000000 0800761f  ..................v.
000000482EDF8064:   0000f306 00000000 03007800 78007800 78007800  ..........x.x.x.x.x.
000000483BA79FE0:   21212121 21212121 21212121 21212121 21212121  !!!!!!!!!!!!!!!!!!!!
000000483BA79FF4:   21212121 21212121 21216000                    !!!!!!!!!!`.

PAGE: (1:458)
DATA:
Memory Dump @0x000000483BA78000
...
000000483BA78050:   00000000 00000000 00000000 00000000 0800761f  ..................v.
000000483BA78064:   0000f306 00000000 03007800 78007800 78007800  ..........x.x.x.x.x.
...
000000483BA79FCC:   78007800 78007800 78000000 21212121 21212121  x.x.x.x.x...!!!!!!!!
000000483BA79FE0:   21212121 21212121 21212121 21212121 21212121  !!!!!!!!!!!!!!!!!!!!
000000483BA79FF4:   21212121 21212121 21216000                    !!!!!!!!!!`.

我相信有很多朋友很奇怪,為什麼 464 號 數據頁也有大量的 x, 其實這些 x 算是垃圾數據,可以從 m_freeCnt = 8031 上便知,這個欄位表示當前數據頁的 Free 空間,所以那 1w 個 x 都被 LOB 數據頁吃掉了,這和文章開頭的推測是一致的。

到這裡算是解決了朋友的這個疑問,但你如果想打破沙鍋問到底的話,肯定想知道這 4 個數據頁在 記憶體中是如何組織的,或者說如何串聯的? 接下來我們好好聊一聊。

2. 4 個數據頁是如何組織的

觀察 464號 數據頁是如何與 LOB 數據頁 發生關係的?這個就考驗基礎知識了,在真正的行數據之前記錄了一個 FID : PID : SID 的記憶體存儲,即:文件ID : 數據頁ID : 槽位ID,可以用 WinDbg 來觀察。


0:125> dp 000000482E3F8000+0x60+0x7
00000048`2e3f8067  803f0001`78000200 00000001`35000004
00000048`2e3f8077  00001f68`000006f3 00000001`000001c9
00000048`2e3f8087  000001ca`00003ed0 00004e20`00000001
00000048`2e3f8097  00000001`000001c8 78007800`78000000
00000048`2e3f80a7  78007800`78007800 78007800`78007800
00000048`2e3f80b7  78007800`78007800 78007800`78007800
00000048`2e3f80c7  78007800`78007800 78007800`78007800
00000048`2e3f80d7  78007800`78007800 78007800`78007800

簡單解釋一下: 000000482E3F8000 是數據頁在記憶體中的首地址, 000000482E3F8000+0x60 是數據頁內第一個記錄的地址,再加上 +0x7 是為了記憶體地址對齊。

仔細觀察記憶體地址 000000482e3f8097 上的內容是 00000001 000001c8,它就對應著 SID (2byte), FID (2byte) ,PID (4byte) ,那 PID=0x000001c8 是多少呢?可以用 WinDbg 算一下是 456 號 數據頁。


0:125> ? 0x1c8
Evaluate expression: 456 = 00000000`000001c8

按照這個理論繼續往前看記憶體地址,你會發現 00000001000001c900000001000001ca,對應著 457 號數據頁458 號數據頁

到這裡腦子裡就有了一張圖,大概像下麵這樣。

三:總結

經過本篇的分析,大家知道了 SQLSERVER 會用專門的 LOB數據頁 來存儲這些大欄位,由於數據被拆分到多個數據頁上,這讓 select 操作多了更多的邏輯,也會造成 C++ 代碼多次在 LOB 數據頁上游走,給查詢性能增加了巨大的開銷。

比如下麵的 SQL 查詢。


SET STATISTICS IO ON
SELECT * FROM t7;
SET STATISTICS IO OFF

可以發現在 LOB 數據頁上游走了 7 次,再加 2 條數據觀察下。


INSERT INTO t7 VALUES(REPLICATE(CAST( 'y' AS NVARCHAR(max)),10000))
INSERT INTO t7 VALUES(REPLICATE(CAST( 'z' AS NVARCHAR(max)),10000))

SET STATISTICS IO ON
SELECT * FROM t7;
SET STATISTICS IO OFF

這次由 7 次變成了 23 次,總的來說還是儘量不要將大欄位存放在資料庫吧。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、多態 多態指的是一類事物有多種形態,一個類有很多個子類,因而多態的概念是基於繼承的 序列數據類型有多種形態:字元串,列表,元組 動物有多種形態:人,狗,豬 1.動物的多種形態 # 動物有多種形態:人類、豬、狗 class Animal: def run(self): # 子類約定俗稱的必須實現這 ...
  • 企業發放的獎金根據利潤提成。 利潤(I)低於或等於10萬元時,獎金可提10%; 利潤高於10萬元,低於20萬元時,低於10萬元的部分按10%提成,高於10萬元的部分,可提成7.5%; 20萬到40萬之間時,高於20萬元的部分,可提成5%; 40萬到60萬之間時高於40萬元的部分,可提成3%; 60萬 ...
  • JZ75 字元流中第一個不重覆的字元 題目 請實現一個函數用來找出字元流中第一個只出現一次的字元。例如,當從字元流中只讀出前兩個字元 "go" 時,第一個只出現一次的字元是 "g"。 當從該字元流中讀出前六個字元 “google" 時,第一個只出現一次的字元是"l"。 方法1 使用LinkedHas ...
  • 訓練模型過程中,經常需要追蹤一些性能指標的變化情況,以便瞭解模型的實時動態,例如:回歸任務中的MSE、分類任務中的Accuracy、生成對抗網路中的圖片、網路模型結構可視化…… 除了追蹤外,我們還希望能夠將這些指標以動態圖表的形式可視化顯示出來。 TensorFlow的附加工具Tensorboar... ...
  • 本文介紹 C++11 標準中新添加的 long long 超長整型和 nullptr 初始化空指針。 1. C++11:long long 超長整型 C++ 11 標準中,基於整數大小的考慮,共提供瞭如下表所示的這些數據類型。與此同時,標準中還明確限定了各個數據類型最少占用的位數。 | 整數類型 | ...
  • 今天在寫一個通訊錄實現程式的時候,遇到個讓我突然卡殼的問題,不知道怎麼進行兩個結構體之間的成員互換......結構體成員有“姓名”,“性別”,“年齡”,“地址”,“電話”,目的就是實現一個通過年齡進行sort排序的功能,作為一個努力學習的編程小白來說,有太多的東西需要學習了..........代碼如 ...
  • 動態鏈接庫(dynamic link library)介紹 代碼放到exe中,肯定會造成磁碟冗餘; 電腦ABCD四個軟體,lib加入到代碼中不是在編譯期進入的,而是在運行期 (A進程啟動,把dll加入到A進程中……),編譯的時候不需要這份代碼, 尾碼是.dll 如果要更新軟體,把dll換掉就可以了, ...
  • 卸載mysql教程: (261條消息) 如何徹底卸載 MySQL ,再可重新安裝 MySQL_Cavalier_01的博客-CSDN博客_如何卸載mysql重新安裝 安裝mysql5.7.19: 首先,去官網下載5.7.19壓縮包然後解壓; MySQL :: Download MySQL Commu ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...