(1)SQL Server記憶體淺探

来源:https://www.cnblogs.com/wzk153/archive/2019/05/09/10836996.html
-Advertisement-
Play Games

1.前言 對於資料庫引擎來說,記憶體是一個性能提升的重要解決手段。把數據緩存起來,可以避免在查詢或更新數據時花費多餘的時間,而這時間通常是從磁碟獲取數據時用來等待磁碟定址的。把執行計劃緩存起來,可以避免重覆分析執行計劃時帶來額外的CPU及各種資源的開銷。通過在記憶體中開闢查詢記憶體空間,可以迅速地完成排序 ...


1.前言

對於資料庫引擎來說,記憶體是一個性能提升的重要解決手段。把數據緩存起來,可以避免在查詢或更新數據時花費多餘的時間,而這時間通常是從磁碟獲取數據時用來等待磁碟定址的。把執行計劃緩存起來,可以避免重覆分析執行計劃時帶來額外的CPU及各種資源的開銷。通過在記憶體中開闢查詢記憶體空間,可以迅速地完成排序、哈希等計算,達到快速返回運算結果的目的。若沒有足夠的記憶體空間,資料庫引擎將無法快速地響應用戶的請求。

2.SQL Server如何從操作系統層面分配記憶體

SQL Server存儲引擎本身是一個Windows下的進程,所以SQL Server使用記憶體和其它Windows進程一樣,都需要向Windows申請記憶體(通過VirtualAlloc之類的API向Windows申請記憶體)。

3.物理記憶體、虛擬記憶體、虛擬記憶體管理器

3.1物理記憶體(RAM)

記憶體晶元提供的物理存儲空間,能被CPU直接訪問,訪問速度快,易丟失。記憶體性能指標GB/s,ns(納秒),前者是吞吐量,後者是響應時間。磁碟性能指標MB/s,us(微秒),從兩者對比就能看出記憶體訪問速度是遠優於磁碟的。

3.2虛擬記憶體

物理記憶體容量是有限的,如果所有進程都直接使用有限的物理記憶體,那新的進程將無法為他們找到任何物理記憶體,那麼物理記憶體將容易成為瓶頸。所以Windows會授予每個進程一個虛擬地址空間(Virtual Address Space,VAS),通過VAS建立應用程式與物理記憶體的橋梁。

3.2.1虛擬地址空間(Virtual Address Space,VAS)

是指一個應用程式能夠申請訪問的最大地址空間。VAS作為中間的抽象層的,不是所有的請求都直接映射到物理記憶體,它首先映射到VAS,然後映射到物理記憶體。
而兩個進程可以共用一個VAS,而VAS的大小取決於CPU架構,具體請看下麵表格:

OS Type

Kernel Model

(內核模式)

User Model

(用戶模式)

Total

32位系統

2GB

2GB

4GB

64位系統

8TB

8TB

16TB

VAS有兩種記憶體模式,Kernel Model和User Model。Kernel Model下的VAS是供Windows系統進程使用,而User Model下的VAS是供用戶進程使用。
由表格可知,32位Windows系統應用程式可以訪問最大2GB的VAS,64Windows位系統可以訪問最大8TB的VAS。這意味著在32位Windows系統中一個word文檔進程跟一個SQL Server進程能得到最大2GB的VAS是一樣的。因此,從理論上講,這意味著任何應用程式進程在32位Windows系統上都將共用最大限度的2 G的VAS。

3.3虛擬記憶體管理器(Virtual Memory Manager,VMM)

VMM是負責把物理記憶體在系統中所有需要記憶體的進程之間作共用,必要時會從VAS回收物理記憶體,把數據存儲到頁面文件上面去,保證數據永不丟失。當進程需要記憶體時,VMM會從頁面文件中查找數據,並將這數據寫入一部分空閑記憶體當中,然後將新頁面映射到需要操作的VAS當中。

4.SQL Server記憶體架構

SQL Server 2012對記憶體管理這塊跟SQL Server 2008還是有比較大的區別的,參考一些資料,下麵我們來看看兩者具體架構。

SQL Server 2008 R2:                                                                                     SQL Server 2012

名詞術語

4.1緩衝池(Buffer Pool)

為了更加清楚瞭解Buffer Pool,我們先來瞭解下 SQL Server的所需要的記憶體有哪些,其中包括SQL Server服務(sqlserver.exe)和其它一些組件所占用的記憶體,例如SQL Server代理程式(sqlagent.exe), SQL Server複製代理程式、SQL Server報表服務(ReportingServicesService.exe)、SQL Server Analysis Services(msmdsrv.exe)、SQL Server Integration Services(MsDtsSrvr.exe),和SQL Server 全文搜索(msftesql.exe)。
在一臺運行SQL Server的伺服器上,運行著sqlserver服務(sqlserver.exe)和其它一些組件。在sqlserver服務(sqlserver.exe)獲取到的記憶體中,又分為2大塊:一部分為Buffer Pool,另一部分為非Buffer Pool,舊稱MemToReserve(預設sqlserver.exe給它預留了256MB)。下表為這兩部分記憶體各自的用途:

 

SQL Server 進程所占記憶體

Buffer Pool

EXEC sp_configure N'min server memory

EXEC sp_configure N'max server memory

Buffer Pool(即MemToReserve

(預設為256MB), 可以sqlserver.exe啟動時加-g參數,預留足夠記憶體(預留記憶體大小=256MB+工作線程數*512KB

Buffer Pool中主要存放之前查詢中的數據頁,和索引頁。然後根據它自已的演算法,自動清理過期過訪問或效率低下的頁。

SQL Server工作線程

占用不多

分散式查詢引用的OLE DB訪問介面

如操作鏈接伺服器

備份還原

維護計劃或者T-SQL備份恢復

擴展過程

sp_sys開頭的系統存儲過程,sp_OACreate 存儲過程

多頁的分配器SQL Server記憶體管理器

.net framework程式(它們連接sqlserver的網路包大小為8K, sqlserver預設網路包大小為4k

.DLL文件

 

SQL Server CLRMicrosoft COM對象

 

4.2 Single-Page

這塊記憶體是<=8kb的存儲,適用於sql server 2008及以前,屬於Buffer Pool緩衝池來分配。有存儲數據頁面,Consumer功能組件。

4.3 Multi-Page

這塊記憶體是>8kb的存儲,適用於sql server 2008及以前,不屬於Buffer Pool緩衝池來分配, 有存儲Consumer功能組件, 第三方代碼, Threads線程。

4.4 Any Size Page

這個適用於sql server 2012及以上,整合了single-page,multi-page統稱any size page。

4.5 Memory Manager

它來統一響應SQL Server 內部各種組件記憶體申請的請求。因為這個原因,在SQL Server 2012裡面,max server memory 不再像以前的版本那樣,只控制buffer pool的大小,也包括那些大於8kb 的記憶體請求。也就是,max server memory能夠更準確地控制SQL Server 的記憶體使用了。

5.SQL Server 2008記憶體

從記憶體架構我們可以看到有page reservation需預先申請的記憶體,有momory objects從windows api申請的記憶體,有clr第三方申請的記憶體。

記憶體使用分類

5.1按用途分類

(1)Database Cache(數據頁面緩衝區):存放數據頁面的緩衝區。SQL Server資料庫里的數據都是以8KB為一個頁面存儲。當有用戶需要使用到這個頁面上存儲的數據時,SQL Server會把整個頁面都調入記憶體,供用戶使用。所以8KB是數據訪問的最小單元。
當用戶修改了某個頁面上的數據時,SQL Server會在記憶體中將這個頁面修改,但是不會立刻將這個頁面寫回磁碟,而是等到後面的Checkpoint或Lazy Write的時候集中處理。
(2)各類Consumer
SQL Server的很多功能組件,都必須要申請記憶體來完成它們的任務。這些統稱為“Consumer”。常見有如下:
Connection:SQL Server為每個連接分配一個數據結構,存儲關於這個連接的信息。另外,還會分配一個輸入緩衝池,緩衝客戶端發來的指令;一個輸出緩衝池,存放SQL Server返回的結果,等待客戶端取走。
General:一組大雜燴。包括語句的編譯、範式化、每個鎖數據結構、事務上下文、表格和索引的元數據等。
Query Plan:語句和存儲過程的執行計劃。和Database Cache類似,如果SQL Server沒有記憶體壓力,它就會保留每一個生成的執行計劃,供以後的用戶重用,減少Comlile的消耗。所以Query Plan也會是一塊比較大的記憶體使用區域。
Optimizer:SQL Server在生成執行計劃的過程中需要消耗的記憶體。
Utilities:像BCP、Log Manager、Parallel Queries、Backup等比較特殊的操作需要的記憶體。
(3)線程記憶體
SQL Server會為每個進程內的每個線程分配0.5MB的記憶體,以存放線程的數據結構和相關信息。
(4)第三方代碼申請的記憶體(COM,XP...)
在SQL Server的進程里,會運行一些非SQL Server自身的代碼。例如,用戶定義的CLR或者Extended Stored Procedure代碼,Linked Server需要載入的數據連結驅動,調用SQL Mail功能需要載入的MAPI動態庫等。這些代碼也會申請記憶體,會算在SQL Server自己都不知道。

5.2按申請方式分類

有些SQL Server記憶體的申請方式,是預先Reserve一塊大的記憶體,然後在使用的時候一小塊一小塊地Commit。而另外的記憶體申請則直接從空間里Commit。在SQL Server里,把後一種方式叫Stolen。
在SQL Server里,對Database Cache,SQL Server會先Reserve,再Commit。其他的所有記憶體使用,基本都是直接Commit,都是“Stolen”。要重申的是,Stolen記憶體也是正常使用的記憶體,不是泄漏掉的記憶體。
之所以要把這兩種分開,是因為SQL Server不會對Stolen的記憶體使用AWE功能。也就是說,AWE擴展出去的記憶體,只能用來存放Database Cache。其他記憶體還要在原來的那2GB里想辦法。

5.3按申請大小分類

對於SQL Server自己申請的記憶體,有兩種記憶體申請單位。
小於等於8KB一個單位記憶體申請,SQL Server就分配一個8KB頁面。所有這些頁面都集中管理,這塊記憶體被稱為Buffer Pool。一次一個頁面的這種分配稱為Single Page Allocation。
對於大於8KB為單位的記憶體申請,SQL Server把它們集中在另外一個區域,稱為Multi-Page Allocation(舊稱MemToLeave)。而這種分配稱為Multi-Page Allocation。

5.4各個記憶體分類方法之間的關係:

類型

Database Cache

Consumer

3rh Party Code

Threads

Reserved/Commit

一般不是

一般不是

不是

Stolen

不是

Buffer Pool

Single Page

所有

絕大部分

沒有

沒有

MemToLeaveMulti-Page

沒有

一小部分

所有

所有

這裡的一個例外是運行在SQL Server進程里的CLR代碼所申請的記憶體。這部分記憶體像第三方代碼一樣,也是使用MemToLeave的記憶體。但是,CLR可能也會用Reserve-Commit的方式申請記憶體。所以MemToLeave的記憶體也並不是都是Stolen的。

6.SQL Server 2012記憶體

根據SQL Server記憶體架構圖,我們可以知道,在2012版本上,Single Page Allocation跟Multi-Page Allocation合併為Any Size Page Allocation了。而max server memory控制的不但是 Buffer Pool記憶體大小,而是所有大於等於小於8KB的記憶體請求。
如圖:

比如我設置最小伺服器記憶體為8G,重新啟動下SQL Server (MSSQLSERVER)服務,再使用dmv來查看當前實例的總記憶體空間,以及占用記憶體空間:
--Target Server Memory (KB)最多能申請的記憶體量
--Total Server Memory (KB)目前使用了多少記憶體量
SELECT counter_name, ltrim(cntr_value*1.0/1024.0/1024.0)+'G'
AS memoryGB FROM sys.dm_os_performance_counters
WHERE counter_name like '%target%server%memory%'or counter_name like '%total%memory%'

從查詢結果可以看到當我們在SQL Server設置最小伺服器記憶體為8G的時候,給SQL Server分配了多少記憶體,它就占用多少多少記憶體,從而達到性能最佳。

7.總結

這是我初次學習SQL Server性能調優方面的知識,謝謝博友花陰偷移指點。很多知識點方面可能理解有偏差,希望各個路過大神指點一二。

參考文獻:
Microsoft.SQL.Server企業級平臺管理實踐
SQL Server 2012 記憶體管理 (memory management) 改進


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、寫隨筆的原因:最近在阿裡雲上買了個centos7.3伺服器,想將一些demo運行在上面,所以需要做一些環境的安裝,通過此篇文章MAKR一下。下麵來記錄下安裝步驟(參考網上的一些教程,有坑的話會實時記錄)。 二、具體的內容: 1.進入官網找到5.7的yum源 懶得人可以直接點開這個地址:https ...
  • 有時候我們想看下指定庫下所有表的使用情況,比如,查詢表的Table大小,什麼時候創建的,數據最近被更新的時間(即最近一筆insert/update/delete的時間)。這些信息對我們進行庫表維護很有作用。 1.查詢語法 2.查詢語句說明 此語句返回信息如下圖: 3.查詢結果中各列的說明 ...
  • 雖然做一名程式猿好幾年了,但其實。。。 ...
  • 寫了2個自定義函數,獲取指定日期所在年份的第一天日期或最後一天的日期: SET ANSI_NULLS ON GO SET QUOTED_IDENTIFIER ON GO -- -- Author: Insus.NET -- Create date: 2019-05-09 -- Update date ...
  • 在SQL開發過程中,經常需要創建臨時表。在創建時,需要判斷所創建的臨時表是否存在,如果存在,把它DROP掉: IF OBJECT_ID('tempdb..#tempTable') IS NOT NULL BEGIN DROP TABLE #tempTable END ...
  • [20190509]rman備份的疑問5.txt--//別人跟我提到的rman備份問題,我開始以為是assm與mssm的問題,實際測試情況不是.--//開始備份時生成的備份集文件很大,以後會回縮(對方採用壓縮方式).我以前測試也遇到類似的情況,我重覆演示看看.1.環境:SYS@book> @ ver ...
  • 一 . 基礎規範 1.必須使用InnoDB存儲引擎 解讀:支持事務;支持行級鎖;支持MVCC多版本控制;支持外鍵;死鎖自動檢測;併發性能更好、CPU及記憶體緩存頁優化使得資源利用率更高。 2. 表字元集推薦使用utf8mb4 解讀:utf8 是 Mysql 中的一種字元集,只支持最長三個位元組的 UTF ...
  • 實現這個功能,先參考下麵幾篇博文《T-SQL獲取二月份天數》https://www.cnblogs.com/insus/archive/2011/04/22/2025019.html 《如何獲取月份的天數》https://www.cnblogs.com/insus/archive/2011/09/1 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...