SQL Server 2016 快照代理過程分析

来源:http://www.cnblogs.com/chenmh/archive/2017/12/09/7895991.html
-Advertisement-
Play Games

概述 快照代理準備已發佈表的架構和初始數據文件以及其他對象、存儲快照文件並記錄分發資料庫中的同步信息。 快照代理在分發伺服器上運行;SQLServer2016版本對快照代理做了一些比較好的優化,接下來詳細瞭解一下快照的執行過程。 一、快照代理文件 在執行快照作業是會在指定的快照目錄生成4種類型的文件 ...


概述  

 快照代理準備已發佈表的架構和初始數據文件以及其他對象、存儲快照文件並記錄分發資料庫中的同步信息。 快照代理在分發伺服器上運行;SQLServer2016版本對快照代理做了一些比較好的優化,接下來詳細瞭解一下快照的執行過程。

 

 

一、快照代理文件

在執行快照作業是會在指定的快照目錄生成4種類型的文件。

BCP文件:發佈對象的數據文件。

IDX文件:索引創建腳本文件

PRE文件:複製快照腳本文件。

SCH文件:架構創建腳本文件

二、預設快照代理配置文件

-BcpBachSize:每一次執行bcp操作copy的最大記錄行數,預設是10萬行。

-HistoryVerboseLevel:指定在快照操作過程中記錄的歷史記錄大小。

-LoginTimeout:登錄超時前等待的秒數。 預設值為 15 秒。

-QueryTimeOut:查詢超時前等待的秒數。預設值為 1800 秒

 備註:通過右鍵快照代理-快照代理配置文件;可以配置快照代理。

三、對比不同版本快照代理

接下來測試對比2億的記錄表生成快照

1.bcp文件數量對比

2008R2

 

2016SP1

這裡重點說一下BCP文件,因為應用快照到訂閱伺服器是以BCP文件為基本單位,也就是說不管你的BCP文件有多大都是一次性bulk到訂閱伺服器,所以BCP文件越大每次應用的時間就會越長。如果一個BCP文件太大可能會導致插入到訂閱端失敗。

從上圖可以看到同樣是2億的記錄,2008R2總共有8個BCP文件,而且最大的BCP文件大小將近1G其它的都才幾兆;2016有16個BCP文件,並且前15個都是50M左右數據比較均勻。接下來看下圖的每個BCP文件的記錄對比。

 

2.快照生成詳細過程對比

2008r2

2016SP1

從生成的BCP文件記錄對比來看:

2008R2:前7個文件每個文件記錄數大概70萬左右,最後一個文件記錄1.1億。

2016:前15個文件每個文件記錄700萬左右,最後一個文件78萬。

說明:

2008R2前7個文件每個文件大概存儲的記錄量是70萬剩下的記錄都會存儲到最後一個文件,所以2008R2比較適合的表記錄數是600萬左右。

2016前15個文件每個文件大概存儲的記錄量是700萬剩下的記錄都會存儲到最後一個文件,2016適合的表記錄數1.2億左右。

共同缺點:表記錄超過“適合的複製表記錄數”後剩下數據會全部存儲到最後個bcp文件中。

3.分發對比

接下來看一下分發的詳細過程

 從2008R2分發記錄過程中可以看到每次BULK都是以bcp文件為單位,複製最後一個bcp文件花費了大概22分鐘,而前面的每個文件都是十幾秒;還是由於我當前的表只有三個欄位而且除了主鍵沒有索引否則的時間就更長了。

四、快照生成過程

複製快照代理是一個可執行文件,用於準備快照文件(其中包含已發佈表和資料庫對象的架構及數據),然後將這些文件存儲在快照文件夾中,併在分發資料庫中記錄同步作業。

從上圖可以瞭解整個快照的生成過程。

五、語法

snapshot [ -?]   
-Publisher server_name[\instance_name]   
-Publication publication_name   
[-70Subscribers]   
[-BcpBatchSize bcp_batch_size]  
[-DefinitionFile def_path_and_file_name]  
[-Distributor server_name[\instance_name]]  
[-DistributorDeadlockPriority [-1|0|1] ]  
[-DistributorLogin distributor_login]  
[-DistributorPassword distributor_password]  
[-DistributorSecurityMode [0|1] ]  
[-DynamicFilterHostName dynamic_filter_host_name]  
[-DynamicFilterLogin dynamic_filter_login]  
[-DynamicSnapshotLocation dynamic_snapshot_location]   
[-EncryptionLevel [0|1|2]]  
[-FieldDelimiter field_delimiter]  
[-HistoryVerboseLevel [0|1|2|3] ]  
[-HRBcpBlocks number_of_blocks ]  
[-HRBcpBlockSize block_size ]  
[-HRBcpDynamicBlocks ]  
[-KeepAliveMessageInterval keep_alive_interval]  
[-LoginTimeOut login_time_out_seconds]  
[-MaxBcpThreads number_of_threads ]  
[-MaxNetworkOptimization [0|1]]  
[-Output output_path_and_file_name]  
[-OutputVerboseLevel [0|1|2] ]  
[-PacketSize packet_size]  
[-ProfileName profile_name]  
[-PublisherDB publisher_database]  
[-PublisherDeadlockPriority [-1|0|1] ]  
[-PublisherFailoverPartner server_name[\instance_name] ]  
[-PublisherLogin publisher_login]  
[-PublisherPassword publisher_password]   
[-PublisherSecurityMode [0|1] ]  
[-QueryTimeOut query_time_out_seconds]  
[-ReplicationType [1|2] ]  
[-RowDelimiter row_delimiter]  
[-StartQueueTimeout start_queue_timeout_seconds]  
[-UsePerArticleContentsView use_per_article_contents_view]  

參數

-?
輸出所有可用的參數。

-Publisher server_name[\instance_name]
發佈伺服器的名稱。 為該伺服器上的 Microsoft SQL Server 預設實例指定 server_name。 為該伺服器上的 server_name\instance_name instance_name SQL Server 預設實例指定 server_name。

-Publication 發佈
發佈的名稱。 只有將發佈設置為總是使快照可用於新訂閱或重新初始化的訂閱時,此參數才有效。

-70Subscribers
如果有任何訂閱伺服器在運行 SQL Server 7.0 版,則必須使用此參數。

-BcpBatchSize bcp batch\ size
在一次大容量複製操作中發送的行數。 執行 bcp in 操作時,批的大小為要作為一個事務發送到伺服器的行數,並且也是分發代理記錄 bcp 進度消息之前必鬚髮送的行數。 當執行 bcp out 操作時,將使用固定批大小 1000。 值為 0 表示不記錄任何消息。

-DefinitionFile def_path_and_file_name
代理定義文件的路徑。 代理定義文件中包含該代理的命令行參數。 文件的內容被當作可執行文件進行分析。 使用雙引號 (") 指定包含任意字元的參數值。

-Distributor server_name[\instance_name]
分發伺服器名稱。 為該伺服器上的 預設實例指定 server_name SQL Server 。 為該伺服器上的 server_name\instance_name instance_name SQL Server 預設實例指定 server_name。

-DistributorDeadlockPriority [-1|0|1]
死鎖發生時快照代理連接到分發伺服器的優先順序。 指定此參數是為瞭解決快照生成期間在快照代理和用戶應用程式之間發生的死鎖問題。

DistributorDeadlockPriority 值

說明

-1

在分發伺服器上發生死鎖時,應用程式而非快照代理優先。

0 (預設值)

未分配優先順序。

1

在分發伺服器上發生死鎖時,快照代理優先。

-DistributorLogin distributor_login
使用 SQL Server 身份驗證連接到分發伺服器時所用的登錄名。

-DistributorPassword distributor_password
使用 SQL Server 身份驗證連接到分發伺服器時使用的密碼。 。

-DistributorSecurityMode [ 01]
指定分發伺服器的安全模式。 值 0 指示 SQL Server 身份驗證模式(預設設置),值 1 指示 Windows 身份驗證模式。

-DynamicFilterHostName dynamic_filter_host_name
在創建動態快照時,用來為篩選中的 HOST_NAME (Transact-SQL) 設置值。 例如,如果為項目指定了子集篩選器子句 rep_id = HOST_NAME() ,並且在調用合併代理之前將 DynamicFilterHostName 屬性設置為“FBJones”,則只會複製 rep_id 列中具有“FBJones”的行。

-DynamicFilterLogin dynamic_filter_login
在創建動態快照時,用來為篩選中的 SUSER_SNAME (Transact-SQL) 設置值。 例如,如果為項目指定了子集篩選器子句 user_id = SUSER_SNAME() ,並且在調用 SQLSnapshot 對象的 Run 方法之前將 DynamicFilterLogin 屬性設置為“rsmith”,則只將 user_id 列中具有“rsmith”的行包括在快照中。

-DynamicSnapshotLocation dynamic_snapshot_location
應生成動態快照的位置。

-EncryptionLevel [ 0 | 1 | 2 ]
建立連接時快照代理使用的安全套接字層 (SSL) 加密的等級。

EncryptionLevel 值

說明

0

指定不使用 SSL。

1

指定使用 SSL,但是代理不驗證 SSL 伺服器證書是否已由可信的頒發者進行簽名。

2

指定使用 SSL,並驗證證書。

-FieldDelimiter field_delimiter
在 SQL Server 大容量複製數據文件中用於標記欄位末尾的字元或字元序列。 預設值為 \n<x$3>\n。

-HistoryVerboseLevel [ 123]
指定在快照操作過程中記錄的歷史記錄大小。 選擇 1可將歷史日誌記錄對性能的影響減至最小。

HistoryVerboseLevel 值

說明

0

進度消息將寫入控制台或輸出文件。 不在分發資料庫中記錄歷史記錄。

1

總是更新具有相同狀態(啟動、進行中、成功等)的上一歷史記錄消息。 如果不存在狀態相同的上一記錄,將插入新記錄。

2 (預設值)

除非記錄為空閑消息或長時間運行的作業消息等信息(此時將更新上一記錄),否則插入新的歷史記錄。

3

始終插入新記錄,除非它與空閑消息有關。

-HRBcpBlocks number_of_blocks
在編寫器線程和讀取器線程之間排隊的 bcp 數據塊的數量。 預設值為 50。 HRBcpBlocks 僅用於 Oracle 發佈。

備註

此參數用於通過 Oracle 發佈伺服器優化 bcp 的性能。

-HRBcpBlockSizeblock_size
每個 bcp 數據塊的大小(以 KB 為單位)。 預設值為 64 KB。 HRBcpBlocks 僅用於 Oracle 發佈。

備註

此參數用於通過 Oracle 發佈伺服器優化 bcp 的性能。

-HRBcpDynamicBlocks
每個 bcp 數據塊的大小是否可以動態增長。 HRBcpBlocks 僅用於 Oracle 發佈。

備註

此參數用於通過 Oracle 發佈伺服器優化 bcp 的性能。

-KeepAliveMessageInterval keep_alive_interval
快照代理在向 MSsnapshot_history 表中記錄“waiting for backend message”之前等待的時間(以秒為單位)。 預設值為 300 秒。

-LoginTimeOut login_time_out_seconds
登錄超時前等待的秒數。 預設值為 15 秒。

-MaxBcpThreads number_of_threads
指定可以並行執行的大容量複製操作的數量。 同時存在的線程和 ODBC 連接的最大數量為 MaxBcpThreads 或顯示在分發資料庫中同步事務中的大容量複製請求數中較小的那一個。 MaxBcpThreads 的值必須大於 0 ,並且不存在任何硬編碼的上限。 預設值為 1

MaxNetworkOptimization [ 01]
是否將無關刪除操作發送到訂閱伺服器。 無關刪除操作是針對不屬於訂閱伺服器分區的行發送到訂閱伺服器的 DELETE 命令。 無關刪除操作不會影響數據的完整性或收斂,但它們會導致不必要的網路通信。 MaxNetworkOptimization 的預設值是 0。 將 MaxNetworkOptimization 設置為 1 可將不相關的刪除操作發生的機會減至最小,從而減少網路通信,並最大程度地優化網路。如果存在多個級別的聯接篩選器和複雜子集篩選器,則將此參數設置為 1 還會增加元數據的存儲並導致發佈伺服器性能下降。 您應仔細評估您的複製拓撲,僅當無關刪除操作導致的網路通信高到無法接受時才應將 MaxNetworkOptimization 設置為 1 。

備註

僅當合併發佈的同步優化選項(sp_addmergepublication (Transact-SQL) 的 @keep_partition_changes 參數)設置為 true 時,將此參數設置為 1 才是有用的。

-Output output_path_and_file_name
代理輸出文件的路徑。 如果未提供文件名,則向控制台發送該輸出。 如果指定的文件名已存在,會將輸出追加到該文件。

-OutputVerboseLevel [ 012]
指定輸出是否應提供詳細內容。

OutputVerboseLevel 值

說明

0

僅輸出錯誤消息。

1 (預設值)

輸出所有進度報告消息(預設值)。

2

輸出所有錯誤消息和進度報告消息,這對於調試很有用。

-PacketSize packet_size
快照代理連接到 SQL Server時使用的數據包大小(以位元組為單位)。 預設值為 8192 位元組。

備註

除非您確信能夠提高性能,否則不要更改數據包的大小。 對於大多數應用程式而言,預設數據包大小為最佳數值。

-ProfileName profile_name
指定用於代理參數的代理配置文件。 如果 ProfileName 為 NULL,則將禁用代理配置文件。 如果未指定 ProfileName ,則使用該代理類型的預設配置文件。 

-PublisherDB publisher_database
發佈資料庫的名稱。 Oracle 發佈伺服器不支持該參數。

-PublisherDeadlockPriority [-1|0|1]
死鎖發生時快照代理連接到發佈伺服器的優先順序。 指定此參數是為瞭解決快照生成期間在快照代理和用戶應用程式之間發生的死鎖問題。

PublisherDeadlockPriority 值

說明

-1

在發佈伺服器上發生死鎖時,應用程式而非快照代理優先。

0 (預設值)

未分配優先順序。

1

在發佈伺服器上發生死鎖時,快照代理優先。

-PublisherFailoverPartner server_name[\instance_name]
指定參加與發佈資料庫進行的資料庫鏡像會話的 SQL Server 故障轉移伙伴實例。

-PublisherLogin publisher_login
使用 SQL Server 身份驗證連接到發佈伺服器時所用的登錄名。

-PublisherPassword publisher_password
使用 SQL Server 身份驗證連接到發佈伺服器時使用的密碼。 。

-PublisherSecurityMode [ 01]
指定發佈伺服器的安全模式。 值 0 指示 SQL Server 身份驗證(預設值),值 1 指示 Windows 身份驗證模式。

-QueryTimeOut query_time_out_seconds
查詢超時前等待的秒數。預設值為 1800 秒。

-ReplicationType [ 12]
指定複製的類型。 值 1 指示事務複製,值 2 指示合併複製。

-RowDelimiter row_delimiter
在 SQL Server 大容量複製數據文件中用於標記行尾的字元或字元序列。 預設值為 \n<,@g>\n。

-StartQueueTimeout start_queue_timeout_seconds
當運行的併發動態快照進程數達到由 sp_addmergepublication (Transact-SQL) 的 @max_concurrent_dynamic_snapshots 屬性設置的限制值時,快照代理等待的最大秒數。 如果在經過最大秒數之後快照代理仍在等待,快照代理將退出。 值 0 表示代理將無限期地等待,儘管可以將其取消。

UsePerArticleContentsView use_per_article_contents_view
已不推薦使用此參數,支持它是為了能夠向後相容。

 

總結

由於在生成快照需要擁有對象的架構鎖,所以在生成快照的過程中表對象是只讀的。如果對大表生成快照千萬不要選擇在業務繁忙的時候否則有可能造成系統癱瘓,2016生成快照的時間比2008要快很多。通過對比可以發現2016的複製生成快照比2008性能提升了很多。但是從2014到2016BCP文件從32個變成16個不知道是出於什麼原因。

 

 

備註:

    作者:pursuer.chen

    博客:http://www.cnblogs.com/chenmh

本站點所有隨筆都是原創,歡迎大家轉載;但轉載時必須註明文章來源,且在文章開頭明顯處給明鏈接,否則保留追究責任的權利。

《歡迎交流討論》

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • shell 條件表達式 if case 大量企業實際應用 ...
  • 本節主要介紹Linux系統啟動的完整過程、詳細說明瞭Linux的7種啟動模式;對Linux系統的破解展示,來說明Linux系統基本安全防護的必要性。 ...
  • Mysql實現企業級日誌管理、備份與恢復實戰 環境背景:隨著業務的發展,公司業務和規模不斷擴大,網站積累了大量的用戶信息和數據,對於一家互聯網公司來說,用戶和業務數據是根基。一旦公司的數據錯亂或者丟失,對於互聯網公司而言就等於說是滅頂之災,為防止系統出現操作失誤或系統故障導致數據丟失,公司要求加強用 ...
  • 我用的vmware 安裝kali,期間遇到不少小坑: NO1: 安裝一半提示安裝失敗,停在了這裡,經各種百度,解決,分區大小最好大於25G才能過(不知道什麼原理) NO2: 安裝完之後用ssh鏈接一直伺服器拒絕密碼,賬號密碼都是正確的,趕緊確定下ssh伺服器動了沒,然後找到 /etc/ssh/ssh ...
  • 一、主題美化 系統清理 系統更新: 安裝完系統之後,需要更新一些補丁。Ctrl+Alt+T調出終端,執行一下代碼: 卸載libreOffice: libreOffice是ubuntu自帶的開源office軟體,我們一般習慣用WPS,在第二部分會說明WPS在Ubuntu中的安裝 卸載不常用軟體: 刪除 ...
  • 這一篇博客接著上一篇博客繼續介紹 SQL CLR Stored Procedure 和 CLR Trigger, 上一篇博客介紹了 SQL CLR Function 的使用,以及 CLR 程式集的註冊和 CLR Function 的註冊。 我的上一篇博客:SQL Server CLR 使用 C# 自 ...
  • ☞ | (Oracle入門操作) | ☜ ☞ | (Oracle表空間) | ☜ ☞ | (Oracle賬號密碼) | ☜ ...
  • 上一篇文章已經介紹過 主從複製, 本文對主從複製只是簡單描述,如對主從複製不清楚的,可以先看上一篇文章 主從複製 一:介紹 mysql版本:5.7.20 第一個主服伺服器ip:192.168.71.139 第二個主服伺服器ip:192.168.71.141 二:配置 第一臺主伺服器192.168.7 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...