單台MongoDB實例開啟Oplog

来源:https://www.cnblogs.com/xuliuzai/archive/2018/09/14/9643128.html
-Advertisement-
Play Games

背景 隨著數據的積累,MongoDB中的數據量越來越大,數據分析團隊從資料庫中抽取變化數據(假如依據欄位createdatetime,transdatetime),越來越困難。我們知道MongoDB的副本集有一個數據結構Oplog,裡面存儲了Primary節點的所有寫操作(此處的寫操作是指查詢以外的 ...


 背景

隨著數據的積累,MongoDB中的數據量越來越大,數據分析團隊從資料庫中抽取變化數據(假如依據欄位createdatetime,transdatetime),越來越困難。我們知道MongoDB的副本集有一個數據結構Oplog,裡面存儲了Primary節點的所有寫操作(此處的寫操作是指查詢以外的操作,包含 更新、異常等)。其實,數據的抽取完全可以從Oplog中抓取這些操作,然後去重放。

但是在實際的生產環境中,我們很多MongoDB 資料庫是單實例的,那麼我們能否在單實例資料庫上開啟Oplog?

答案是肯定的。

 其原理就是,在單實例上配置副本集,如果配置成功了,自然就有了Oplog

配置過程

其實配置的過程比較簡單。

step 1 : 在配置文件中 添加副本集參數(replSet);

step 2 :重啟服務;

step 3:在local資料庫或admin資料庫執行初始化副本集的腳本,rs.initiate()。

 

註意事項

1. 在配置文件中增加副本集參數(replSet=??),MongoDB實例重啟,第一次登入,執行其他命令時(例如:show dbs),會提示錯誤,錯誤信息如下,
{
"ok" : 0,
"errmsg" : "not master and slaveOk=false",
"code" : 13435,
"codeName" : "NotMasterNoSlaveOk"
}

此時一定要執行初始化的命令:
rs.initiate({ _id: "副本集名稱", members: [{_id:0,host:"ServerIP:MongoDBPort"}]})

 

 2 . 初始化時,請指明 Server信息和埠信息,否則初始化時可能報錯,報錯信息如下

 "errmsg" : "No host described in new configuration 1 for replica set replwms maps to this node",

 

 指定IP 和 埠,副本集名稱,例如執行以下命令,OK

 

3 .  副本集初始化可以在admin中執行,不僅僅可以在local資料庫中執行【真正的副本集建立多是在admin庫中執行】。

   而不像有些文章中要求的那樣 :You just need to issue rs.initiate() on the local database:

 

4.  初始完,副本集中唯一的節點,可能短時間顯示為SECONDARY或OTHER。一般而言,稍等一會,就會自然恢復為primary,無需人工干預。

 

如果資料庫的數據量不大,並且長時間初始這種過渡狀態(SECONDARY或OTHER),去看實例的日誌,也顯示無進展,此時可以考慮重啟服務。

下麵案例是我們實際遇到的一個場景,我們是通過重啟服務解決此問題,角色由other重啟轉換為Primary 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 源碼安裝 比使用yum安裝靈活 1.創建目錄 2.下載安裝包 3.解壓安裝包 4.進入目錄 5.軟鏈接 6.測試版本 7.配置淘寶npm鏡像 `npm config set registry https://registry.npm.taobao.org` ...
  • 這期筆記將是gentoo安裝的最後一期了,雖然已經配置內核了,但是也要完成剩下的安裝步驟,這離安裝完成已經不遠了,繼續加油!!! 如果中斷了安裝,請看第二期的筆記進行恢復安裝,但請重新編譯一次內核,否則不確保最後會不出問題。 恢復安裝後的準備工作 由於本作者在上期已經編譯了內核,但由於時間關係而中斷 ...
  • Nginx是一個高性能的HTTP和反向代理的伺服器,也是一個IMAP/POP3/SMTP代理伺服器。 特點:1.熱部署 2.高併發 3.低記憶體 4.響應快 5.穩定 linux安裝nginx: 1.yum install epel-release yum install nginx 2.啟動ngin ...
  • 相對於windows中的PHP擴展,只需要在下載相應的dll資源,並且添加配置在php.ini之後即可。 但是在linux安裝擴展時,需要進行編譯安裝。 這裡以lnmp一鍵安裝包為例(php.ini位置為/usr/local/php/etc/php.ini) 在http://pecl.php.net ...
  • Sentry 是一款基於 Django實現的錯誤日誌收集和聚合的平臺,它是 Python 實現的,但是其日誌監控功能卻不局限於python,對諸如 Node.js, php,ruby, C#,java 等語言的項目都可以做到無縫集成,甚至可以用來對iOS, Android 移動客戶端以及 Web前端 ...
  • Ubuntu關閉網路服務命令: service network-manager stop 重啟網路服務命令: service network-manager restart ...
  • elk 為 elasticsearch(查詢搜索引擎),logstash(對日誌進行分析和過濾,然後轉發給elasticsearch),kibana(一個web圖形界面用於可視化elasticsearch數據)縮寫 1.安裝docker環境 2. 準備鏡像 拉取 elk鏡像,我們用sebp/elk ...
  • import matplotlib.pyplot as pltx = [4, 9, 21, 55, 30, 18]labels = ['math', 'history', 'chemistry', 'physics', 'biology','Enrlish']explode = [0, 0.01, ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...