愚公oracle資料庫同步工具

来源:http://www.cnblogs.com/mantu/archive/2017/06/25/7076849.html
-Advertisement-
Play Games

最近,利用一些時間對oracle資料庫實時同步工具做了一些調研分析,主要關註了linkedin的databus和阿裡的yugong兩個中間件,其中databus需要在每個待同步的表上增加額外的列和觸發器來實現,方案比較重,本文將著重分析一下阿裡的yugong實現方案及給出分析調研報告。 1.yugo ...


最近,利用一些時間對oracle資料庫實時同步工具做了一些調研分析,主要關註了linkedin的databus和阿裡的yugong兩個中間件,其中databus需要在每個待同步的表上增加額外的列和觸發器來實現,方案比較重,本文將著重分析一下阿裡的yugong實現方案及給出分析調研報告。

1.yugong實時同步原理

   使用了oracle的物化視圖日誌功能,類似於一個內部的觸發器,原表的資料庫需要對用戶授權具有物化視圖日誌的創建和刪除許可權,關於物化視圖日誌的詳細描述,可以參考下麵的文章:

   http://blog.csdn.net/tianlesoftware/article/details/7720580

2.性能測試

   a.在測試環境1的原表(TEST_SOURCE)新生成300萬數據

   b.為不影響開發環境的數據,修改yugong代碼,將目標表改為TEST_SOURCE_BAK

   c.啟動yugong服務,開始同步數據

   d.經過1.5小時,同步完所有增量數據

3.數據延時測試

  a.分別手動對原表數據進行了增改刪操作,10秒鐘內可以實現數據同步

  b.在目標庫中新增一列,類型為時間類型,預設值為當前時間

  c.使用腳本反覆在原庫中生成一批數據(50條為一批)

  d.所有數據的延遲時間都在30秒以內

4.數據完整性測試

  a.手工隨機抽查數據,對比同一條記錄的各個列值,數據都是一致的

  b.使用jdbc抽出特定的記錄集合,使用md5函數,md5結果一致

5.其它測試用例

  a.原表增加欄位,而目標表不增加,數據正常同步

  b.目標表先增加欄位,原表不增加欄位,數據正常同步

  c.原表和目標表同時增加欄位,服務需要重新啟動後才可以進行數據同步

  d.無主鍵測試,yugong不支持無主鍵同步

  e.主鍵為多列測試,可以正常同步

  f.yugong服務連續運行72個小時,中間出現過一次同步中斷,原因不明

  g.物化視圖日誌在事務中rollback時,會同步rollback

  h.目標表將某條記錄刪除,原表將此記錄更新,此記錄會重新同步到目標表

6.yugong分析

  a.代碼簡潔,分為extractor(提取)、translator(翻譯)、applier(更新到目標庫)三個部分

  b.只有一個服務,無其它第三方依賴

  c.原理簡單,可以按照我們的意圖來更改代碼


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 眾所周知ES6新增的const關鍵字可以用來聲明常量,但是它只對基本數據類型生效(Number、String、Boolean等),那如果我們想聲明一個常量對象呢?該如何實現,Object內置對象早就替我們想到了,下麵來具體看一下 正題 一、先來看一下const方式來聲明基本類型常量 代碼: 運 ...
  • 今天的知識點主要是數組的迭代方法中的一種filter()方法、數組操作方法中的concat()方法以及字元串的replace()方法。filter()方法可用於使用函數判斷數組中各項的值中返回true值的結果所組成的數組。concat()可以複製和創建新數組。而replace()方法可以替換字元串中... ...
  • 聲明:該書的筆者為徐嬴老師,一名具有5年IOS開發經驗,和兩年RN開發經驗的老司機。 原文可以在gitbook上找到 筆者只是為他的書中提的的一些列問題,進行有償答疑。 有償答疑。本書將持續保持更新,有關問題可以加群討論。 正在上傳...取消 正在上傳...取消 正在上傳...取消 正在上傳...取 ...
  • 這篇依然是跟 相關的方法,側重點是操作屬性的方法。 讀Zepto源碼系列文章已經放到了github上,歡迎star: "reading zepto" 源碼版本 本文閱讀的源碼為 "zepto1.2.0" 內部方法 setAttribute 如果屬性值 存在,則調用元素的原生方法 設置對應元素的指定屬 ...
  • 在Android的設計中,資源的訪問或者網路連接,要得到這些服務都需要聲明其訪問許可權,否則將無法正常工作。在Android中這樣的許可權有很多種,這裡將各類訪問許可權一一羅列出來,供大家使用時參考之用。 android.permission.EXPAND_STATUS_BAR 允許一個程式擴展收縮在狀態 ...
  • 網路狀態監測,分為兩種:動態註冊和靜態註冊。無論哪種方式,都會遇到許可權的問題,其實只要在AndroidManifest.xml中加入如下一句代碼: <uses-permission android:name="android.permission.ACCESS_NETWORK_STATE"/> 用模 ...
  • 前言: App項目開發大部分時候還是以UI頁面為主,這時我們需要調用大量的findViewById以及setOnClickListener等代碼,控制項的少的時候我們還能接受,控制項多起來有時候就會有一種想砸鍵盤的衝動。所以這個時候我們想著可以藉助註解的方式讓我們從這種繁重的工作中脫離出來,也讓代碼變得 ...
  • 1.給mysql創建用戶備份的角色,並且授予角色SELECT, RELOAD, SHOW DATABASES, LOCK TABLES等許可權。 2.在系統中找到存儲空間比較大的硬碟創建備份目錄,並且創建shell腳本 註意:-u和用戶名中間是沒有空格的,-p和密碼也是這樣的。3.添加計劃任務,需要安 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...