Spring, MyBatis 多數據源的配置和管理

来源:http://www.cnblogs.com/shouce/archive/2016/03/26/5321909.html
-Advertisement-
Play Games

同一個項目有時會涉及到多個資料庫,也就是多數據源。多數據源又可以分為兩種情況: 1)兩個或多個資料庫沒有相關性,各自獨立,其實這種可以作為兩個項目來開發。比如在游戲開發中一個資料庫是平臺資料庫,其它還有平臺下的游戲對應的資料庫; 2)兩個或多個資料庫是master-slave的關係,比如有mysql ...


同一個項目有時會涉及到多個資料庫,也就是多數據源。多數據源又可以分為兩種情況:

1)兩個或多個資料庫沒有相關性,各自獨立,其實這種可以作為兩個項目來開發。比如在游戲開發中一個資料庫是平臺資料庫,其它還有平臺下的游戲對應的資料庫;

2)兩個或多個資料庫是master-slave的關係,比如有mysql搭建一個 master-master,其後又帶有多個slave;或者採用MHA搭建的master-slave複製;

目前我所知道的 Spring 多數據源的搭建大概有兩種方式,可以根據多數據源的情況進行選擇。

1. 採用spring配置文件直接配置多個數據源

比如針對兩個資料庫沒有相關性的情況,可以採用直接在spring的配置文件中配置多個數據源,然後分別進行事務的配置,如下所示:

複製代碼
    <context:component-scan base-package="net.aazj.service,net.aazj.aop" />
    <context:component-scan base-package="net.aazj.aop" />
    <!-- 引入屬性文件 -->
    <context:property-placeholder location="classpath:config/db.properties" />

    <!-- 配置數據源 -->
    <bean name="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${jdbc_url}" />
        <property name="username" value="${jdbc_username}" />
        <property name="password" value="${jdbc_password}" />
        <!-- 初始化連接大小 -->
        <property name="initialSize" value="0" />
        <!-- 連接池最大使用連接數量 -->
        <property name="maxActive" value="20" />
        <!-- 連接池最大空閑 -->
        <property name="maxIdle" value="20" />
        <!-- 連接池最小空閑 -->
        <property name="minIdle" value="0" />
        <!-- 獲取連接最大等待時間 -->
        <property name="maxWait" value="60000" />
    </bean>
    
    <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
      <property name="dataSource" ref="dataSource" />
      <property name="configLocation" value="classpath:config/mybatis-config.xml" />
      <property name="mapperLocations" value="classpath*:config/mappers/**/*.xml" />
    </bean>
    
    <!-- Transaction manager for a single JDBC DataSource -->
    <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
        <property name="dataSource" ref="dataSource" />
    </bean>
    
    <!-- 使用annotation定義事務 -->
    <tx:annotation-driven transaction-manager="transactionManager" /> 
    
    <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
      <property name="basePackage" value="net.aazj.mapper" />
      <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/>
    </bean>
<!-- Enables the use of the @AspectJ style of Spring AOP --> <aop:aspectj-autoproxy/> <!-- ===============第二個數據源的配置=============== --> <bean name="dataSource_2" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close"> <property name="url" value="${jdbc_url_2}" /> <property name="username" value="${jdbc_username_2}" /> <property name="password" value="${jdbc_password_2}" /> <!-- 初始化連接大小 --> <property name="initialSize" value="0" /> <!-- 連接池最大使用連接數量 --> <property name="maxActive" value="20" /> <!-- 連接池最大空閑 --> <property name="maxIdle" value="20" /> <!-- 連接池最小空閑 --> <property name="minIdle" value="0" /> <!-- 獲取連接最大等待時間 --> <property name="maxWait" value="60000" /> </bean> <bean id="sqlSessionFactory_slave" class="org.mybatis.spring.SqlSessionFactoryBean"> <property name="dataSource" ref="dataSource_2" /> <property name="configLocation" value="classpath:config/mybatis-config-2.xml" /> <property name="mapperLocations" value="classpath*:config/mappers2/**/*.xml" /> </bean> <!-- Transaction manager for a single JDBC DataSource --> <bean id="transactionManager_2" class="org.springframework.jdbc.datasource.DataSourceTransactionManager"> <property name="dataSource" ref="dataSource_2" /> </bean> <!-- 使用annotation定義事務 --> <tx:annotation-driven transaction-manager="transactionManager_2" /> <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer"> <property name="basePackage" value="net.aazj.mapper2" /> <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory_2"/> </bean>
複製代碼

如上所示,我們分別配置了兩個 dataSource,兩個sqlSessionFactory,兩個transactionManager,以及關鍵的地方在於MapperScannerConfigurer 的配置——使用sqlSessionFactoryBeanName屬性,註入不同的sqlSessionFactory的名稱,這樣的話,就為不同的資料庫對應的 mapper 介面註入了對應的 sqlSessionFactory。

需要註意的是,多個資料庫的這種配置是不支持分散式事務的,也就是同一個事務中,不能操作多個資料庫。這種配置方式的優點是很簡單,但是卻不靈活。對於master-slave類型的多數據源配置而言不太適應,master-slave性的多數據源的配置,需要特別靈活,需要根據業務的類型進行細緻的配置。比如對於一些耗時特別大的select語句,我們希望放到slave上執行,而對於update,delete等操作肯定是只能在master上執行的,另外對於一些實時性要求很高的select語句,我們也可能需要放到master上執行——比如一個場景是我去商城購買一件兵器,購買操作的很定是master,同時購買完成之後,需要重新查詢出我所擁有的兵器和金幣,那麼這個查詢可能也需要防止master上執行,而不能放在slave上去執行,因為slave上可能存在延時,我們可不希望玩家發現購買成功之後,在背包中卻找不到兵器的情況出現。

所以對於master-slave類型的多數據源的配置,需要根據業務來進行靈活的配置,哪些select可以放到slave上,哪些select不能放到slave上。所以上面的那種所數據源的配置就不太適應了。

2. 基於 AbstractRoutingDataSource 和 AOP 的多數據源的配置

基本原理是,我們自己定義一個DataSource類ThreadLocalRountingDataSource,來繼承AbstractRoutingDataSource,然後在配置文件中向ThreadLocalRountingDataSource註入 master 和 slave 的數據源,然後通過 AOP 來靈活配置,在哪些地方選擇  master 數據源,在哪些地方需要選擇 slave數據源。下麵看代碼實現:

1)先定義一個enum來表示不同的數據源:

複製代碼
package net.aazj.enums;

/**
 * 數據源的類別:master/slave
 */
public enum DataSources {
    MASTER, SLAVE
}
複製代碼

2)通過 TheadLocal 來保存每個線程選擇哪個數據源的標誌(key):

複製代碼
package net.aazj.util;

import net.aazj.enums.DataSources;

public class DataSourceTypeManager {
    private static final ThreadLocal<DataSources> dataSourceTypes = new ThreadLocal<DataSources>(){
        @Override
        protected DataSources initialValue(){
            return DataSources.MASTER;
        }
    };
    
    public static DataSources get(){
        return dataSourceTypes.get();
    }
    
    public static void set(DataSources dataSourceType){
        dataSourceTypes.set(dataSourceType);
    }
    
    public static void reset(){
        dataSourceTypes.set(DataSources.MASTER0);
    }
}
複製代碼

3)定義 ThreadLocalRountingDataSource,繼承AbstractRoutingDataSource:

複製代碼
package net.aazj.util;

import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;

public class ThreadLocalRountingDataSource extends AbstractRoutingDataSource {
    @Override
    protected Object determineCurrentLookupKey() {
        return DataSourceTypeManager.get();
    }
}
複製代碼

4)在配置文件中向 ThreadLocalRountingDataSource 註入 master 和 slave 的數據源:

複製代碼
    <context:component-scan base-package="net.aazj.service,net.aazj.aop" />
    <context:component-scan base-package="net.aazj.aop" />
    <!-- 引入屬性文件 -->
    <context:property-placeholder location="classpath:config/db.properties" />    
    <!-- 配置數據源Master -->
    <bean name="dataSourceMaster" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${jdbc_url}" />
        <property name="username" value="${jdbc_username}" />
        <property name="password" value="${jdbc_password}" />
        <!-- 初始化連接大小 -->
        <property name="initialSize" value="0" />
        <!-- 連接池最大使用連接數量 -->
        <property name="maxActive" value="20" />
        <!-- 連接池最大空閑 -->
        <property name="maxIdle" value="20" />
        <!-- 連接池最小空閑 -->
        <property name="minIdle" value="0" />
        <!-- 獲取連接最大等待時間 -->
        <property name="maxWait" value="60000" />
    </bean>    
    <!-- 配置數據源Slave -->
    <bean name="dataSourceSlave" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
        <property name="url" value="${jdbc_url_slave}" />
        <property name="username" value="${jdbc_username_slave}" />
        <property name="password" value="${jdbc_password_slave}" />
        <!-- 初始化連接大小 -->
        <property name="initialSize" value="0" />
        <!-- 連接池最大使用連接數量 -->
        <property name="maxActive" value="20" />
        <!-- 連接池最大空閑 -->
        <property name="maxIdle" value="20" />
        <!-- 連接池最小空閑 -->
        <property name="minIdle" value="0" />
        <!-- 獲取連接最大等待時間 -->
        <property name="maxWait" value="60000" />
    </bean>    
    <bean id="dataSource" class="net.aazj.util.ThreadLocalRountingDataSource">
        <property name="defaultTargetDataSource" ref="dataSourceMaster" />
        <property name="targetDataSources">
            <map key-type="net.aazj.enums.DataSources">
                <entry key="MASTER" value-ref="dataSourceMaster"/>
                <entry key="SLAVE" value-ref="dataSourceSlave"/>
                <!-- 這裡還可以加多個dataSource -->
            </map>
        </property>
    </bean>    
    <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
      <property name="dataSource" ref="dataSource" />
      <property name="configLocation" value="classpath:config/mybatis-config.xml" />
      <property name="mapperLocations" value="classpath*:config/mappers/**/*.xml" />
    </bean>    
    <!-- Transaction manager for a single JDBC DataSource -->
    <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
        <property name="dataSource" ref="dataSource" />
    </bean>    
    <!-- 使用annotation定義事務 -->
    <tx:annotation-driven transaction-manager="transactionManager" /> 
    <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
      <property name="basePackage" value="net.aazj.mapper" />
      <!-- <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/> -->
    </bean>        
複製代碼

上面spring的配置文件中,我們針對master資料庫和slave資料庫分別定義了dataSourceMaster和dataSourceSlave兩個dataSource,然後註入到<bean id="dataSource"class="net.aazj.util.ThreadLocalRountingDataSource"> 中,這樣我們的dataSource就可以來根據 key 的不同來選擇dataSourceMaster和 dataSourceSlave了。

5)使用Spring AOP 來指定 dataSource 的 key ,從而dataSource會根據key選擇 dataSourceMaster 和 dataSourceSlave:

複製代碼
package net.aazj.aop;

import net.aazj.enums.DataSources;
import net.aazj.util.DataSourceTypeManager;

import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Before;
import org.aspectj.lang.annotation.Pointcut;
import org.springframework.stereotype.Component;

@Aspect    // for aop
@Component // for auto scan
@Order(0)  // execute before @Transactional public class DataSourceInterceptor { @Pointcut("execution(public * net.aazj.service..*.getUser(..))") public void dataSourceSlave(){}; @Before("dataSourceSlave()") public void before(JoinPoint jp) { DataSourceTypeManager.set(DataSources.SLAVE); }
// ... ... }
複製代碼

這裡我們定義了一個 Aspect 類,我們使用 @Before 來在符合 @Pointcut("execution(public * net.aazj.service..*.getUser(..))") 中的方法被調用之前,調用DataSourceTypeManager.set(DataSources.SLAVE) 設置了 key 的類型為 DataSources.SLAVE,所以 dataSource 會根據key=DataSources.SLAVE 選擇 dataSourceSlave 這個dataSource。所以該方法對於的sql語句會在slave資料庫上執行(經網友老劉1987提醒,這裡存在多個Aspect之間的一個執行順序的問題,必須保證切換數據源的Aspect必須在@Transactional這個Aspect之前執行,所以這裡使用了@Order(0)來保證切換數據源先於@Transactional執行)。

我們可以不斷的擴充 DataSourceInterceptor  這個 Aspect,在中進行各種各樣的定義,來為某個service的某個方法指定合適的數據源對應的dataSource。

這樣我們就可以使用 Spring AOP 的強大功能來,十分靈活進行配置了。

6)AbstractRoutingDataSource原理剖析

ThreadLocalRountingDataSource繼承了AbstractRoutingDataSource,實現其抽象方法protected abstract Object determineCurrentLookupKey(); 從而實現對不同數據源的路由功能。我們從源碼入手分析下其中原理:

public abstract class AbstractRoutingDataSource extends AbstractDataSource implements InitializingBean
AbstractRoutingDataSource 實現了 InitializingBean 那麼spring在初始化該bean時,會調用InitializingBean的介面
void afterPropertiesSet() throws Exception; 我們看下AbstractRoutingDataSource是如何實現這個介面的:
複製代碼
    @Override
    public void afterPropertiesSet() {
        if (this.targetDataSources == null) {
            throw new IllegalArgumentException("Property 'targetDataSources' is required");
        }
        this.resolvedDataSources = new HashMap<Object, DataSource>(this.targetDataSources.size());
        for (Map.Entry<Object, Object> entry : this.targetDataSources.entrySet()) {
            Object lookupKey = resolveSpecifiedLookupKey(entry.getKey());
            DataSource dataSource = resolveSpecifiedDataSource(entry.getValue());
            this.resolvedDataSources.put(lookupKey, dataSource);
        }
        if (this.defaultTargetDataSource != null) {
            this.resolvedDefaultDataSource = resolveSpecifiedDataSource(this.defaultTargetDataSource);
        }
    }
複製代碼
targetDataSources 是我們在xml配置文件中註入的 dataSourceMaster 和 dataSourceSlave. afterPropertiesSet方法就是使用註入的
dataSourceMaster 和 dataSourceSlave來構造一個HashMap——resolvedDataSources。方便後面根據 key 從該map 中取得對應的dataSource
我們在看下 AbstractDataSource 介面中的 Connection getConnection() throws SQLException; 是如何實現的:
    @Override
    public Connection getConnection() throws SQLException {
        return determineTargetDataSource().getConnection();
    }

關鍵在於 determineTargetDataSource(),根據方法名就可以看出,應該此處就決定了使用哪個 dataSource :

複製代碼
    protected DataSource determineTargetDataSource() {
        Assert.notNull(this.resolvedDataSources, "DataSource router not initialized");
        Object lookupKey = determineCurrentLookupKey();
        DataSource dataSource = this.resolvedDataSources.get(lookupKey);
        if (dataSource == null && (this.lenientFallback || lookupKey == null)) {
            dataSource = this.resolvedDefaultDataSource;
        }
        if (dataSource == null) {
            throw new IllegalStateException("Cannot determine target DataSource for lookup key [" + lookupKey + "]");
        }
        return dataSource;
    }
複製代碼
Object lookupKey = determineCurrentLookupKey(); 該方法是我們實現的,在其中獲取ThreadLocal中保存的 key 值。獲得了key之後,
在從afterPropertiesSet()中初始化好了的resolvedDataSources這個map中獲得key對應的dataSource。而ThreadLocal中保存的 key 值
是通過AOP的方式在調用service中相關方法之前設置好的。OK,到此搞定!

7)擴展 ThreadLocalRountingDataSource

上面我們只是實現了 master-slave 數據源的選擇。如果有多台 master 或者有多台 slave。多台master組成一個HA,要實現當其中一臺master掛了是,自動切換到另一臺master,這個功能可以使用LVS/Keepalived來實現,也可以通過進一步擴展ThreadLocalRountingDataSource來實現,可以另外加一個線程專門來每個一秒來測試mysql是否正常來實現。同樣對於多台slave之間要實現負載均衡,同時當一臺slave掛了時,要實現將其從負載均衡中去除掉,這個功能既可以使用LVS/Keepalived來實現,同樣也可以通過近一步擴展ThreadLocalRountingDataSource來實現。

3. 總結

從本文中我們可以體會到AOP的強大和靈活。

本文使用的是mybatis,其實使用Hibernate也應該是相似的配置。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 由於項目升級到了.NetFramework 4.6.1,開發工具轉向了vs2015,趁機嘗試下C#6.0.結果在網上搜的一些教程總結的不是太完整,有的代碼隨著vs正式版的發佈也有所修改.那些個教程也沒更新.所以把自己學習到的記錄一下. 1.自動屬性初始化(Auto-property initiali ...
  • 生日悖論,指如果一個房間里有23個或23個以上的人,那麼至少有兩個人的生日相同的概率要大於50%,準確的說是50.7左右,這就意味著在一個典型的標準小學班級(30人)中,存在兩人生日相同的可能性更高。對於60或者更多的人,這種概率要大於99%。從引起邏輯矛盾的角度來說生日悖論並不是一種悖論,從這個數 ...
  • 使用spring的jdbcTemplate 使用具名參數 在JDBC用法中,SQL參數是用占位符?表示,並且受到位置的限制,定位參數的問題在於,一旦參數的位置發生變化,必須改變參數的綁定,在Spring JDBC中,綁定SQL參數的另一種選擇是使用具名參數,SQL具名參數是按照名稱綁定,而不是位置綁 ...
  • refresh用於刷新與跳轉(重定向)頁面 refresh出現在http-equiv屬性中,使用content屬性表示刷新或跳轉的開始時間與跳轉的網址 refresh示例 5秒之後刷新本頁面: <meta http-equiv="refresh" content="5"/> 5秒之後轉到夢之都首頁: ...
  • Spark作為分散式的大數據處理框架必然或涉及到大量的作業調度,如果能夠理解Spark中的調度對我們編寫或優化Spark程式都是有很大幫助的; 在Spark中存在 轉換操作(Transformation Operation) 與 行動操作(Action Operation) 兩種;而轉換操作只是會從 ...
  • l 時間為種子。白色格子10%概率生成。綠色和紅色子塊的坐標隨機生成。 srand((unsigned)time(NULL)); //以時間為隨機種子 for(i=1;i<=size;i++) { for(j=1;j<=size;j++) { if(1==rand()%10) //10%摡率達成 g ...
  • 項目結構: 添加頁面: 說明:這裡只註重操作,對界面的美工沒有下工夫,希望大家理解...... 列表頁面: 修改頁面: 項目中所需的sql: conn.php add.php list.php delete.php preEdit.php postEdit.php ...
  • C++準確說是一門中級語言,介於彙編和高級語言之間吧,要求程式員瞭解電腦的內部數據存儲。個人認為,作為學生還是花功夫學C++,因為《設計模式》《數據結構》這些課程基本上還是C++應付的比較好(我的切身體會),學習 C++,認真閱讀c++ primer,而後配合 The ADAPTIVE Commu ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...