資料庫中間件-ShardingSphere-Proxy(一)

来源:https://www.cnblogs.com/yuxl01/archive/2022/03/27/16063976.html
-Advertisement-
Play Games

1.現實中的問題 我們知道資料庫的數據,基本80%的業務是查詢,20%的業務涵蓋了增刪改,經過長期的業務變更和積累資料庫的數據到達了一定的數量之後,直接影響的是用戶與系統的交互,查詢時的速度,插入數據時的流暢度,系統的可用性,這些指標對用戶體驗都是會有影響的,不說用戶,你自己用是什麼感覺?我經歷過且 ...


1.現實中的問題

我們知道資料庫的數據,基本80%的業務是查詢,20%的業務涵蓋了增刪改,經過長期的業務變更和積累資料庫的數據到達了一定的數量之後,直接影響的是用戶與系統的交互,查詢時的速度,插入數據時的流暢度,系統的可用性,這些指標對用戶體驗都是會有影響的,不說用戶,你自己用是什麼感覺?我經歷過且常見的無非以下幾個解決方案,從用戶,代碼,資料庫,不知道有沒有人跟我有相似的經歷

1.最簡單粗暴的就是從用戶下手,也就是通過業務的手段來約束,限定查詢時間,限定查詢條件,大批量需要申請後臺工程師導出,不是說對這些方法嗤之以鼻,在某些場景下這樣也是不錯的方法.

2.檢查代碼,查詢語句什麼的能優化的做下優化,這一點確實也是比較關鍵的,再好的架構和伺服器,也頂不住遞歸死迴圈查詢這些.

3.結合一些資料庫監控工具或者對常用查詢的表,做一些資料庫基本的屬性設定,例如資料庫加索引,分分區.

雖然確實可以使用這些技術手段來提升本身的查詢速度,但是達到一定量級,這些手段得到的改善也不是很大,因為數據的量是實實在在的存在,假設此時加上併發量的增大,資料庫引擎在查詢或者計算時,使用的是伺服器的CPU和記憶體,當資源消耗過高時,直接降低系統可用性,往往這個時候就需要通過整體業務上的變通或者技術架構的轉換上來著手解決問題了。
然而現實中業務上的改變,可能在落實上會存在很大的問題,但是可以從技術架構上來嘗試解決,主要在代碼整體架構或者資料庫存儲架構解決了,我們主要介紹數據架構層面的方案。

1.分庫
  • 在水平分庫中,就是將資料庫中的表,存到不同的資料庫,但是不同庫的表數量和結構是一樣的,只是每個庫的數據都不一樣,沒有交集,庫的並集是全量數據

  • 在垂直分庫中,以表為依據,按照業務歸屬不同,將不同的表拆分到不同的庫中,不同的庫存儲的可能是不同的表,庫的並集是全量數據

2.分表
  • 水平分表就是將一張表分為多張表,表的結構都一樣,每個表的數據都不一樣,沒有交集,所有表的並集是全量數據;

  • 垂直分表將一張表欄位拆分為不同的表,合併起來就是整個全量數據,但是這種可以歸屬於設計之初的設計缺陷

雖然使用分庫分表可以一定程度解決上面所說的問題,但是分了之後也有可能再變大,總不能一直無腦拆分下去把,此時應該使用讀寫分離,也就是說讀寫分離應該是在分庫分表的基礎之上來實施的。

2.什麼是ShardingSphere-Proxy?

ShardingSphere中一共有3個核心組件 ShardingSphere-JDBC 定位是一個Java的框架 、ShardingSphere-ProxyShardingSphere-Sidecar 還在開發中,我們主要介紹ShardingSphere-Proxy和ShardingSphere-Proxy的實際應用。

ShardingSphere-Proxy定位為透明化的資料庫代理端,提供封裝了資料庫二進位協議的服務端版本,用於完成對異構語言的支持,主要目的對資料庫實現分庫分表和讀寫分離,應用場景不管是傳統的單體項目,或者現有流行的微服務項目中都可以使用,但是目前只支持 MySQL 和 PostgreSQL , 它在整個系統架構中定位是一個資料庫中間件

在這裡我們選擇使用ShardingSphere-Proxy中間件,來作為我們實現分庫分表的工具,寫這個的目的主要是記錄ShardingSphere-Proxy的使用和一些基本的概念,至於說具體分成什麼樣,如果您只想知道到底是分表,還是分庫,又或者是分庫分表,我可能幫不了什麼,但是您可以按照現在所困擾的問題展開分析,然後使用ShardingSphere-Proxy落地。

3.分庫分表方案

實現分庫分表的方案根據不同的需求可能會延伸出很多,但是我們在邏輯上抽象出2種,一種是進程內和業務系統集成,一種是拆分出分庫分表作為獨立進程

1.進程內方案

進程內的方案通常是將分庫分表實現業務放到系統內部,通常存在以下缺陷

  • 1.系統和分庫分表會存在資源競爭

  • 2.一個異常的話,另外一個也會異常,依賴性太強。

  • 3.無法適應異構,對其他語言的支持

2.進程外方案

進程外方案將分庫分表邏輯拆分,使用單獨的工具實現客戶端將請求發送到系統, 系統通過資料庫中間件在內部進行分庫分表邏輯,然後存儲資料庫,通常存在以下缺陷

  • 1.維護量上升

  • 2.相對進程內,性能會差一點,但是如果內網部署基本可以接受

4.ShardingSphere-Proxy基本概念

使用ShardingSphere-Proxy在進行實現分庫分表或者查詢時,主要有6個階段,這整個階段中的核心步驟是由中間件來實現的。

  • 1.選擇具體資料庫

  • 2.sql解析將中間件連接成為真實資料庫連接

  • 3.sql路由,選擇一個真實資料庫執行

  • 4.sql重寫優化

  • 5.sql執行真實資料庫獲取結果

  • 6.結果合併從多個表或者庫中獲取結果

用戶主要是針對路由規則的配置,實現將數據分片到不同表以及不同的庫,那我們應該思考如何對數據進行分片呢,需要哪些條件?

  • 1.分片鍵:數據表中的欄位,選擇以哪個欄位作為分片的條件。

  • 2.分片演算法:它的作用就是根據分片數據欄位如何去實現數據的分片。

5.項目環境及搭建

ShardingSphere-Proxy是由java開發,所以首先我們需要準備java的基本環境。

1.環境準備
6.分庫分表配置
1.ShardingSphere-Proxy 分表

1.以數據採集資料庫的電源信息數據表為例,如果沒有資料庫就創建資料庫

2.在ShardingSphere-Proxy中的conf下找到config-sharding.yaml配置文件進行配置

3.在config-sharding.yaml中配置資料庫連接

dataSources:
  dataacquisitionsources_0:
    url: jdbc:mysql://localhost:3306/dataacquisition?serverTimezone=UTC&useSSL=false
    username: root
    password: 123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1

4.配置表和數據的分片規則,我們這裡選擇取模分表

    1. actualDataNodes節點用來配置分成幾張表{0..1}就是2張,如果配置10張那就{0..9}
    1. 如果多張表分表就使用多個邏輯表名和節點,註意一定要註意配置格式
rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: id #分表欄位
          shardingAlgorithmName: powerinformation_MOD
  shardingAlgorithms: #取模分表演算法
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2

5.配置客戶端連接虛擬資料庫,一般和真實庫名對應

schemaName: dataacquisition

6.打開配置目錄的server.yaml配置文件,來設置虛擬伺服器用戶和密碼

rules:
  - !AUTHORITY
    users:
      - root@%:root
      - sharding@:sharding
    provider:
      type: ALL_PRIVILEGES_PERMITTED

7.啟動bin目錄下的start.bat,如果出現以下畫面,那麼恭喜你中間件被成功配置

8.使用客戶端連接虛擬伺服器3307埠

9.執行腳本在虛擬伺服器上創建表結構,那麼中間件會預設按照預定的規則分表


create table powerinformation
(
 id int not null  AUTO_INCREMENT PRIMARY key,
 connectionId int(11),
 Station Text,
 voltage DECIMAL,
 resistance DECIMAL,
 electricity DECIMAL,
 createDate DATETIME
)
COLLATE='utf8_general_ci'
ENGINE=InnoDB
AUTO_INCREMENT=2
;

10.打開客戶端查看真實庫已經分表成功

2.ShardingSphere-Proxy 分庫

1.創建2個資料庫分別取名為dataacquisition_0和dataacquisition_1

2.打開配置文件,對代理配置不同資料庫連接

dataSources:
  dataacquisitionsources_0:
    url: jdbc:mysql://127.0.0.1:3306/dataacquisition_0?serverTimezone=UTC&useSSL=false #連接庫0
    username: root
    password: sa@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1
  dataacquisitionsources_1:
    url: jdbc:mysql://127.0.0.1:3306/dataacquisition_1?serverTimezone=UTC&useSSL=false #連接庫1
    username: root
    password: sa@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
    minPoolSize: 1  

3.配置分庫規則,由於現在是2個不同的庫,所以不需要配置數據分到表的規則

rules:
- !SHARDING
  tables:
    powerinformation:
      actualDataNodes: dataacquisitionsources_${0..1}.powerinformation  #庫名錶達式
      databaseStrategy: #數據分庫策略
          standard:
            shardingColumn: id
            shardingAlgorithmName: powerinformation_MOD      #分庫選擇取模分庫
  shardingAlgorithms: #取模演算法
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2

4.在虛擬庫中添加表和數據將會分配到2個不同的庫

3.ShardingSphere-Proxy 分庫分表

1.按照分庫的操作執行,分庫配置不變
2.配置文件配置分庫分表的規則

rules:
- !SHARDING
  tables:
    powerinformation:
      actualDataNodes: dataacquisitionsources_${0..1}.powerinformation_${0..1}
      tableStrategy:
        standard:
          shardingColumn: id
          shardingAlgorithmName: powerinformation_MOD
      databaseStrategy:
          standard:
            shardingColumn: id
            shardingAlgorithmName: powerinformation_MOD     
  shardingAlgorithms:
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2
7.分表演算法分析實踐
1.取模分表(雪花演算法)

1.採集表powerinformation使用Id作為自增主鍵,如果通過ShardingSphere-Proxy代理添加採集數據,數據會添加到powerinformation_0和powerinformation_1中,這個時候真實的業務表中會出現主鍵重覆的現象,我們可以使用GUID或者使用ShardingSphere-Proxy中間件自帶的雪花演算法來解決主鍵衝突問題。

2.在config-sharding.yaml配置文件的分片規則中配置雪花演算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: connectionId #分表欄位
          shardingAlgorithmName: powerinformation_MOD
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花演算法
  shardingAlgorithms:
    powerinformation_MOD:
      type: MOD
      props:
        sharding-count: 2
  keyGenerators:
    snowflake:  #演算法名
      type: SNOWFLAKE
      props:
        worker-id: 123

3.修改創建表欄位id為char類型,如果使用int因為雪花id太長,就會有問題

create table powerinformation
(
 id CHAR(100) not null   PRIMARY key,
 connectionId int(11),
 Station Text,
 voltage DECIMAL,
 resistance DECIMAL,
 electricity DECIMAL,
 createDate DATETIME
)
COLLATE='utf8_general_ci'
ENGINE=InnoDB
AUTO_INCREMENT=2
;
;
2.取模分表(分散式事務)

1.採集表powerinformation,如果通過ShardingSphere-Proxy代理添加採集數據,數據會添加到powerinformation_0和powerinformation_1中,這個時候單筆數據依次添加是沒有問題的,但是如果批量添加數據到2個表中,如果powerinformation_0成功了,powerinformation_1失敗了,會導致數據不一致。此時我們應該使用分散式事務

2.在server.yaml配置分散式事務

rules:
  - !AUTHORITY
    users:
      - root@%:root
      - sharding@:sharding
    provider:
      type: ALL_PRIVILEGES_PERMITTED
  - !TRANSACTION
    defaultType: XA
    providerType: Atomikos
3.字元串分表

1.採集表使用Id作為自增主鍵,如果在虛擬代理中添加數據,數據會添加到powerinformation_0和powerinformation_1中,我們使用的是powerinformation_Id作為分片鍵進行數據分片,這個時候如果使用取模分表會出現一些相同採集點的數據添加到不同數據表,查詢的時候,我想查看某一個採集點的數據,會涉及到多個表,導致性能下降,應對這種業務場景我們需要使用字元串分表

2.在config-sharding.yaml配置文件的分片規則中配置字元串分表,並且使用hash分表演算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: Station #分表欄位
          shardingAlgorithmName: powerinformation_MOD
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花演算法
  shardingAlgorithms:
    powerinformation_MOD: #配置字元串hash 演算法名
      type: HASH_MOD #使用hash演算法
      props:
        sharding-count: '2'
  keyGenerators:
    snowflake:  #演算法名
      type: SNOWFLAKE
      props:
        worker-id: 123
4.範圍分表

1.我們使用的是基於powerinformation_Id作為分片鍵進行數據分片,這個時候,會出現Id分散到的不同表中,如果進行分頁查詢就涉及連表,導致查詢性能問題,我們可以將分表模式改為範圍分表,將連續的數據存在一個表。

2.在config-sharding.yaml配置文件的分片規則中配置範圍分表,並且使用範圍分表演算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: powerinformation_Id #分表欄位
          shardingAlgorithmName: powerinformation_BOUNDARY_RANGE
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花演算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash演算法名
      type: HASH_MOD #使用hash演算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置範圍演算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 100,200,300,400
  keyGenerators:
    snowflake:  #演算法名
      type: SNOWFLAKE
      props:
        worker-id: 123
5.固定容量分表

1.使用範圍分表會導致最後一張表數據是最多的,隨著推移和數據量增大,依然會有查詢性能問題,所以我們需要設定當達到指定容量後進行分表

2.在config-sharding.yaml配置文件的分片規則中配置範圍分表,並且使用範圍分表演算法,下麵舉例為200萬條數據以下存在表0,大於200萬之後的是表2,最大是400萬數據

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: powerinformation_Id #分表欄位
          shardingAlgorithmName: powerinformation_VOLUME_RANGE #使用固定容量
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花演算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash演算法名
      type: HASH_MOD #使用hash演算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置範圍演算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 2
    powerinformation_VOLUME_RANGE: #配置容量演算法名
      type: VOLUME_RANGE @使用容量
      props:
        range-lower: '2000000'
        range-upper: '4000000'
        # 分片的區間的數據的間隔
        sharding-volume: '2000000'
  keyGenerators:
    snowflake:  #演算法名
      type: SNOWFLAKE
      props:
        worker-id: 123
6.時間分表

1.在現實中如果我想按照一年或者一個月一個表存儲採集數據,ShardingSphere-Proxy也提供了相應的演算法配置方式。

2.配置文件config-sharding.yaml中
2.在config-sharding.yaml配置文件的分片規則中配置範圍分表,並且使用範圍分表演算法

rules:
- !SHARDING
  tables:
    powerinformation:# 邏輯表名
      actualDataNodes: dataacquisitionsources_0.powerinformation_${0..1} #分表
      tableStrategy: #數據分表策略
        standard:
          shardingColumn: createDate #分表欄位
          shardingAlgorithmName: powerinformation_AUTO_INTERVAL #使用時間範圍定容量
      keyGenerateStrategy: #配置主鍵生成的策略
        column: Id  #主鍵名稱
        keyGeneratorName: snowflake  #使用雪花演算法
  shardingAlgorithms:
    powerinformation_MOD: #配置hash演算法名
      type: HASH_MOD #使用hash演算法
      props:
        sharding-count: '2'
    powerinformation_BOUNDARY_RANGE: #配置範圍演算法名
      type: BOUNDARY_RANGE
      props:
        sharding-ranges: 2
    powerinformation_VOLUME_RANGE: #配置容量演算法名
      type: VOLUME_RANGE @使用容量
      props:
        range-lower: '5'
        range-upper: '10'
        # 分片的區間的數據的間隔
        sharding-volume: '5'
    powerinformation_AUTO_INTERVAL:
        type: AUTO_INTERVAL
        props:
          datetime-lower: '2022-01-01 23:59:59'
          datetime-upper: '2023-01-01 23:59:59'
          # 以1年度為單位進行劃分
          sharding-seconds: '31536000'  
          # 以1個月為單位進行劃分
          #sharding-seconds: '2678400'   
          # 以1天為單位進行劃分
          #sharding-seconds: '86400'
  keyGenerators:
    snowflake:  #演算法名
      type: SNOWFLAKE
      props:
        worker-id: 123
8.搭建以及常見問題

1.由於是yaml文件,一定要註意對應節點的格式對齊

2.建議使用大於等於5.0.0+版本 折騰4.0.0版本被噁心吐了

3.如果出現 near 0這種錯誤就是在配置中使用了特殊符號 建議使用 下劃線的"_"

4.ShardingSphere-Proxy 預設使用 3307 埠,可以通過啟動腳本追加參數作為啟動埠號。如: bin/start.sh 3308

4.分表後插入數據出現錯誤,說明分表欄位錯誤,但是插入前就需要分片,這個時候沒有數據,因為id為主鍵,應該不用id分片


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 目錄 一.簡介 二.效果演示 三.源碼下載 四.猜你喜歡 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 基礎 零基礎 OpenGL (ES) 學習路線推薦 : OpenGL (ES) 學習目錄 >> OpenGL ES 轉場 零基礎 O ...
  • 另有一篇我的字元編碼本質入門的文章見這裡:https://www.cnblogs.com/uncleguo/p/16008551.html 實話說,作為一個多年Java老年程式員,直到近來,在沒有決心花時間搞清楚Java String的編碼相關問題之前, 自己也都還是似懂非懂,一臉懵逼的。設想如果在 ...
  • 一、前言 好想看電視啊!!沒有會員,怎麼辦啊?想線上觀看或下載愛奇藝、PPTV、優酷、網易公開課、騰訊視頻、搜狐視頻、樂視、土豆、A站、B站等主流視頻網站的VIP視頻?又不想充會員怎麼辦?今天給你分享Python小技巧,實現你的VIP看電視的夢想。 PS:本軟體只用來交流學習,請勿用於商業用途。如涉 ...
  • 要求:通過 jQuery 優化網站源代碼中的發送 Ajax 請求部分 ...
  • Java課程的第三周作業,重點考察了異常的處理,其中第9題比較有意思,是對自定義異常類的繼承問題。 ...
  • 相信有很多朋友還是喜歡買基金的,今天剛好有時間就給大家來一個基金的。雖然暴富不可能,但是對於理財方面還是有所幫助的。代碼就放在下麵了。 爬蟲常規思路: 1.分析網頁2.對網頁發送請求,獲取響應3.提取解析數據4.保存數據 Python版本:3.6.5 import requests import t ...
  • 寒假老師讓用java做個系統,什麼圖書管理啦,什麼超市管理系統。 其他同學都是專門弄個輸入框才能輸入、修改內容,我覺得很傻,想直接在結果表內修改結果,添加新內容。網上搜了好久也沒解決。 網上的解決方法也很僵硬,沒法做到這個功能。我也不知道怎麼弄,研究了將近一星期,終於折騰出來了: public cl ...
  • 在我們實際業務開發中,從頭開發一個應用系統,不管是基於BS的前端項目,還是基於Winform的CS應用系統,都是由容易到複雜,逐步演化的一個開發過程,如果我們基於一定基礎上,並配合一些配套的開發工具,那麼這個應用系統的開發就會變得容易很多,畢竟現在每一個應用系統都是要求要五臟俱全的系統,不僅要長得漂... ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...