MySQL資料庫設計規範 目錄 1. 規範背景與目的 MySQL資料庫與 Oracle、 SQL Server 等資料庫相比,有其內核上的優勢與劣勢。我們在使用MySQL資料庫的時候需要遵循一定規範,揚長避短。本規範旨在幫助或指導RD、QA、OP等技術人員做出適合線上業務的資料庫設計。在資料庫變更和 ...
MySQL資料庫設計規範
目錄
1. 規範背景與目的
2. 設計規範
2.1 資料庫設計
2.1.1 庫名
2.1.2 表結構
2.1.3 列數據類型優化
2.1.4 索引設計
2.1.5 分庫分表、分區表
2.1.6 字元集
2.1.7 程式DAO層設計建議
2.1.8 一個規範的建表語句示例
2.2 SQL編寫
2.2.1 DML語句
2.2.2 多表連接
2.2.3 事務
2.2.4 排序和分組
2.2.5 線上禁止使用的SQL語句
1. 規範背景與目的
MySQL資料庫與 Oracle、 SQL Server 等資料庫相比,有其內核上的優勢與劣勢。我們在使用MySQL資料庫的時候需要遵循一定規範,揚長避短。本規範旨在幫助或指導RD、QA、OP等技術人員做出適合線上業務的資料庫設計。在資料庫變更和處理流程、資料庫表設計、SQL編寫等方面予以規範,從而為公司業務系統穩定、健康地運行提供保障。
2. 設計規範
2.1 資料庫設計
以下所有規範會按照【高危】、【強制】、【建議】三個級別進行標註,遵守優先順序從高到低。
對於不滿足【高危】和【強制】兩個級別的設計,DBA會強制打回要求修改。
2.1.1 庫名
- 【強制】庫的名稱必須控制在32個字元以內,相關模塊的表名與表名之間儘量提現join的關係,如user表和user_login表。
- 【強制】庫的名稱格式:業務系統名稱_子系統名,同一模塊使用的表名儘量使用統一首碼。
- 【強制】一般分庫名稱命名格式是
庫通配名_編號
,編號從0開始遞增,比如wenda_001
以時間進行分庫的名稱格式是“庫通配名_時間” - 【強制】創建資料庫時必須顯式指定字元集,並且字元集只能是utf8或者utf8mb4。創建資料庫SQL舉例:
create database db1 default character set utf8;
。
2.1.2 表結構
- 【強制】表和列的名稱必須控制在32個字元以內,表名只能使用字母、數字和下劃線,一律小寫。
- 【強制】表名要求模塊名強相關,如師資系統採用”sz”作為首碼,渠道系統採用”qd”作為首碼等。
- 【強制】創建表時必須顯式指定字元集為utf8或utf8mb4。
- 【強制】創建表時必須顯式指定表存儲引擎類型,如無特殊需求,一律為InnoDB。當需要使用除InnoDB/MyISAM/Memory以外的存儲引擎時,必須通過DBA審核才能在生產環境中使用。因為Innodb表支持事務、行鎖、宕機恢復、MVCC等關係型資料庫重要特性,為業界使用最多的MySQL存儲引擎。而這是其他大多數存儲引擎不具備的,因此首推InnoDB。
- 【強制】建表必須有comment
- 【建議】建表時關於主鍵:(1)強制要求主鍵為id,類型為int或bigint,且為
auto_increment(2)
標識表裡每一行主體的欄位不要設為主鍵,建議設為其他欄位如user_id
,order_id
等,並建立unique key索引(可參考cdb.teacher
表設計)。因為如果設為主鍵且主鍵值為隨機插入,則會導致innodb內部page分裂和大量隨機I/O,性能下降。 - 【建議】核心表(如用戶表,金錢相關的表)必須有行數據的創建時間欄位
create_time
和最後更新時間欄位update_time
,便於查問題。 - 【建議】表中所有欄位必須都是
NOT NULL
屬性,業務可以根據需要定義DEFAULT
值。因為使用NULL值會存在每一行都會占用額外存儲空間、數據遷移容易出錯、聚合函數計算結果偏差等問題。 - 【建議】建議對錶里的
blob
、text
等大欄位,垂直拆分到其他表裡,僅在需要讀這些對象的時候才去select。 - 【建議】反範式設計:把經常需要join查詢的欄位,在其他表裡冗餘一份。如
user_name
屬性在user_account
,user_login_log
等表裡冗餘一份,減少join查詢。 - 【強制】中間表用於保留中間結果集,名稱必須以
tmp_
開頭。備份表用於備份或抓取源表快照,名稱必須以bak_
開頭。中間表和備份表定期清理。 - 【強制】對於超過100W行的大表進行
alter table
,必須經過DBA審核,併在業務低峰期執行。因為alter table
會產生表鎖,期間阻塞對於該表的所有寫入,對於業務可能會產生極大影響。
2.1.3 列數據類型優化
- 【建議】表中的自增列(
auto_increment
屬性),推薦使用bigint
類型。因為無符號int
存儲範圍為-2147483648~2147483647
(大約21億左右),溢出後會導致報錯。 - 【建議】業務中選擇性很少的狀態
status
、類型type
等欄位推薦使用tinytint
或者smallint
類型節省存儲空間。 - 【建議】業務中IP地址欄位推薦使用
int
類型,不推薦用char(15)
。因為int
只占4位元組,可以用如下函數相互轉換,而char(15)
占用至少15位元組。一旦表數據行數到了1億,那麼要多用1.1G存儲空間。 SQL:select inet_aton('192.168.2.12'); select inet_ntoa(3232236044);
PHP:ip2long(‘192.168.2.12’); long2ip(3530427185);
- 【建議】不推薦使用
enum
,set
。 因為它們浪費空間,且枚舉值寫死了,變更不方便。推薦使用tinyint
或smallint
。 - 【建議】不推薦使用
blob
,text
等類型。它們都比較浪費硬碟和記憶體空間。在載入表數據時,會讀取大欄位到記憶體里從而浪費記憶體空間,影響系統性能。建議和PM、RD溝通,是否真的需要這麼大欄位。Innodb中當一行記錄超過8098位元組時,會將該記錄中選取最長的一個欄位將其768位元組放在原始page里,該欄位餘下內容放在overflow-page
里。不幸的是在compact
行格式下,原始page
和overflow-page
都會載入。 - 【建議】存儲金錢的欄位,建議用
int
,程式端乘以100和除以100進行存取。因為int
占用4位元組,而double
占用8位元組,空間浪費。 - 【建議】文本數據儘量用
varchar
存儲。因為varchar
是變長存儲,比char
更省空間。MySQL server層規定一行所有文本最多存65535位元組,因此在utf8字元集下最多存21844個字元,超過會自動轉換為mediumtext
欄位。而text
在utf8字元集下最多存21844個字元,mediumtext
最多存2^24/3個字元,longtext
最多存2^32個字元。一般建議用varchar
類型,字元數不要超過2700。 - 【建議】時間類型儘量選取
timestamp
。因為datetime
占用8位元組,timestamp
僅占用4位元組,但是範圍為1970-01-01 00:00:01
到2038-01-01 00:00:00
。更為高階的方法,選用int
來存儲時間,使用SQL函數unix_timestamp()
和from_unixtime()
來進行轉換。
詳細存儲大小參加下圖:
2.1.4 索引設計
- 【強制】InnoDB表必須主鍵為
id int/bigint auto_increment
,且主鍵值禁止被更新。 - 【建議】主鍵的名稱以“
pk_
”開頭,唯一鍵以“uk_
”或“uq_
”開頭,普通索引以“idx_
”開頭,一律使用小寫格式,以表名/欄位的名稱或縮寫作為尾碼。 - 【強制】InnoDB和MyISAM存儲引擎表,索引類型必須為
BTREE
;MEMORY表可以根據需要選擇HASH
或者BTREE
類型索引。 - 【強制】單個索引中每個索引記錄的長度不能超過64KB。
- 【建議】單個表上的索引個數不能超過7個。
- 【建議】在建立索引時,多考慮建立聯合索引,並把區分度最高的欄位放在最前面。如列
userid
的區分度可由select count(distinct userid)
計算出來。 - 【建議】在多表join的SQL里,保證被驅動表的連接列上有索引,這樣join執行效率最高。
- 【建議】建表或加索引時,保證表裡互相不存在冗餘索引。對於MySQL來說,如果表裡已經存在
key(a,b)
,則key(a)
為冗餘索引,需要刪除。
2.1.5 分庫分表、分區表
- 【強制】分區表的分區欄位(
partition-key
)必須有索引,或者是組合索引的首列。 - 【強制】單個分區表中的分區(包括子分區)個數不能超過1024。
- 【強制】上線前RD或者DBA必須指定分區表的創建、清理策略。
- 【強制】訪問分區表的SQL必須包含分區鍵。
- 【建議】單個分區文件不超過2G,總大小不超過50G。建議總分區數不超過20個。
- 【強制】對於分區表執行
alter table
操作,必須在業務低峰期執行。 - 【強制】採用分庫策略的,庫的數量不能超過1024
- 【強制】採用分表策略的,表的數量不能超過4096
- 【建議】單個分表不超過500W行,ibd文件大小不超過2G,這樣才能讓數據分散式變得性能更佳。
- 【建議】水平分表儘量用取模方式,日誌、報表類數據建議採用日期進行分表。
2.1.6 字元集
- 【強制】資料庫本身庫、表、列所有字元集必須保持一致,為
utf8
或utf8mb4
。 - 【強制】前端程式字元集或者環境變數中的字元集,與資料庫、表的字元集必須一致,統一為
utf8
。
2.1.7 程式層DAO設計建議
- 【建議】新的代碼不要用model,推薦使用手動拼SQL+綁定變數傳入參數的方式。因為model雖然可以使用面向對象的方式操作db,但是其使用不當很容易造成生成的SQL非常複雜,且model層自己做的強制類型轉換性能較差,最終導致資料庫性能下降。
- 【建議】前端程式連接MySQL或者redis,必須要有連接超時和失敗重連機制,且失敗重試必須有間隔時間。
- 【建議】前端程式報錯里儘量能夠提示MySQL或redis原生態的報錯信息,便於排查錯誤。
- 【建議】對於有連接池的前端程式,必鬚根據業務需要配置初始、最小、最大連接數,超時時間以及連接回收機制,否則會耗盡資料庫連接資源,造成線上事故。
- 【建議】對於log或history類型的表,隨時間增長容易越來越大,因此上線前RD或者DBA必須建立表數據清理或歸檔方案。
- 【建議】在應用程式設計階段,RD必須考慮並規避資料庫中主從延遲對於業務的影響。儘量避免從庫短時延遲(20秒以內)對業務造成影響,建議強制一致性的讀開啟事務走主庫,或更新後過一段時間再去讀從庫。
- 【建議】多個併發業務邏輯訪問同一塊數據(innodb表)時,會在資料庫端產生行鎖甚至表鎖導致併發下降,因此建議更新類SQL儘量基於主鍵去更新。
- 【建議】業務邏輯之間加鎖順序儘量保持一致,否則會導致死鎖。
- 【建議】對於單表讀寫比大於10:1的數據行或單個列,可以將熱點數據放在緩存里(如mecache或redis),加快訪問速度,降低MySQL壓力。
2.1.8 一個規範的建表語句示例
一個較為規範的建表語句為:
CREATE TABLE user (
`id` bigint(11) NOT NULL AUTO_INCREMENT,
`user_id` bigint(11) NOT NULL COMMENT ‘用戶id’
`username` varchar(45) NOT NULL COMMENT '真實姓名',
`email` varchar(30) NOT NULL COMMENT ‘用戶郵箱’,
`nickname` varchar(45) NOT NULL COMMENT '昵稱',
`avatar` int(11) NOT NULL COMMENT '頭像',
`birthday` date NOT NULL COMMENT '生日',
`sex` tinyint(4) DEFAULT '0' COMMENT '性別',
`short_introduce` varchar(150) DEFAULT NULL COMMENT '一句話介紹自己,最多50個漢字',
`user_resume` varchar(300) NOT NULL COMMENT '用戶提交的簡歷存放地址',
`user_register_ip` int NOT NULL COMMENT ‘用戶註冊時的源ip’,
`create_time` timestamp NOT NULL COMMENT ‘用戶記錄創建的時間’,
`update_time` timestamp NOT NULL COMMENT ‘用戶資料修改的時間’,
`user_review_status` tinyint NOT NULL COMMENT ‘用戶資料審核狀態,1為通過,2為審核中,3為未通過,4為還未提交審核’,
PRIMARY KEY (`id`),
UNIQUE KEY `idx_user_id` (`user_id`),
KEY `idx_username`(`username`),
KEY `idx_create_time`(`create_time`,`user_review_status`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='網站用戶基本信息';
2.2 SQL編寫
2.2.1 DML語句
- 【強制】SELECT語句必須指定具體欄位名稱,禁止寫成
*
。因為select *
會將不該讀的數據也從MySQL里讀出來,造成網卡壓力。且表欄位一旦更新,但model層沒有來得及更新的話,系統會報錯。 - 【強制】insert語句指定具體欄位名稱,不要寫成
insert into t1 values(…)
,道理同上。 - 【建議】
insert into…values(XX),(XX),(XX)…
。這裡XX的值不要超過5000個。值過多雖然上線很很快,但會引起主從同步延遲。 - 【建議】SELECT語句不要使用
UNION
,推薦使用UNION ALL
,並且UNION
子句個數限制在5個以內。因為union all
不需要去重,節省資料庫資源,提高性能。 - 【建議】in值列表限制在500以內。例如
select… where userid in(….500個以內…)
,這麼做是為了減少底層掃描,減輕資料庫壓力從而加速查詢。 - 【建議】事務里批量更新數據需要控制數量,進行必要的sleep,做到少量多次。
- 【強制】事務涉及的表必須全部是innodb表。否則一旦失敗不會全部回滾,且易造成主從庫同步終端。
- 【強制】寫入和事務發往主庫,只讀SQL發往從庫。
- 【強制】除靜態表或小表(100行以內),DML語句必須有where條件,且使用索引查找。
- 【強制】生產環境禁止使用
hint
,如sql_no_cache
,force index
,ignore key
,straight join
等。因為hint
是用來強制SQL按照某個執行計劃來執行,但隨著數據量變化我們無法保證自己當初的預判是正確的,因此我們要相信MySQL優化器! - 【強制】where條件里等號左右欄位類型必須一致,否則無法利用索引。
- 【建議】
SELECT|UPDATE|DELETE|REPLACE
要有WHERE子句,且WHERE子句的條件必需使用索引查找。 - 【強制】生產資料庫中強烈不推薦大表上發生全表掃描,但對於100行以下的靜態表可以全表掃描。查詢數據量不要超過表行數的25%,否則不會利用索引。
- 【強制】WHERE 子句中禁止只使用全模糊的LIKE條件進行查找,必須有其他等值或範圍查詢條件,否則無法利用索引。
- 【建議】索引列不要使用函數或表達式,否則無法利用索引。如
where length(name)='Admin'
或where user_id+2=10023
。 - 【建議】減少使用or語句,可將or語句優化為union,然後在各個where條件上建立索引。如
where a=1 or b=2
優化為where a=1… union …where b=2, key(a),key(b)
。 - 【建議】分頁查詢,當limit起點較高時,可先用過濾條件進行過濾。如
select a,b,c from t1 limit 10000,20;
優化為:select a,b,c from t1 where id>10000 limit 20;
。
2.2.2 多表連接
- 【強制】禁止跨db的join語句。因為這樣可以減少模塊間耦合,為資料庫拆分奠定堅實基礎。
- 【強制】禁止在業務的更新類SQL語句中使用join,比如
update t1 join t2…
。 - 【建議】不建議使用子查詢,建議將子查詢SQL拆開結合程式多次查詢,或使用join來代替子查詢。
- 【建議】線上環境,多表join不要超過3個表。
- 【建議】多表連接查詢推薦使用別名,且SELECT列表中要用別名引用欄位,資料庫.表格式,如
select a from db1.table1 alias1 where …
。 - 【建議】在多表join中,儘量選取結果集較小的表作為驅動表,來join其他表。
2.2.3 事務
- 【建議】事務中
INSERT|UPDATE|DELETE|REPLACE
語句操作的行數控制在2000以內,以及WHERE子句中IN列表的傳參個數控制在500以內。 - 【建議】批量操作數據時,需要控制事務處理間隔時間,進行必要的sleep,一般建議值5-10秒。
- 【建議】對於有
auto_increment
屬性欄位的表的插入操作,併發需要控制在200以內。 - 【強制】程式設計必須考慮“資料庫事務隔離級別”帶來的影響,包括臟讀、不可重覆讀和幻讀。線上建議事務隔離級別為
repeatable-read
。 - 【建議】事務里包含SQL不超過5個(支付業務除外)。因為過長的事務會導致鎖數據較久,MySQL內部緩存、連接消耗過多等雪崩問題。
- 【建議】事務里更新語句儘量基於主鍵或
unique key
,如update … where id=XX
; 否則會產生間隙鎖,內部擴大鎖定範圍,導致系統性能下降,產生死鎖。 - 【建議】儘量把一些典型外部調用移出事務,如調用webservice,訪問文件存儲等,從而避免事務過長。
- 【建議】對於MySQL主從延遲嚴格敏感的select語句,請開啟事務強制訪問主庫。
2.2.4 排序和分組
- 【建議】減少使用
order by
,和業務溝通能不排序就不排序,或將排序放到程式端去做。order by
、group by
、distinct
這些語句較為耗費CPU,資料庫的CPU資源是極其寶貴的。 - 【建議】
order by
、group by
、distinct
這些SQL儘量利用索引直接檢索出排序好的數據。如where a=1 order by
可以利用key(a,b)
。 - 【建議】包含了
order by
、group by
、distinct
這些查詢的語句,where條件過濾出來的結果集請保持在1000行以內,否則SQL會很慢。
2.2.5 線上禁止使用的SQL語句
- 【高危】禁用
update|delete t1 … where a=XX limit XX;
這種帶limit的更新語句。因為會導致主從不一致,導致數據錯亂。建議加上order by PK
。 - 【高危】禁止使用關聯子查詢,如
update t1 set … where name in(select name from user where…);
效率極其低下。 - 【強制】禁用procedure、function、trigger、views、event、外鍵約束。因為他們消耗資料庫資源,降低資料庫實例可擴展性。推薦都在程式端實現。
- 【強制】禁用
insert into …on duplicate key update…
在高併發環境下,會造成主從不一致。 - 【強制】禁止聯表更新語句,如
update t1,t2 where t1.id=t2.id…
。