Mysql 分頁查詢總結

来源:https://www.cnblogs.com/1620289w/archive/2023/08/22/17649819.html
-Advertisement-
Play Games

當使用了多個資料庫來提供服務時,最為關鍵的點是如何讓每一個資料庫比較均勻的承擔壓力,而不至於其中的某些資料庫壓力過大,某些資料庫沒什麼壓力。這其中的關鍵點之一就是拆分鍵的設計 ...


背景

最近在做項目的時候,有一個場景需要進行分頁查詢某個分類下的商品信息,發現對這塊不熟悉,故總結一下

01 表結構

CREATE TABLE `tb_goods` (  
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵',
`item_id` int(11) NOT NULL COMMENT '商品id',
`category_id` int(11) NOT NULL COMMENT '分類id',
`spu_id` varchar(30) NOT NULL COMMENT 'spu_id',
`sku_id` varchar(30) NOT NULL COMMENT 'sku_id',
`create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '創建時間',
`last_update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新時間',
PRIMARY KEY (`id`),
UNIQUE KEY `idx_uniq_item_id`(`item_id`),
UNIQUE KEY `idx_uniq_category_id_spu_id_sku_id`(`category_id`,`spu_id`,`sku_id`),
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='商品信息表';

 

插入數據  
INSERT INTO `tb_goods` (`id`, `item_id`, `category_id`, `spu_id`, `sku_id`, `create_time`, `last_update_time`) VALUES (1, 1001, 106, '1', '1', '2023-08-08 15:03:31', '2023-08-08 15:07:47'), (2, 1002, 106, '2', '2', '2023-08-08 15:03:31', '2023-08-08 15:07:51'), (3, 1003, 106, '12', '21', '2023-08-08 15:03:31', '2023-08-08 15:07:53'), (4, 1004, 106, '13', '101', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (5, 1005, 106, '113', '131', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (6, 1006, 191, '173', '91', '2023-08-08 15:03:31', '2023-08-08 15:07:58'), (7, 1007, 106, '27', '97', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (8, 1008, 106, '46', '123', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (9, 1009, 106, '311', '1231', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (10, 1010, 106, '83', '81', '2023-08-08 15:03:31', '2023-08-08 15:04:00');

 

 

02 方案

 

2.1 使用 limit pageId,size

一開始的方案是使用 limit pageId,size  pageId 表示開始的位置,size 表示分頁的數量,將商品的分類放在 where 條件里,具體的 sql 如下 select * from tb_goods where category_id = 106 limit 1,4   explain 了一下,發現有用到索引,線上應該很快的  

 

2.2 使用 id 作為條件的一部分

將 id 作為條件的一部分,每次直接從指定的位置開始掃描,掃描到指定的數量後截止  
select * from tb_goods where category_id = 106  and id > 0 limit 4

 

同樣 `explain` 試試,目前只用到了 idx_uniq_category_id_spu_id_sku_id  這個索引且數據量很小,看不出區別  通過這次查詢的結果還發現了一個問題, id   為 2 的數據不見瞭如下圖所示,而在表裡是有這條數據的

 

查詢結果圖

 

                                                           表數據圖   這是什麼原因導致數據丟失了呢?   查看 explain 中結果發現,這次查詢用到的索引是 idx_uniq_category_id_spu_id_sku_id ,而此索引 id 為 2 的列是排在後面的,將 limit 的數量調為 7,結果如下圖所示:

 

發現 id 為 2 的列剛好排在 id 為 4 的列後面,問題找到了 limit 的值不夠大,導致部分列沒有找到     limit 的值設置大一點是不是就可以了?     不行的,limit 是每次要進行查詢的數量,業務方下次傳入的起始位置是上一次的最大 id,這樣就會導致 id 為 2 的數據丟失了。     如何解決這個問題呢?   添加排序規則, 讓  limit 每次返回的數據相當從一個已經排序好的數據集中取固定的數量,對於此需求,每次返回的是id,在排序規則中 添加 id 就是可以了  
select * from tb_goods where category_id = 106  and id > 0 order by id limit 4
 

從上圖可以看到,在添加排序規則後 id 為 2 的列可以查詢到了      

03 limit 配合 order by 使用的坑

  在查閱資料的時候發現 在 mysql 5.6 版本以上,對於 limit 語法,`order by`  排序 帶 limit 和不帶 limit, order by 排序返回的排序後的列表可能是不同的,如果需要前後返回的數據一致,需要在 order by 中添加能夠確定排序結果的列,比如 id

3.1 重現 limit 配合 order by 使用 的問題

  創建表  
CREATE TABLE `ratings` (   
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵',
`category` int(11) NOT NULL COMMENT '分類id',
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8mb4 COMMENT='等級表';

 

插入數據  
INSERT INTO `ratings` (`id`, `category`) VALUES (1, 1), (2, 3), (3, 2), (4, 2), (5, 1), (6, 2), (7, 3), (8, 3), (9, 2), (10, 1);

 

第一次查詢不帶 limit  ,具體 sql 如下:  
select * from ratings order by category ;

 

查詢結果如下:

 

  第二次查詢帶 limit  ,具體 sql 如下:
select * from ratings order by category limit 5;
  查詢結果如下:

 

觀察上圖可以發現,id 為 10 和 id 為 5 的列的順序變了  

3.2 原因

在MySQL 5.6的版本上,優化器在遇到order by limit語句的時候,做了一個優化,即使用了priority queue
使用 priority queue 的目的,就是在不能使用索引有序性的時候,如果要排序,並且使用了limit n,那麼只需要在排序的過程中,保留n條記錄即可, 因為 priority queue 使用了堆排序的排序方法,而堆排序是一個不穩定的排序方法,也就是相同的值可能排序出來的結果和讀出來的數據順序不一致
 

參考資料

  1. PolarDB 資料庫內核月報 (taobao.org)
  2. 深入淺出 MySQL 優先隊列(你一定會踩到的order by limit 問題) - 鄭曉龍 - 博客園 (cnblogs.com)
 
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 上篇文章講述了[C#介面的知識點](https://mp.weixin.qq.com/s?__biz=MzI2NDE1MDE1MQ==&mid=2650851371&idx=1&sn=c630043f8d85816c660c53cbf6b3f218&chksm=f14565c3c632ecd5816 ...
  • # UGUI的Button(按鈕)組件的介紹及使用 ## 1. 什麼是UGUI的Button組件? UGUI(Unity GUI)是Unity引擎中的一套用戶界面系統,Button(按鈕)是其中的一個常用組件。Button組件可以用於創建可交互的按鈕,用戶點擊按鈕時可以觸發相應的事件。 ## 2. ...
  • 先決條件 Visual Studio 2019 v16.9 預覽版1或更高版本(通過WSL可選組件進行.NET調試)。若要檢查 WSL 組件,請選擇 “工具” > “獲取工具和功能” 。 在 Visual Studio 安裝程式中,選擇 “單個組件”,然後鍵入 “WSL” 搜索安裝組件 。 安裝WS ...
  • ## 中台框架後端項目 Admin.Core 的介紹與配置說明 > 中台admin是前後端分離許可權管理系統,Admin.Core為後端項目,基於.NET 7.0開發。 > 支持多租戶、數據許可權、動態 Api、任務調度、OSS 文件上傳、滑塊拼圖驗證、多資料庫,分散式緩存、分散式事務等 - 介面文檔一 ...
  • [toc] # 模擬Linux文件管理員系統-shell實現 **註:此腳本僅供學習使用,具體需要根據實際情況進行測試調整。** ## 1 系統要求 ![](https://img2023.cnblogs.com/blog/3262925/202308/3262925-202308211934402 ...
  • 1、LDAP介紹 LDAP是一個基於X.500標準的輕量目錄訪問協議,與X.500不同,LDAP協議支持TCP/IP連接。全稱為Lightweight Directory Access Protocol(輕量目錄訪問協議),是用戶、設備和客戶端與目錄伺服器通信的標準協議。LDAP協議幫助用戶對IT資 ...
  • Shell編程是一種在命令行環境中編寫程式的技術,常用於Linux和Unix系統。它主要使用Shell腳本語言來編寫程式。Shell編程常用於系統管理、自動化任務、批處理等領域。 常用的Shell腳本語言包括Bash、Csh、Tcsh和Zsh等。Bash是最常用的Shell編程語言,它是大多數Li... ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230821150719320-729006736.png) # 1. 創建數據表 ## 1.1. sql ```sql CREATE TABLE person (person ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...