Mysql 分頁查詢總結

来源:https://www.cnblogs.com/1620289w/archive/2023/08/22/17649819.html
-Advertisement-
Play Games

當使用了多個資料庫來提供服務時,最為關鍵的點是如何讓每一個資料庫比較均勻的承擔壓力,而不至於其中的某些資料庫壓力過大,某些資料庫沒什麼壓力。這其中的關鍵點之一就是拆分鍵的設計 ...


背景

最近在做項目的時候,有一個場景需要進行分頁查詢某個分類下的商品信息,發現對這塊不熟悉,故總結一下

01 表結構

CREATE TABLE `tb_goods` (  
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵',
`item_id` int(11) NOT NULL COMMENT '商品id',
`category_id` int(11) NOT NULL COMMENT '分類id',
`spu_id` varchar(30) NOT NULL COMMENT 'spu_id',
`sku_id` varchar(30) NOT NULL COMMENT 'sku_id',
`create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '創建時間',
`last_update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新時間',
PRIMARY KEY (`id`),
UNIQUE KEY `idx_uniq_item_id`(`item_id`),
UNIQUE KEY `idx_uniq_category_id_spu_id_sku_id`(`category_id`,`spu_id`,`sku_id`),
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='商品信息表';

 

插入數據  
INSERT INTO `tb_goods` (`id`, `item_id`, `category_id`, `spu_id`, `sku_id`, `create_time`, `last_update_time`) VALUES (1, 1001, 106, '1', '1', '2023-08-08 15:03:31', '2023-08-08 15:07:47'), (2, 1002, 106, '2', '2', '2023-08-08 15:03:31', '2023-08-08 15:07:51'), (3, 1003, 106, '12', '21', '2023-08-08 15:03:31', '2023-08-08 15:07:53'), (4, 1004, 106, '13', '101', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (5, 1005, 106, '113', '131', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (6, 1006, 191, '173', '91', '2023-08-08 15:03:31', '2023-08-08 15:07:58'), (7, 1007, 106, '27', '97', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (8, 1008, 106, '46', '123', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (9, 1009, 106, '311', '1231', '2023-08-08 15:03:31', '2023-08-08 15:04:00'), (10, 1010, 106, '83', '81', '2023-08-08 15:03:31', '2023-08-08 15:04:00');

 

 

02 方案

 

2.1 使用 limit pageId,size

一開始的方案是使用 limit pageId,size  pageId 表示開始的位置,size 表示分頁的數量,將商品的分類放在 where 條件里,具體的 sql 如下 select * from tb_goods where category_id = 106 limit 1,4   explain 了一下,發現有用到索引,線上應該很快的  

 

2.2 使用 id 作為條件的一部分

將 id 作為條件的一部分,每次直接從指定的位置開始掃描,掃描到指定的數量後截止  
select * from tb_goods where category_id = 106  and id > 0 limit 4

 

同樣 `explain` 試試,目前只用到了 idx_uniq_category_id_spu_id_sku_id  這個索引且數據量很小,看不出區別  通過這次查詢的結果還發現了一個問題, id   為 2 的數據不見瞭如下圖所示,而在表裡是有這條數據的

 

查詢結果圖

 

                                                           表數據圖   這是什麼原因導致數據丟失了呢?   查看 explain 中結果發現,這次查詢用到的索引是 idx_uniq_category_id_spu_id_sku_id ,而此索引 id 為 2 的列是排在後面的,將 limit 的數量調為 7,結果如下圖所示:

 

發現 id 為 2 的列剛好排在 id 為 4 的列後面,問題找到了 limit 的值不夠大,導致部分列沒有找到     limit 的值設置大一點是不是就可以了?     不行的,limit 是每次要進行查詢的數量,業務方下次傳入的起始位置是上一次的最大 id,這樣就會導致 id 為 2 的數據丟失了。     如何解決這個問題呢?   添加排序規則, 讓  limit 每次返回的數據相當從一個已經排序好的數據集中取固定的數量,對於此需求,每次返回的是id,在排序規則中 添加 id 就是可以了  
select * from tb_goods where category_id = 106  and id > 0 order by id limit 4
 

從上圖可以看到,在添加排序規則後 id 為 2 的列可以查詢到了      

03 limit 配合 order by 使用的坑

  在查閱資料的時候發現 在 mysql 5.6 版本以上,對於 limit 語法,`order by`  排序 帶 limit 和不帶 limit, order by 排序返回的排序後的列表可能是不同的,如果需要前後返回的數據一致,需要在 order by 中添加能夠確定排序結果的列,比如 id

3.1 重現 limit 配合 order by 使用 的問題

  創建表  
CREATE TABLE `ratings` (   
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵',
`category` int(11) NOT NULL COMMENT '分類id',
PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8mb4 COMMENT='等級表';

 

插入數據  
INSERT INTO `ratings` (`id`, `category`) VALUES (1, 1), (2, 3), (3, 2), (4, 2), (5, 1), (6, 2), (7, 3), (8, 3), (9, 2), (10, 1);

 

第一次查詢不帶 limit  ,具體 sql 如下:  
select * from ratings order by category ;

 

查詢結果如下:

 

  第二次查詢帶 limit  ,具體 sql 如下:
select * from ratings order by category limit 5;
  查詢結果如下:

 

觀察上圖可以發現,id 為 10 和 id 為 5 的列的順序變了  

3.2 原因

在MySQL 5.6的版本上,優化器在遇到order by limit語句的時候,做了一個優化,即使用了priority queue
使用 priority queue 的目的,就是在不能使用索引有序性的時候,如果要排序,並且使用了limit n,那麼只需要在排序的過程中,保留n條記錄即可, 因為 priority queue 使用了堆排序的排序方法,而堆排序是一個不穩定的排序方法,也就是相同的值可能排序出來的結果和讀出來的數據順序不一致
 

參考資料

  1. PolarDB 資料庫內核月報 (taobao.org)
  2. 深入淺出 MySQL 優先隊列(你一定會踩到的order by limit 問題) - 鄭曉龍 - 博客園 (cnblogs.com)
 
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 上篇文章講述了[C#介面的知識點](https://mp.weixin.qq.com/s?__biz=MzI2NDE1MDE1MQ==&mid=2650851371&idx=1&sn=c630043f8d85816c660c53cbf6b3f218&chksm=f14565c3c632ecd5816 ...
  • # UGUI的Button(按鈕)組件的介紹及使用 ## 1. 什麼是UGUI的Button組件? UGUI(Unity GUI)是Unity引擎中的一套用戶界面系統,Button(按鈕)是其中的一個常用組件。Button組件可以用於創建可交互的按鈕,用戶點擊按鈕時可以觸發相應的事件。 ## 2. ...
  • 先決條件 Visual Studio 2019 v16.9 預覽版1或更高版本(通過WSL可選組件進行.NET調試)。若要檢查 WSL 組件,請選擇 “工具” > “獲取工具和功能” 。 在 Visual Studio 安裝程式中,選擇 “單個組件”,然後鍵入 “WSL” 搜索安裝組件 。 安裝WS ...
  • ## 中台框架後端項目 Admin.Core 的介紹與配置說明 > 中台admin是前後端分離許可權管理系統,Admin.Core為後端項目,基於.NET 7.0開發。 > 支持多租戶、數據許可權、動態 Api、任務調度、OSS 文件上傳、滑塊拼圖驗證、多資料庫,分散式緩存、分散式事務等 - 介面文檔一 ...
  • [toc] # 模擬Linux文件管理員系統-shell實現 **註:此腳本僅供學習使用,具體需要根據實際情況進行測試調整。** ## 1 系統要求 ![](https://img2023.cnblogs.com/blog/3262925/202308/3262925-202308211934402 ...
  • 1、LDAP介紹 LDAP是一個基於X.500標準的輕量目錄訪問協議,與X.500不同,LDAP協議支持TCP/IP連接。全稱為Lightweight Directory Access Protocol(輕量目錄訪問協議),是用戶、設備和客戶端與目錄伺服器通信的標準協議。LDAP協議幫助用戶對IT資 ...
  • Shell編程是一種在命令行環境中編寫程式的技術,常用於Linux和Unix系統。它主要使用Shell腳本語言來編寫程式。Shell編程常用於系統管理、自動化任務、批處理等領域。 常用的Shell腳本語言包括Bash、Csh、Tcsh和Zsh等。Bash是最常用的Shell編程語言,它是大多數Li... ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230821150719320-729006736.png) # 1. 創建數據表 ## 1.1. sql ```sql CREATE TABLE person (person ...
一周排行
    -Advertisement-
    Play Games
  • 示例項目結構 在 Visual Studio 中創建一個 WinForms 應用程式後,項目結構如下所示: MyWinFormsApp/ │ ├───Properties/ │ └───Settings.settings │ ├───bin/ │ ├───Debug/ │ └───Release/ ...
  • [STAThread] 特性用於需要與 COM 組件交互的應用程式,尤其是依賴單線程模型(如 Windows Forms 應用程式)的組件。在 STA 模式下,線程擁有自己的消息迴圈,這對於處理用戶界面和某些 COM 組件是必要的。 [STAThread] static void Main(stri ...
  • 在WinForm中使用全局異常捕獲處理 在WinForm應用程式中,全局異常捕獲是確保程式穩定性的關鍵。通過在Program類的Main方法中設置全局異常處理,可以有效地捕獲並處理未預見的異常,從而避免程式崩潰。 註冊全局異常事件 [STAThread] static void Main() { / ...
  • 前言 給大家推薦一款開源的 Winform 控制項庫,可以幫助我們開發更加美觀、漂亮的 WinForm 界面。 項目介紹 SunnyUI.NET 是一個基於 .NET Framework 4.0+、.NET 6、.NET 7 和 .NET 8 的 WinForm 開源控制項庫,同時也提供了工具類庫、擴展 ...
  • 說明 該文章是屬於OverallAuth2.0系列文章,每周更新一篇該系列文章(從0到1完成系統開發)。 該系統文章,我會儘量說的非常詳細,做到不管新手、老手都能看懂。 說明:OverallAuth2.0 是一個簡單、易懂、功能強大的許可權+可視化流程管理系統。 有興趣的朋友,請關註我吧(*^▽^*) ...
  • 一、下載安裝 1.下載git 必須先下載並安裝git,再TortoiseGit下載安裝 git安裝參考教程:https://blog.csdn.net/mukes/article/details/115693833 2.TortoiseGit下載與安裝 TortoiseGit,Git客戶端,32/6 ...
  • 前言 在項目開發過程中,理解數據結構和演算法如同掌握蓋房子的秘訣。演算法不僅能幫助我們編寫高效、優質的代碼,還能解決項目中遇到的各種難題。 給大家推薦一個支持C#的開源免費、新手友好的數據結構與演算法入門教程:Hello演算法。 項目介紹 《Hello Algo》是一本開源免費、新手友好的數據結構與演算法入門 ...
  • 1.生成單個Proto.bat內容 @rem Copyright 2016, Google Inc. @rem All rights reserved. @rem @rem Redistribution and use in source and binary forms, with or with ...
  • 一:背景 1. 講故事 前段時間有位朋友找到我,說他的窗體程式在客戶這邊出現了卡死,讓我幫忙看下怎麼回事?dump也生成了,既然有dump了那就上 windbg 分析吧。 二:WinDbg 分析 1. 為什麼會卡死 窗體程式的卡死,入口門檻很低,後續往下分析就不一定了,不管怎麼說先用 !clrsta ...
  • 前言 人工智慧時代,人臉識別技術已成為安全驗證、身份識別和用戶交互的關鍵工具。 給大家推薦一款.NET 開源提供了強大的人臉識別 API,工具不僅易於集成,還具備高效處理能力。 本文將介紹一款如何利用這些API,為我們的項目添加智能識別的亮點。 項目介紹 GitHub 上擁有 1.2k 星標的 C# ...