共計 2481 個字符,預計需要花費 7 分鐘才能閱讀完成。
行業資訊
數據庫
怎么解決 MySQL 分頁時使用 limit+order by 出現數據重復的問題
這期內容當中丸趣 TV 小編將會給大家帶來有關怎么解決 MySQL 分頁時使用 limit+order by 出現數據重復的問題,文章內容豐富且以專業的角度為大家分析和敘述,閱讀完這篇文章希望大家可以有所收獲。
0 問題描述
在 MySQL 中我們通常會采用 limit 來進行翻頁查詢,比如 limit(0,10) 表示列出第一頁的 10 條數據,limit(10,10) 表示列出第二頁。但是,當 limit 遇到 order by 的時候,可能會出現翻到第二頁的時候,竟然又出現了第一頁的記錄。
具體如下:
SELECT `post_title`, `post_date` FROM post WHERE `post_status`= publish ORDERBY view_countdesc LIMIT 5,5
使用上述 SQL 查詢的時候,很有可能出現和 LIMIT 0,5 相同的某條記錄。而如果使用如下方式,則不會出現重復的情況:
SELECT * FROM post WHERE post_status= publish ORDERBY view_countdesc LIMIT 5,5
但是,由于 post 表的字段很多,僅僅希望用這兩個字段,不想把 post_content 也查出來。為了解決這個情況,在 ORDER BY 后面使用了兩個排序條件來解決這個問題,如下:
SELECT `post_title`, `post_date` FROM post WHERE `post_status`= publish ORDERBY view_countdesc, IDasc LIMIT 5,5
按理來說,MySQL 的排序默認情況下是以主鍵 ID 作為排序條件的,也就是說,如果在 view_count 相等的情況下,主鍵 ID 作為默認的排序條件,不需要我們多此一舉加 ID asc。但是事實就是,MySQL 再 order by 和 limit 混用的時候,出現了排序的混亂情況。
1 分析問題
在 MySQL 5.6 的版本上,優化器在遇到 order by limit 語句的時候,做了一個優化,即 使用了 priority queue。
使用 priority queue 的目的,就是在不能使用索引有序性的時候,如果要排序,并且使用了 limit n,那么只需要在排序的過程中,保留 n 條記錄即可,這樣雖然不能解決所有記錄都需要排序的開銷,但是只需要 sort buffer 少量的內存就可以完成排序。
之所以 MySQL 5.6 出現了第二頁數據重復的問題,是因為 priority queue 使用了堆排序的排序方法,而堆排序是一個不穩定的排序方法,也就是相同的值可能排序出來的結果和讀出來的數據順序不一致。
MySQL 5.5 沒有這個優化,所以也就不會出現這個問題。
也就是說,MySQL 5.5 是不存在本文提到的問題的,5.6 版本之后才出現了這種情況。
再看下 MySQL 解釋 sql 語言時的執行順序:
(1)SELECT
(2)DISTINCT select_list
(3)FROM left_table
(4) join_type JOIN right_table
(5)ON join_condition
(6)WHERE where_condition
(7)GROUPBY group_by_list
(8)HAVING having_condition
(9)ORDERBY order_by_condition
(10)LIMIT limit_number
執行順序依次為 form hellip; where hellip; select hellip; order by hellip; limit hellip;,由于上述 priority queue 的原因,在完成 select 之后,所有記錄是以堆排序的方法排列的,在進行 order by 時,僅把 view_count 值大的往前移動。
但由于 limit 的因素,排序過程中只需要保留到 5 條記錄即可,view_count 并不具備索引有序性,所以當第二頁數據要展示時,mysql 見到哪一條就拿哪一條,因此,當排序值相同的時候,第一次排序是隨意排的,第二次再執行該 sql 的時候,其結果應該和第一次結果一樣。
2 解決方法 1. 索引排序字段
如果在字段添加上索引,就直接按照索引的有序性進行讀取并分頁,從而可以規避遇到的這個問題。
2. 正確理解分頁
分頁是建立在排序的基礎上,進行了數量范圍分割。排序是數據庫提供的功能,而分頁卻是衍生出來的應用需求。
在 MySQL 和 Oracle 的官方文檔中提供了 limit n 和 rownum n 的方法,但卻沒有明確的定義分頁這個概念。
還有重要的一點,雖然上面的解決方法可以緩解用戶的這個問題,但按照用戶的理解,依然還有問題:比如,這個表插入比較頻繁,用戶查詢的時候,在 read-committed 的隔離級別下,第一頁和第二頁仍然會有重合。
所以,分頁一直都有這個問題,不同場景對數據分頁都沒有非常高的準確性要求。
3. 一些常見的數據庫排序問題
不加 order by 的時候的排序問題
用戶在使用 Oracle 或 MySQL 的時候,發現 MySQL 總是有序的,Oracle 卻很混亂,這個主要是因為 Oracle 是堆表,MySQL 是索引聚簇表的原因。所以沒有 order by 的時候,數據庫并不保證記錄返回的順序性,并且不保證每次返回都一致的。
分頁問題 分頁重復的問題
如前面所描述的,分頁是在數據庫提供的排序功能的基礎上,衍生出來的應用需求,數據庫并不保證分頁的重復問題。
NULL 值和空串問題
不同的數據庫對于 NULL 值和空串的理解和處理是不一樣的,比如 Oracle NULL 和 NULL 值是無法比較的,既不是相等也不是不相等,是未知的。而對于空串,在插入的時候,MySQL 是一個字符串長度為 0 的空串,而 Oracle 則直接進行 NULL 值處理。
上述就是丸趣 TV 小編為大家分享的怎么解決 MySQL 分頁時使用 limit+order by 出現數據重復的問題了,如果剛好有類似的疑惑,不妨參照上述分析進行理解。如果想知道更多相關知識,歡迎關注丸趣 TV 行業資訊頻道。