共計 9146 個字符,預計需要花費 23 分鐘才能閱讀完成。
這篇文章主要介紹 Mysql 索引失效場景有哪些,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!
數據庫及索引準備
創建表結構
為了逐項驗證索引的使用情況,我們先準備一張表 t_user:
CREATE TABLE `t_user` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT ID ,
`id_no` varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT 身份編號 ,
`username` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT 用戶名 ,
`age` int(11) DEFAULT NULL COMMENT 年齡 ,
`create_time` datetime DEFAULT CURRENT_TIMESTAMP COMMENT 創建時間 ,
PRIMARY KEY (`id`),
KEY `union_idx` (`id_no`,`username`,`age`)
,
KEY `create_time_idx` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;
在上述表結構中有三個索引:
id:為數據庫主鍵;
union_idx:為 id_no、username、age 構成的聯合索引;
create_time_idx:是由 create_time 構成的普通索引;
初始化數據
初始化數據分兩部分:基礎數據和批量導入數據。
基礎數據 insert 了 4 條數據,其中第 4 條數據的創建時間為未來的時間,用于后續特殊場景的驗證:
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, 1001 , Tom1 , 11, 2022-02-27 09:04:23
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, 1002 , Tom2 , 12, 2022-02-26 09:04:23
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, 1003 , Tom3 , 13, 2022-02-25 09:04:23
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, 1004 , Tom4 , 14, 2023-02-25 09:04:23
除了基礎數據,還有一條存儲過程及其調用的 SQL,方便批量插入數據,用來驗證數據比較多的場景:
-- 刪除歷史存儲過程
DROP PROCEDURE IF EXISTS `insert_t_user`
-- 創建存儲過程
delimiter $
CREATE PROCEDURE insert_t_user(IN limit_num int)
BEGIN
DECLARE i INT DEFAULT 10;
DECLARE id_no varchar(18) ;
DECLARE username varchar(32) ;
DECLARE age TINYINT DEFAULT 1;
WHILE i limit_num DO
SET id_no = CONCAT(NO , i);
SET username = CONCAT(Tom ,i);
SET age = FLOOR(10 + RAND()*2);
INSERT INTO `t_user` VALUES (NULL, id_no, username, age, NOW());
SET i = i + 1;
END WHILE;
END $
-- 調用存儲過程
call insert_t_user(100);
關于存儲過程的創建和存儲,可暫時不執行,當用到時再執行。
數據庫版本及執行計劃
查看當前數據庫的版本:
select version();
8.0.18
上述為本人測試的數據庫版本:8.0.18。當然,以下的所有示例,大家可在其他版本進行執行驗證。
查看 SQL 語句執行計劃,一般我們都采用 explain 關鍵字,通過執行結果來判斷索引使用情況。
執行示例:
explain select * from t_user where id = 1;
執行結果:
可以看到上述 SQL 語句使用了主鍵索引(PRIMARY),key_len 為 4;
其中 key_len 的含義為:表示索引使用的字節數,根據這個值可以判斷索引的使用情況,特別是在組合索引的時候,判斷該索引有多少部分被使用到非常重要。
做好以上數據及知識的準備,下面就開始講解具體索引失效的實例了。
1 聯合索引不滿足最左匹配原則
聯合索引遵從最左匹配原則,顧名思義,在聯合索引中,最左側的字段優先匹配。因此,在創建聯合索引時,where 子句中使用最頻繁的字段放在組合索引的最左側。
而在查詢時,要想讓查詢條件走索引,則需滿足:最左邊的字段要出現在查詢條件中。
實例中,union_idx 聯合索引組成:
KEY `union_idx` (`id_no`,`username`,`age`)
最左邊的字段為 id_no,一般情況下,只要保證 id_no 出現在查詢條件中,則會走該聯合索引。
示例一:
explain select * from t_user where id_no = 1002
explain 結果:
通過 explain 執行結果可以看出,上述 SQL 語句走了 union_idx 這條索引。
這里再普及一下 key_len 的計算:
id_no 類型為 varchar(18),字符集為 utf8mb4_bin,也就是使用 4 個字節來表示一個完整的 UTF-8。此時,key_len = 18* 4 = 72;
由于該字段類型 varchar 為變長數據類型,需要再額外添加 2 個字節。此時,key_len = 72 + 2 = 74;
由于該字段運行為 NULL(default NULL),需要再添加 1 個字節。此時,key_len = 74 + 1 = 75;
上面演示了 key_len 一種情況的計算過程,后續不再進行逐一推演,知道基本組成和原理即可,更多情況大家可自行查看。
示例二:
explain select * from t_user where id_no = 1002
and username = Tom2
explain 結果:
很顯然,依舊走了 union_idx 索引,根據上面 key_len 的分析,大膽猜測,在使用索引時,不僅使用了 id_no 列,還使用了 username 列。
示例三:
explain select * from t_user where id_no = 1002
and age = 12;
explain 結果:
走了 union_idx 索引,但跟示例一一樣,只用到了 id_no 列。
當然,還有三列都在查詢條件中的情況,就不再舉例了。上面都是走索引的正向例子,也就是滿足最左匹配原則的例子,下面來看看,不滿足該原則的反向例子。
反向示例:
explain select * from t_user where username = Tom2 and age = 12;
explain 結果:
此時,可以看到未走任何索引,也就是說索引失效了。
同樣的,下面只要沒出現最左條件的組合,索引也是失效的:
explain select * from t_user where age = 12;
explain select * from t_user where username = Tom2
那么,第一種索引失效的場景就是:在聯合索引的場景下,查詢條件不滿足最左匹配原則。
2 使用了 select *
在《阿里巴巴開發手冊》的 ORM 映射章節中有一條【強制】的規范:
【強制】在表查詢中,一律不要使用 * 作為查詢的字段列表,需要哪些字段必須明確寫明。說明:1) 增加查詢分析器解析成本。2) 增減字段容易與 resultMap 配置不一致。3) 無用字段增加網絡 消耗,尤其是 text 類型的字段。
雖然在規范手冊中沒有提到索引方面的問題,但禁止使用 select * 語句可能會帶來的附帶好處就是:某些情況下可以走覆蓋索引。
比如,在上面的聯合索引中,如果查詢條件是 age 或 username,當使用了 select *,肯定是不會走索引的。
但如果希望根據 username 查詢出 id_no、username、age 這三個結果(均為索引字段),明確查詢結果字段,是可以走覆蓋索引的:
explain select id_no, username, age from t_user where username = Tom2
explain select id_no, username, age from t_user where age = 12;
explain 結果:
無論查詢條件是 username 還是 age,都走了索引,根據 key_len 可以看出使用了索引的所有列。
第二種索引失效場景:在聯合索引下,盡量使用明確的查詢列來趨向于走覆蓋索引;
這一條不走索引的情況屬于優化項,如果業務場景滿足,則進來促使 SQL 語句走索引。至于阿里巴巴開發手冊中的規范,只不過是兩者撞到一起了,規范本身并不是為這條索引規則而定的。
3 索引列參與運算
直接來看示例:
explain select * from t_user where id + 1 = 2 ;
explain 結果:
可以看到,即便 id 列有索引,由于進行了計算處理,導致無法正常走索引。
針對這種情況,其實不單單是索引的問題,還會增加數據庫的計算負擔。就以上述 SQL 語句為例,數據庫需要全表掃描出所有的 id 字段值,然后對其計算,計算之后再與參數值進行比較。如果每次執行都經歷上述步驟,性能損耗可想而知。
建議的使用方式是:先在內存中進行計算好預期的值,或者在 SQL 語句條件的右側進行參數值的計算。
針對上述示例的優化如下:
-- 內存計算,得知要查詢的 id 為 1
explain select * from t_user where id = 1 ;
-- 參數側計算
explain select * from t_user where id = 2 - 1 ;
第三種索引失效情況:索引列參與了運算,會導致全表掃描,索引失效。
4 索引列參使用了函數
示例:
explain select * from t_user where SUBSTR(id_no,1,3) = 100
explain 結果:
上述示例中,索引列使用了函數(SUBSTR,字符串截取),導致索引失效。
此時,索引失效的原因與第三種情況一樣,都是因為數據庫要先進行全表掃描,獲得數據之后再進行截取、計算,導致索引索引失效。同時,還伴隨著性能問題。
示例中只列舉了 SUBSTR 函數,像 CONCAT 等類似的函數,也都會出現類似的情況。解決方案可參考第三種場景,可考慮先通過內存計算或其他方式減少數據庫來進行內容的處理。
第四種索引失效情況:索引列參與了函數處理,會導致全表掃描,索引失效。
5 錯誤的 Like 使用
示例:
explain select * from t_user where id_no like %00%
explain 結果:
針對 like 的使用非常頻繁,但使用不當往往會導致不走索引。常見的 like 使用方式有:
方式一:like %abc;
方式二:like abc%;
方式三:like %abc%;
其中方式一和方式三,由于占位符出現在首部,導致無法走索引。這種情況不做索引的原因很容易理解,索引本身就相當于目錄,從左到右逐個排序。而條件的左側使用了占位符,導致無法按照正常的目錄進行匹配,導致索引失效就很正常了。
第五種索引失效情況:模糊查詢時(like 語句),模糊匹配的占位符位于條件的首部。
6 類型隱式轉換
示例:
explain select * from t_user where id_no = 1002;
explain 結果:
id_no 字段類型為 varchar,但在 SQL 語句中使用了 int 類型,導致全表掃描。
出現索引失效的原因是:varchar 和 int 是兩個種不同的類型。
解決方案就是將參數 1002 添加上單引號或雙引號。
第六種索引失效情況:參數類型與字段類型不匹配,導致類型發生了隱式轉換,索引失效。
這種情況還有一個特例,如果字段類型為 int 類型,而查詢條件添加了單引號或雙引號,則 Mysql 會參數轉化為 int 類型,雖然使用了單引號或雙引號:
explain select * from t_user where id = 2
上述語句是依舊會走索引的。
7、使用 OR 操作
OR 是日常使用最多的操作關鍵字了,但使用不當,也會導致索引失效。
示例:
explain select * from t_user where id = 2 or username = Tom2
explain 結果:
看到上述執行結果是否是很驚奇啊,明明 id 字段是有索引的,由于使用 or 關鍵字,索引竟然失效了。
其實,換一個角度來想,如果單獨使用 username 字段作為條件很顯然是全表掃描,既然已經進行了全表掃描了,前面 id 的條件再走一次索引反而是浪費了。所以,在使用 or 關鍵字時,切記兩個條件都要添加索引,否則會導致索引失效。
但如果 or 兩邊同時使用“”和“”,則索引也會失效:
explain select * from t_user where id 1 or id 80;
explain 結果:
第七種索引失效情況:查詢條件使用 or 關鍵字,其中一個字段沒有創建索引,則會導致整個查詢語句索引失效;or 兩邊為“”和“”范圍查詢時,索引失效。
8 兩列做比較
如果兩個列數據都有索引,但在查詢條件中對兩列數據進行了對比操作,則會導致索引失效。
這里舉個不恰當的示例,比如 age 小于 id 這樣的兩列(真實場景可能是兩列同維度的數據比較,這里遷就現有表結構):
explain select * from t_user where id age;
explain 結果:
這里雖然 id 有索引,age 也可以創建索引,但當兩列做比較時,索引還是會失效的。
第八種索引失效情況:兩列數據做比較,即便兩列都創建了索引,索引也會失效。
9 不等于比較
示例:
explain select * from t_user where id_no 1002
explain 結果:
當查詢條件為字符串時,使用”“或”!=“作為條件查詢,有可能不走索引,但也不全是。
explain select * from t_user where create_time != 2022-02-27 09:56:42
上述 SQL 中,由于“2022-02-27 09:56:42”是存儲過程在同一秒生成的,大量數據是這個時間。執行之后會發現,當查詢結果集占比比較小時,會走索引,占比比較大時不會走索引。此處與結果集與總體的占比有關。
需要注意的是:上述語句如果是 id 進行不等操作,則正常走索引。
explain select * from t_user where id != 2;
explain 結果:
第九種索引失效情況:查詢條件使用不等進行比較時,需要慎重,普通索引會查詢結果集占比較大時索引會失效。
10 is not null
示例:
explain select * from t_user where id_no is not null;
explain 結果:
第十種索引失效情況:查詢條件使用 is null 時正常走索引,使用 is not null 時,不走索引。
11 not in 和 not exists
在日常中使用比較多的范圍查詢有 in、exists、not in、not exists、between and 等。
explain select * from t_user where id in (2,3);
explain select * from t_user where id_no in ( 1001 , 1002
explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id);
explain select * from t_user where id_no between 1002 and 1003
上述四種語句執行時都會正常走索引,具體的 explain 結果就不再展示。主要看不走索引的情況:
explain select * from t_user where id_no not in(1002 , 1003
explain 結果:
當使用 not in 時,不走索引?把條件列換成主鍵試試:
explain select * from t_user where id not in (2,3);
explain 結果:
如果是主鍵,則正常走索引。
第十一種索引失效情況:查詢條件使用 not in 時,如果是主鍵則走索引,如果是普通索引,則索引失效。
再來看看 not exists:
explain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id = 2 and u2.id = u1.id);
explain 結果:
當查詢條件使用 not exists 時,不走索引。
第十二種索引失效情況:查詢條件使用 not exists 時,索引失效。
12 order by 導致索引失效
示例:
explain select * from t_user order by id_no ;
explain 結果:
其實這種情況的索引失效很容易理解,畢竟需要對全表數據進行排序處理。
那么,添加刪 limit 關鍵字是否就走索引了呢?
explain select * from t_user order by id_no limit 10;
explain 結果:
結果依舊不走索引。在網絡上看到有說如果 order by 條件滿足最左匹配則會正常走索引,在當前 8.0.18 版本中并未出現。所以,在基于 order by 和 limit 進行使用時,要特別留意。是否走索引不僅涉及到數據庫版本,還要看 Mysql 優化器是如何處理的。
這里還有一個特例,就是主鍵使用 order by 時,可以正常走索引。
explain select * from t_user order by id desc;
explain 結果:
可以看出針對主鍵,還是 order by 可以正常走索引。
另外,筆者測試如下 SQL 語句:
explain select id from t_user order by age;
explain select id , username from t_user order by age;
explain select id_no from t_user order by id_no;
上述三條 SQL 語句都是走索引的,也就是說覆蓋索引的場景也是可以正常走索引的。
現在將 id 和 id_no 組合起來進行 order by:
explain select * from t_user order by id,id_no desc;
explain select * from t_user order by id,id_no desc limit 10;
explain select * from t_user order by id_no desc,username desc;
explain 結果:
上述兩個 SQL 語句,都未走索引。
第十三種索引失效情況:當查詢條件涉及到 order by、limit 等條件時,是否走索引情況比較復雜,而且與 Mysql 版本有關,通常普通索引,如果未使用 limit,則不會走索引。order by 多個索引字段時,可能不會走索引。其他情況,建議在使用時進行 expain 驗證。
13 參數不同導致索引失效
此時,如果你還未執行最開始創建的存儲過程,建議你先執行一下存儲過程,然后執行如下 SQL:
explain select * from t_user where create_time 2023-02-24 09:04:23
其中,時間是未來的時間,確保能夠查到數據。
explain 結果:
可以看到,正常走索引。
隨后,我們將查詢條件的參數換個日期:
explain select * from t_user where create_time 2022-02-27 09:04:23
explain 結果:
此時,進行了全表掃描。這也是最開始提到的奇怪的現象。
為什么同樣的查詢語句,只是查詢的參數值不同,卻會出現一個走索引,一個不走索引的情況呢?
答案很簡單:上述索引失效是因為 DBMS 發現全表掃描比走索引效率更高,因此就放棄了走索引。
也就是說,當 Mysql 發現通過索引掃描的行記錄數超過全表的 10%-30% 時,優化器可能會放棄走索引,自動變成全表掃描。某些場景下即便強制 SQL 語句走索引,也同樣會失效。
類似的問題,在進行范圍查詢(比如、、=、=、in 等條件)時往往會出現上述情況,而上面提到的臨界值根據場景不同也會有所不同。
第十四種索引失效情況:當查詢條件為大于等于、in 等范圍查詢時,根據查詢結果占全表數據比例的不同,優化器有可能會放棄索引,進行全表掃描。
14 其他
當然,還有其他一些是否走索引的規則,這與索引的類型是 B -tree 索引還是位圖索引也有關系,就不再詳細展開。
這里要說的其他,可以總結為第十五種索引失效的情況:Mysql 優化器的其他優化策略,比如優化器認為在某些情況下,全表掃描比走索引快,則它就會放棄索引。
針對這種情況,一般不用過多理會,當發現問題時再定點排查即可。
以上是“Mysql 索引失效場景有哪些”這篇文章的所有內容,感謝各位的閱讀!希望分享的內容對大家有幫助,更多相關知識,歡迎關注丸趣 TV 行業資訊頻道!