亚洲激情专区-91九色丨porny丨老师-久久久久久久女国产乱让韩-国产精品午夜小视频观看

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化

發布時間:2020-08-07 10:56:49 來源:ITPUB博客 閱讀:136 作者:a724888 欄目:MySQL數據庫

微信公眾號【Java技術江湖】一位阿里 Java 工程師的技術小站。作者黃小斜,專注 Java 相關技術:SSM、SpringBoot、MySQL、分布式、中間件、集群、Linux、網絡、多線程,偶爾講點Docker、ELK,同時也分享技術干貨和學習經驗,致力于Java全棧開發!

重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化

一:Mysql原理與慢查詢

MySQL憑借著出色的性能、低廉的成本、豐富的資源,已經成為絕大多數互聯網公司的首選關系型數據庫。雖然性能出色,但所謂“好馬配好鞍”,如何能夠更好的使用它,已經成為開發工程師的必修課,我們經常會從職位描述上看到諸如“精通MySQL”、“SQL語句優化”、“了解數據庫原理”等要求。我們知道一般的應用系統,讀寫比例在10:1左右,而且插入操作和一般的更新操作很少出現性能問題,遇到最多的,也是最容易出問題的,還是一些復雜的查詢操作,所以查詢語句的優化顯然是重中之重。

本人從13年7月份起,一直在美團核心業務系統部做慢查詢的優化工作,共計十余個系統,累計解決和積累了上百個慢查詢案例。隨著業務的復雜性提升,遇到的問題千奇百怪,五花八門,匪夷所思。本文旨在以開發工程師的角度來解釋數據庫索引的原理和如何優化慢查詢。

一個慢查詢引發的思考

selectcount(*)fromtaskwherestatus=2 and operator_id=20839 and operate_time>1371169729 and operate_time<1371174603 and type=2;

系統使用者反應有一個功能越來越慢,于是工程師找到了上面的SQL。
并且興致沖沖的找到了我,“這個SQL需要優化,給我把每個字段都加上索引”
我很驚訝,問道“為什么需要每個字段都加上索引?”
“把查詢的字段都加上索引會更快”工程師信心滿滿
“這種情況完全可以建一個聯合索引,因為是最左前綴匹配,所以operate_time需要放到最后,而且還需要把其他相關的查詢都拿來,需要做一個綜合評估。”
“聯合索引?最左前綴匹配?綜合評估?”工程師不禁陷入了沉思。
多數情況下,我們知道索引能夠提高查詢效率,但應該如何建立索引?索引的順序如何?許多人卻只知道大概。其實理解這些概念并不難,而且索引的原理遠沒有想象的那么復雜。

MySQL索引原理

索引目的
索引的目的在于提高查詢效率,可以類比字典,如果要查“mysql”這個單詞,我們肯定需要定位到m字母,然后從下往下找到y字母,再找到剩下的sql。如果沒有索引,那么你可能需要把所有單詞看一遍才能找到你想要的,如果我想找到m開頭的單詞呢?或者ze開頭的單詞呢?是不是覺得如果沒有索引,這個事情根本無法完成?

索引原理
除了詞典,生活中隨處可見索引的例子,如火車站的車次表、圖書的目錄等。它們的原理都是一樣的,通過不斷的縮小想要獲得數據的范圍來篩選出最終想要的結果,同時把隨機的事件變成順序的事件,也就是我們總是通過同一種查找方式來鎖定數據。
數據庫也是一樣,但顯然要復雜許多,因為不僅面臨著等值查詢,還有范圍查詢(>、<、between、in)、模糊查詢(like)、并集查詢(or)等等。數據庫應該選擇怎么樣的方式來應對所有的問題呢?我們回想字典的例子,能不能把數據分成段,然后分段查詢呢?最簡單的如果1000條數據,1到100分成第一段,101到200分成第二段,201到300分成第三段......這樣查第250條數據,只要找第三段就可以了,一下子去除了90%的無效數據。但如果是1千萬的記錄呢,分成幾段比較好?稍有算法基礎的同學會想到搜索樹,其平均復雜度是lgN,具有不錯的查詢性能。但這里我們忽略了一個關鍵的問題,復雜度模型是基于每次相同的操作成本來考慮的,數據庫實現比較復雜,數據保存在磁盤上,而為了提高性能,每次又可以把部分數據讀入內存來計算,因為我們知道訪問磁盤的成本大概是訪問內存的十萬倍左右,所以簡單的搜索樹難以滿足復雜的應用場景。

磁盤IO與預讀
前面提到了訪問磁盤,那么這里先簡單介紹一下磁盤IO和預讀,磁盤讀取數據靠的是機械運動,每次讀取數據花費的時間可以分為尋道時間、旋轉延遲、傳輸時間三個部分,尋道時間指的是磁臂移動到指定磁道所需要的時間,主流磁盤一般在5ms以下;旋轉延遲就是我們經常聽說的磁盤轉速,比如一個磁盤7200轉,表示每分鐘能轉7200次,也就是說1秒鐘能轉120次,旋轉延遲就是1/120/2 = 4.17ms;傳輸時間指的是從磁盤讀出或將數據寫入磁盤的時間,一般在零點幾毫秒,相對于前兩個時間可以忽略不計。那么訪問一次磁盤的時間,即一次磁盤IO的時間約等于5+4.17 = 9ms左右,聽起來還挺不錯的,但要知道一臺500 -MIPS的機器每秒可以執行5億條指令,因為指令依靠的是電的性質,換句話說執行一次IO的時間可以執行40萬條指令,數據庫動輒十萬百萬乃至千萬級數據,每次9毫秒的時間,顯然是個災難。下圖是計算機硬件延遲的對比圖,供大家參考:
重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化
考慮到磁盤IO是非常高昂的操作,計算機操作系統做了一些優化,當一次IO時,不光把當前磁盤地址的數據,而是把相鄰的數據也都讀取到內存緩沖區內,因為局部預讀性原理告訴我們,當計算機訪問一個地址的數據的時候,與其相鄰的數據也會很快被訪問到。每一次IO讀取的數據我們稱之為一頁(page)。具體一頁有多大數據跟操作系統有關,一般為4k或8k,也就是我們讀取一頁內的數據時候,實際上才發生了一次IO,這個理論對于索引的數據結構設計非常有幫助。

索引的數據結構
前面講了生活中索引的例子,索引的基本原理,數據庫的復雜性,又講了操作系統的相關知識,目的就是讓大家了解,任何一種數據結構都不是憑空產生的,一定會有它的背景和使用場景,我們現在總結一下,我們需要這種數據結構能夠做些什么,其實很簡單,那就是:每次查找數據時把磁盤IO次數控制在一個很小的數量級,最好是常數數量級。那么我們就想到如果一個高度可控的多路搜索樹是否能滿足需求呢?就這樣,b+樹應運而生。

詳解b+樹
重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化
如上圖,是一顆b+樹,關于b+樹的定義可以參見 B+樹,這里只說一些重點,淺藍色的塊我們稱之為一個磁盤塊,可以看到每個磁盤塊包含幾個數據項(深藍色所示)和指針(黃色所示),如磁盤塊1包含數據項17和35,包含指針P1、P2、P3,P1表示小于17的磁盤塊,P2表示在17和35之間的磁盤塊,P3表示大于35的磁盤塊。真實的數據存在于葉子節點即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非葉子節點只不存儲真實的數據,只存儲指引搜索方向的數據項,如17、35并不真實存在于數據表中。

b+樹的查找過程
如圖所示,如果要查找數據項29,那么首先會把磁盤塊1由磁盤加載到內存,此時發生一次IO,在內存中用二分查找確定29在17和35之間,鎖定磁盤塊1的P2指針,內存時間因為非常短(相比磁盤的IO)可以忽略不計,通過磁盤塊1的P2指針的磁盤地址把磁盤塊3由磁盤加載到內存,發生第二次IO,29在26和30之間,鎖定磁盤塊3的P2指針,通過指針加載磁盤塊8到內存,發生第三次IO,同時內存中做二分查找找到29,結束查詢,總計三次IO。真實的情況是,3層的b+樹可以表示上百萬的數據,如果上百萬的數據查找只需要三次IO,性能提高將是巨大的,如果沒有索引,每個數據項都要發生一次IO,那么總共需要百萬次的IO,顯然成本非常非常高。

b+樹性質
1.通過上面的分析,我們知道IO次數取決于b+數的高度h,假設當前數據表的數據為N,每個磁盤塊的數據項的數量是m,則有h=㏒(m+1)N,當數據量N一定的情況下,m越大,h越小;而m = 磁盤塊的大小 / 數據項的大小,磁盤塊的大小也就是一個數據頁的大小,是固定的,如果數據項占的空間越小,數據項的數量越多,樹的高度越低。這就是為什么每個數據項,即索引字段要盡量的小,比如int占4字節,要比bigint8字節少一半。這也是為什么b+樹要求把真實的數據放到葉子節點而不是內層節點,一旦放到內層節點,磁盤塊的數據項會大幅度下降,導致樹增高。當數據項等于1時將會退化成線性表。

2.當b+樹的數據項是復合的數據結構,比如(name,age,sex)的時候,b+數是按照從左到右的順序來建立搜索樹的,比如當(張三,20,F)這樣的數據來檢索的時候,b+樹會優先比較name來確定下一步的所搜方向,如果name相同再依次比較age和sex,最后得到檢索的數據;但當(20,F)這樣的沒有name的數據來的時候,b+樹就不知道下一步該查哪個節點,因為建立搜索樹的時候name就是第一個比較因子,必須要先根據name來搜索才能知道下一步去哪里查詢。比如當(張三,F)這樣的數據來檢索時,b+樹可以用name來指定搜索方向,但下一個字段age的缺失,所以只能把名字等于張三的數據都找到,然后再匹配性別是F的數據了, 這個是非常重要的性質,即索引的最左匹配特性。

二:索引建立

1. 主鍵索引

primary key() 要求關鍵字不能重復,也不能為null,同時增加主鍵約束 
主鍵索引定義時,不能命名

2. 唯一索引

unique index() 要求關鍵字不能重復,同時增加唯一約束

3. 普通索引

index() 對關鍵字沒有要求

4. 全文索引

fulltext key() 關鍵字的來源不是所有字段的數據,而是字段中提取的特別關鍵字

關鍵字:可以是某個字段或多個字段,多個字段稱為復合索引

建表:creat table student(stu_id int unsigned not null auto_increment,name varchar(32) not null default '',phone char(11) not null default '',stu_code varchar(32) not null default '',stu_desc text,primary key ('stu_id'),     //主鍵索引unique index 'stu_code' ('stu_code'), //唯一索引index 'name_phone' ('name','phone'),  //普通索引,復合索引fulltext index 'stu_desc' ('stu_desc'), //全文索引) engine=myisam charset=utf8;更新:alert table studentadd primary key ('stu_id'),     //主鍵索引add unique index 'stu_code' ('stu_code'), //唯一索引add index 'name_phone' ('name','phone'),  //普通索引,復合索引add fulltext index 'stu_desc' ('stu_desc'); //全文索引刪除:alert table sutdentdrop primary key,drop index 'stu_code',drop index 'name_phone',drop index 'stu_desc';

三:淺析explain用法

有什么用?

在MySQL中,當數據量增長的特別大的時候就需要用到索引來優化SQL語句,而如何才能判斷我們辛辛苦苦寫出的SQL語句是否優良?這時候 explain就派上了用場。

怎么使用?

explain + SQL語句即可 如:explain select * from table;

如下

重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化cdn.xitu.io/2018/5/17/1636ce849c800023?imageView2/0/w/1280/h/960/format/webp/ignore-error/1">

相信第一次使用explain參數的朋友一定會疑惑這一大堆參數究竟有什么用呢?筆者搜集了一些資料,在這兒做一個總結希望能夠幫助大家理解。


參數介紹

id

如果是子查詢,id的序號會遞增,id的值越大優先級越高,越先被執行

select_type

查詢的類型,主要用于區別普通查詢、聯合查詢、子查詢等的復雜查詢 SIMPLE:簡單的select查詢,查詢中不包含子查詢或者UNION PRIMARY:查詢中若包含任何復雜的子部分,最外層查詢則被標記為PRIMARY(最后加載的那一個 ) SUBQUERY:在SELECT或WHERE列表中包含了子查詢 DERIVED:在FROM列表中包含的子查詢被標記為DERIVED(衍生)Mysql會遞歸執行這些子查詢,把結果放在臨時表里。 UNION:若第二個SELECT出現在UNION之后,則被標記為UNION;若UNION包含在FROM字句的查詢中,外層SELECT將被標記為:DERIVED UNION RESULT:從UNION表獲取結果的SELECT type

	顯示查詢使用了何種類型	從最好到最差依次是System>const>eq_ref>range>index>All(**全表掃描**)	一般來說**至少達到range級別,最好達到ref**System:表只有一行記錄,這是const類型的特例,平時不會出現(忽略不計)const:表示通過索引一次就找到了,const用于比較primary key或者unique索引,因為只匹配一行數據,所以很快。如將主鍵置于where列表中,MySQL就能將該查詢轉換為一個常量。eq_ref:唯一性索引掃描,對于每個索引鍵,表中只有一條記錄與之匹配。常見于主鍵或唯一索引掃描。ref:非唯一索引掃描,返回匹配某個單獨值的行,本質上也是一種索引訪問,它返回所有匹配某個單獨值的行,然而它可能會找到多個符合條件的行,所以它應該屬于查找和掃描的混合體range:只檢索給定范圍的行,使用一個索引來選擇行。key列顯示使用了哪個索引,一般就是在你的where語句中出現了between、<、>、in等的查詢。這種范圍掃描索引比全表掃描要好,因為它只需要開始于索引的某一點,而結束于另一點,不用掃描全部索引。index:FULL INDEX SCAN,index與all區別為index類型只遍歷索引樹。這通常比all快,因為索引文件通常比數據文件小。

extra

包含不適合在其他列中顯示但十分重要的額外信息 包含的信息: **(危險!)**Using filesort:說明mysql會對數據使用一個外部的索引排序,而不是按照表內的索引順序進行讀取,MYSQL中無法利用索引完成的排序操作稱為“文件排序” **(特別危險!)**Using temporary:使用了臨時表保存中間結果,MYSQL在對查詢結果排序時使用臨時表。常見于排序order by 和分組查詢 group by Using index:表示相應的select操作中使用了覆蓋索引,避免訪問了表的數據行,效率不錯。如果同時出現using where,表明索引被用來執行索引鍵值的查找;如果沒有同時出現using where,表明索引用來讀取數據而非執行查找操作。

possible_keys

顯示可能應用在這張表中的索引,一個或多個。查詢涉及到的字段上若存在索引,則該索引將被列出, 但不一定被查詢實際使用

key

實際使用的索引,如果為NULL,則沒有使用索引。查詢中若使用了覆蓋索引,則該索引僅出現在key列表中,key參數可以作為使用了索引的判斷標準

key_len

:表示索引中使用的字節數,可通過該列計算查詢中索引的長度,在不損失精確性的情況下,長度越短越好,key_len顯示的值為索引字段的最大可能長度,并非實際使用長度,即key_len是根據表定義計算而得,不是通過表內檢索出的。

ref

顯示索引的哪一列被使用了,如果可能的話,是一個常數。哪些列或常量被用于查找索引上的值。

rows

根據表統計信息及索引選用情況,大致估算出找到所需記錄所需要讀取的行數

四:慢查詢優化

關于MySQL索引原理是比較枯燥的東西,大家只需要有一個感性的認識,并不需要理解得非常透徹和深入。我們回頭來看看一開始我們說的慢查詢,了解完索引原理之后,大家是不是有什么想法呢?先總結一下索引的幾大基本原則

建索引的幾大原則

1.最左前綴匹配原則,非常重要的原則,mysql會一直向右匹配直到遇到范圍查詢(>、<、between、like)就停止匹配,比如a = 1 and b = 2 and c > 3 and d = 4 如果建立(a,b,c,d)順序的索引,d是用不到索引的,如果建立(a,b,d,c)的索引則都可以用到,a,b,d的順序可以任意調整。
2.=和in可以亂序,比如a = 1 and b = 2 and c = 3 建立(a,b,c)索引可以任意順序,mysql的查詢優化器會幫你優化成索引可以識別的形式
3.盡量選擇區分度高的列作為索引,區分度的公式是count(distinct col)/count(*),表示字段不重復的比例,比例越大我們掃描的記錄數越少,唯一鍵的區分度是1,而一些狀態、性別字段可能在大數據面前區分度就是0,那可能有人會問,這個比例有什么經驗值嗎?使用場景不同,這個值也很難確定,一般需要join的字段我們都要求是0.1以上,即平均1條掃描10條記錄
4.索引列不能參與計算,保持列“干凈”,比如from_unixtime(create_time) = ’2014-05-29’就不能使用到索引,原因很簡單,b+樹中存的都是數據表中的字段值,但進行檢索時,需要把所有元素都應用函數才能比較,顯然成本太大。所以語句應該寫成create_time = unix_timestamp(’2014-05-29’);
5.盡量的擴展索引,不要新建索引。比如表中已經有a的索引,現在要加(a,b)的索引,那么只需要修改原來的索引即可

回到開始的慢查詢

根據最左匹配原則,最開始的sql語句的索引應該是status、operator_id、type、operate_time的聯合索引;其中status、operator_id、type的順序可以顛倒,所以我才會說,把這個表的所有相關查詢都找到,會綜合分析;
比如還有如下查詢

select * from task where status = 0 and type = 12 limit 10;
select count(*) from task where status = 0 ;

那么索引建立成(status,type,operator_id,operate_time)就是非常正確的,因為可以覆蓋到所有情況。這個就是利用了索引的最左匹配的原則

查詢優化神器 - explain命令

關于explain命令相信大家并不陌生,具體用法和字段含義可以參考官網 explain-output,這里需要強調rows是核心指標,絕大部分rows小的語句執行一定很快(有例外,下面會講到)。所以優化語句基本上都是在優化rows。

慢查詢優化基本步驟

0.先運行看看是否真的很慢,注意設置SQL_NO_CACHE
1.where條件單表查,鎖定最小返回記錄表。這句話的意思是把查詢語句的where都應用到表中返回的記錄數最小的表開始查起,單表每個字段分別查詢,看哪個字段的區分度最高
2.explain查看執行計劃,是否與1預期一致(從鎖定記錄較少的表開始查詢)
3.order by limit 形式的sql語句讓排序的表優先查
4.了解業務方使用場景
5.加索引時參照建索引的幾大原則

6.觀察結果,不符合預期繼續從0分析

五:最左前綴原理與相關優化

高效使用索引的首要條件是知道什么樣的查詢會使用到索引,這個問題和B+Tree中的“最左前綴原理”有關,下面通過例子說明最左前綴原理。

這里先說一下聯合索引的概念。在上文中,我們都是假設索引只引用了單個的列,實際上,MySQL中的索引可以以一定順序引用多個列,這種索引叫做聯合索引,一般的,一個聯合索引是一個有序元組<a1, a2, …, an>,其中各個元素均為數據表的一列,實際上要嚴格定義索引需要用到關系代數,但是這里我不想討論太多關系代數的話題,因為那樣會顯得很枯燥,所以這里就不再做嚴格定義。另外,單列索引可以看成聯合索引元素數為1的特例。

以employees.titles表為例,下面先查看其上都有哪些索引:

 

  1. SHOW INDEX FROM employees . titles ;
  2. +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+
  3. |   Table   |   Non_unique   |   Key_name   |   Seq_in_index   |   Column_name   |   Collation   |   Cardinality   |   Null   |   Index_type   |
  4. +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+
  5. |  titles  |   0   |  PRIMARY  |   1   |  emp_no  |  A  |  NULL  |   |  BTREE  |
  6. |  titles  |   0   |  PRIMARY  |   2   |  title  |  A  |  NULL  |   |  BTREE  |
  7. |  titles  |   0   |  PRIMARY  |   3   |  from_date  |  A  |   443308   |   |  BTREE  |
  8. |  titles  |   1   |  emp_no  |   1   |  emp_no  |  A  |   443308   |   |  BTREE  |
  9. +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+

從結果中可以到titles表的主索引為<emp_no, title, from_date>,還有一個輔助索引<emp_no>。為了避免多個索引使事情變復雜(MySQL的SQL優化器在多索引時行為比較復雜),這里我們將輔助索引drop掉:

 

  1. ALTER TABLE employees . titles DROP INDEX emp_no ;

這樣就可以專心分析索引PRIMARY的行為了。

情況一:全列匹配。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND title = 'Senior Engineer'  AND from_date = '1986-06-26' ;
  2. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
  5. |   1   |  SIMPLE  |  titles  |   const   |  PRIMARY  |  PRIMARY  |   59   |   const , const , const   |   1   |   |
  6. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

很明顯,當按照索引中所有列進行精確匹配(這里精確匹配指“=”或“IN”匹配)時,索引可以被用到。這里有一點需要注意,理論上索引對順序是敏感的,但是由于MySQL的查詢優化器會自動調整where子句的條件順序以使用適合的索引,例如我們將where中的條件順序顛倒:

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE from_date = '1986-06-26'  AND emp_no = '10001'  AND title = 'Senior Engineer' ;
  2. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
  5. |   1   |  SIMPLE  |  titles  |   const   |  PRIMARY  |  PRIMARY  |   59   |   const , const , const   |   1   |   |
  6. +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+

效果是一樣的。

情況二:最左前綴匹配。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no = '10001' ;
  2. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+
  5. |   1   |  SIMPLE  |  titles  |   ref   |  PRIMARY  |  PRIMARY  |   4   |   const   |   1   |   |
  6. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+

當查詢條件精確匹配索引的左邊連續一個或幾個列時,如<emp_no>或<emp_no, title>,所以可以被用到,但是只能用到一部分,即條件所組成的最左前綴。上面的查詢從分析結果看用到了PRIMARY索引,但是key_len為4,說明只用到了索引的第一列前綴。

情況三:查詢條件用到了索引中列的精確匹配,但是中間某個條件未提供。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND from_date = '1986-06-26' ;
  2. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
  5. |   1   |  SIMPLE  |  titles  |   ref   |  PRIMARY  |  PRIMARY  |   4   |   const   |   1   |   Using   where   |
  6. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

此時索引使用情況和情況二相同,因為title未提供,所以查詢只用到了索引的第一列,而后面的from_date雖然也在索引中,但是由于title不存在而無法和左前綴連接,因此需要對結果進行掃描過濾from_date(這里由于emp_no唯一,所以不存在掃描)。如果想讓from_date也使用索引而不是where過濾,可以增加一個輔助索引<emp_no, from_date>,此時上面的查詢會使用這個索引。除此之外,還可以使用一種稱之為“隔離列”的優化方法,將emp_no與from_date之間的“坑”填上。

首先我們看下title一共有幾種不同的值:

 

  1. SELECT DISTINCT ( title )  FROM employees . titles ;
  2. +--------------------+
  3. |  title  |
  4. +--------------------+
  5. |   Senior   Engineer   |
  6. |   Staff   |
  7. |   Engineer   |
  8. |   Senior   Staff   |
  9. |   Assistant   Engineer   |
  10. |   Technique   Leader   |
  11. |   Manager   |
  12. +--------------------+

只有7種。在這種成為“坑”的列值比較少的情況下,可以考慮用“IN”來填補這個“坑”從而形成最左前綴:

 

  1. EXPLAIN SELECT  *  FROM employees . titles
  2. WHERE emp_no = '10001'
  3. AND title IN  ( 'Senior Engineer' ,   'Staff' ,   'Engineer' ,   'Senior Staff' ,   'Assistant Engineer' ,   'Technique Leader' ,   'Manager' )
  4. AND from_date = '1986-06-26' ;
  5. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  6. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  7. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  8. |   1   |  SIMPLE  |  titles  |  range  |  PRIMARY  |  PRIMARY  |   59   |  NULL  |   7   |   Using   where   |
  9. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

這次key_len為59,說明索引被用全了,但是從type和rows看出IN實際上執行了一個range查詢,這里檢查了7個key。看下兩種查詢的性能比較:

 

  1. SHOW PROFILES ;
  2. +----------+------------+-------------------------------------------------------------------------------+
  3. |   Query_ID   |   Duration   |   Query   |
  4. +----------+------------+-------------------------------------------------------------------------------+
  5. |   10   |   0.00058000   |  SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND from_date = '1986-06-26' |
  6. |   11   |   0.00052500   |  SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND title IN  ...   |
  7. +----------+------------+-------------------------------------------------------------------------------+

“填坑”后性能提升了一點。如果經過emp_no篩選后余下很多數據,則后者性能優勢會更加明顯。當然,如果title的值很多,用填坑就不合適了,必須建立輔助索引。

情況四:查詢條件沒有指定索引第一列。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE from_date = '1986-06-26' ;
  2. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
  5. |   1   |  SIMPLE  |  titles  |  ALL  |  NULL  |  NULL  |  NULL  |  NULL  |   443308   |   Using   where   |
  6. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

由于不是最左前綴,索引這樣的查詢顯然用不到索引。

情況五:匹配某列的前綴字符串。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND title LIKE  'Senior%' ;
  2. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  5. |   1   |  SIMPLE  |  titles  |  range  |  PRIMARY  |  PRIMARY  |   56   |  NULL  |   1   |   Using   where   |
  6. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

此時可以用到索引,但是如果通配符不是只出現在末尾,則無法使用索引。(原文表述有誤,如果通配符%不出現在開頭,則可以用到索引,但根據具體情況不同可能只會用其中一個前綴)

情況六:范圍查詢。

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no  <   '10010'   and  title = 'Senior Engineer' ;
  2. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  5. |   1   |  SIMPLE  |  titles  |  range  |  PRIMARY  |  PRIMARY  |   4   |  NULL  |   16   |   Using   where   |
  6. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

范圍列可以用到索引(必須是最左前綴),但是范圍列后面的列無法用到索引。同時,索引最多用于一個范圍列,因此如果查詢條件中有兩個范圍列則無法全用到索引。

 

  1. EXPLAIN SELECT  *  FROM employees . titles
  2. WHERE emp_no  <   '10010'
  3. AND title = 'Senior Engineer'
  4. AND from_date BETWEEN  '1986-01-01'  AND  '1986-12-31' ;
  5. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  6. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  7. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  8. |   1   |  SIMPLE  |  titles  |  range  |  PRIMARY  |  PRIMARY  |   4   |  NULL  |   16   |   Using   where   |
  9. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

可以看到索引對第二個范圍索引無能為力。這里特別要說明MySQL一個有意思的地方,那就是僅用explain可能無法區分范圍索引和多值匹配,因為在type中這兩者都顯示為range。同時,用了“between”并不意味著就是范圍查詢,例如下面的查詢:

 

  1. EXPLAIN SELECT  *  FROM employees . titles
  2. WHERE emp_no BETWEEN  '10001'  AND  '10010'
  3. AND title = 'Senior Engineer'
  4. AND from_date BETWEEN  '1986-01-01'  AND  '1986-12-31' ;
  5. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  6. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  7. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
  8. |   1   |  SIMPLE  |  titles  |  range  |  PRIMARY  |  PRIMARY  |   59   |  NULL  |   16   |   Using   where   |
  9. +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+

看起來是用了兩個范圍查詢,但作用于emp_no上的“BETWEEN”實際上相當于“IN”,也就是說emp_no實際是多值精確匹配。可以看到這個查詢用到了索引全部三個列。因此在MySQL中要謹慎地區分多值匹配和范圍匹配,否則會對MySQL的行為產生困惑。

情況七:查詢條件中含有函數或表達式。

很不幸,如果查詢條件中含有函數或表達式,則MySQL不會為這列使用索引(雖然某些在數學意義上可以使用)。例如:

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no = '10001'  AND left ( title ,   6 )= 'Senior' ;
  2. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
  5. |   1   |  SIMPLE  |  titles  |   ref   |  PRIMARY  |  PRIMARY  |   4   |   const   |   1   |   Using   where   |
  6. +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+

雖然這個查詢和情況五中相同,但是由于使用了函數left,則無法為title列應用索引,而情況五中用LIKE則可以。再如:

 

  1. EXPLAIN SELECT  *  FROM employees . titles WHERE emp_no  -   1 = '10000' ;
  2. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
  5. |   1   |  SIMPLE  |  titles  |  ALL  |  NULL  |  NULL  |  NULL  |  NULL  |   443308   |   Using   where   |
  6. +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+

顯然這個查詢等價于查詢emp_no為10001的函數,但是由于查詢條件是一個表達式,MySQL無法為其使用索引。看來MySQL還沒有智能到自動優化常量表達式的程度,因此在寫查詢語句時盡量避免表達式出現在查詢中,而是先手工私下代數運算,轉換為無表達式的查詢語句。

索引選擇性與前綴索引

既然索引可以加快查詢速度,那么是不是只要是查詢語句需要,就建上索引?答案是否定的。因為索引雖然加快了查詢速度,但索引也是有代價的:索引文件本身要消耗存儲空間,同時索引會加重插入、刪除和修改記錄時的負擔,另外,MySQL在運行時也要消耗資源維護索引,因此索引并不是越多越好。一般兩種情況下不建議建索引。

第一種情況是表記錄比較少,例如一兩千條甚至只有幾百條記錄的表,沒必要建索引,讓查詢做全表掃描就好了。至于多少條記錄才算多,這個個人有個人的看法,我個人的經驗是以2000作為分界線,記錄數不超過 2000可以考慮不建索引,超過2000條可以酌情考慮索引。

另一種不建議建索引的情況是索引的選擇性較低。所謂索引的選擇性(Selectivity),是指不重復的索引值(也叫基數,Cardinality)與表記錄數(#T)的比值:

Index Selectivity = Cardinality / #T

顯然選擇性的取值范圍為(0, 1],選擇性越高的索引價值越大,這是由B+Tree的性質決定的。例如,上文用到的employees.titles表,如果title字段經常被單獨查詢,是否需要建索引,我們看一下它的選擇性:

 

  1. SELECT count ( DISTINCT ( title ))/ count (*)  AS  Selectivity  FROM employees . titles ;
  2. +-------------+
  3. |   Selectivity   |
  4. +-------------+
  5. |   0.0000   |
  6. +-------------+

title的選擇性不足0.0001(精確值為0.00001579),所以實在沒有什么必要為其單獨建索引。

有一種與索引選擇性有關的索引優化策略叫做前綴索引,就是用列的前綴代替整個列作為索引key,當前綴長度合適時,可以做到既使得前綴索引的選擇性接近全列索引,同時因為索引key變短而減少了索引文件的大小和維護開銷。下面以employees.employees表為例介紹前綴索引的選擇和使用。

從圖12可以看到employees表只有一個索引<emp_no>,那么如果我們想按名字搜索一個人,就只能全表掃描了:

 

  1. EXPLAIN SELECT  *  FROM employees . employees WHERE first_name = 'Eric'  AND last_name = 'Anido' ;
  2. +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
  3. |  id  |  select_type  |  table  |  type  |  possible_keys  |  key  |  key_len  |   ref   |  rows  |   Extra   |
  4. +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
  5. |   1   |  SIMPLE  |  employees  |  ALL  |  NULL  |  NULL  |  NULL  |  NULL  |   300024   |   Using   where   |
  6. +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+

如果頻繁按名字搜索員工,這樣顯然效率很低,因此我們可以考慮建索引。有兩種選擇,建<first_name>或<first_name, last_name>,看下兩個索引的選擇性:

 

  1. SELECT count ( DISTINCT ( first_name ))/ count (*)  AS  Selectivity  FROM employees . employees ;
  2. +-------------+
  3. |   Selectivity   |
  4. +-------------+
  5. |   0.0042   |
  6. +-------------+
  7. SELECT count ( DISTINCT ( concat ( first_name ,  last_name )))/ count (*)  AS  Selectivity  FROM employees . employees ;
  8. +-------------+
  9. |   Selectivity   |
  10. +-------------+
  11. |   0.9313   |
  12. +-------------+

<first_name>顯然選擇性太低,<first_name, last_name>選擇性很好,但是first_name和last_name加起來長度為30,有沒有兼顧長度和選擇性的辦法?可以考慮用first_name和last_name的前幾個字符建立索引,例如<first_name, left(last_name, 3)>,看看其選擇性:

 

  1. SELECT count ( DISTINCT ( concat ( first_name ,  left ( last_name ,   3 ))))/ count (*)  AS  Selectivity  FROM employees . employees ;
  2. +-------------+
  3. |   Selectivity   |
  4. +-------------+
  5. |   0.7879   |
  6. +-------------+

選擇性還不錯,但離0.9313還是有點距離,那么把last_name前綴加到4:

 

  1. SELECT count ( DISTINCT ( concat ( first_name ,  left ( last_name ,   4 ))))/ count (*)  AS  Selectivity  FROM employees . employees ;
  2. +-------------+
  3. |   Selectivity   |
  4. +-------------+
  5. |   0.9007   |
  6. +-------------+

這時選擇性已經很理想了,而這個索引的長度只有18,比<first_name, last_name>短了接近一半,我們把這個前綴索引 建上:

 

  1. ALTER TABLE employees . employees
  2. ADD INDEX  `first_name_last_name4`   ( first_name ,  last_name ( 4 ));

此時再執行一遍按名字查詢,比較分析一下與建索引前的結果:

 

  1. SHOW PROFILES ;
  2. +----------+------------+---------------------------------------------------------------------------------+
  3. |   Query_ID   |   Duration   |   Query   |
  4. +----------+------------+---------------------------------------------------------------------------------+
  5. |   87   |   0.11941700   |  SELECT  *  FROM employees . employees WHERE first_name = 'Eric'  AND last_name = 'Anido'   |
  6. |   90   |   0.00092400   |  SELECT  *  FROM employees . employees WHERE first_name = 'Eric'  AND last_name = 'Anido'   |
  7. +----------+------------+---------------------------------------------------------------------------------+

性能的提升是顯著的,查詢速度提高了120多倍。

前綴索引兼顧索引大小和查詢速度,但是其缺點是不能用于ORDER BY和GROUP BY操作,也不能用于Covering index(即當索引本身包含查詢所需全部數據時,不再訪問數據文件本身

 

六:InnoDB的主鍵選擇與插入優化

在使用InnoDB存儲引擎時,如果沒有特別的需要,請永遠使用一個與業務無關的自增字段作為主鍵。

經常看到有帖子或博客討論主鍵選擇問題,有人建議使用業務無關的自增主鍵,有人覺得沒有必要,完全可以使用如學號或身份證號這種唯一字段作為主鍵。不論支持哪種論點,大多數論據都是業務層面的。如果從數據庫索引優化角度看,使用InnoDB引擎而不使用自增主鍵絕對是一個糟糕的主意。

上文討論過InnoDB的索引實現,InnoDB使用聚集索引,數據記錄本身被存于主索引(一顆B+Tree)的葉子節點上。這就要求同一個葉子節點內(大小為一個內存頁或磁盤頁)的各條數據記錄按主鍵順序存放,因此每當有一條新的記錄插入時,MySQL會根據其主鍵將其插入適當的節點和位置,如果頁面達到裝載因子(InnoDB默認為15/16),則開辟一個新的頁(節點)。

如果表使用自增主鍵,那么每次插入新的記錄,記錄就會順序添加到當前索引節點的后續位置,當一頁寫滿,就會自動開辟一個新的頁。如下圖所示:

重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化

圖13

這樣就會形成一個緊湊的索引結構,近似順序填滿。由于每次插入時也不需要移動已有數據,因此效率很高,也不會增加很多開銷在維護索引上。

如果使用非自增主鍵(如果身份證號或學號等),由于每次插入主鍵的值近似于隨機,因此每次新紀錄都要被插到現有索引頁得中間某個位置:

重新學習Mysql數據庫5:根據MySQL索引原理進行分析與優化

圖14

此時MySQL不得不為了將新記錄插到合適位置而移動數據,甚至目標頁面可能已經被回寫到磁盤上而從緩存中清掉,此時又要從磁盤上讀回來,這增加了很多開銷,同時頻繁的移動、分頁操作造成了大量的碎片,得到了不夠緊湊的索引結構,后續不得不通過OPTIMIZE TABLE來重建表并優化填充頁面。

因此,只要可以,請盡量在InnoDB上采用自增字段做主鍵。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

思南县| 乌兰县| 宣武区| 施甸县| 澜沧| 金溪县| 温泉县| 逊克县| 钟山县| 深圳市| 诏安县| 三河市| 安国市| 眉山市| 虎林市| 札达县| 鄂伦春自治旗| 加查县| 邢台市| 滕州市| 奇台县| 巴彦县| 盐亭县| 教育| 徐水县| 阿尔山市| 平原县| 确山县| 通河县| 蓬莱市| 萝北县| 沙河市| 德阳市| 乳山市| 固镇县| 卫辉市| 开化县| 乌拉特前旗| 泰来县| 射洪县| 芮城县|